Une minorité bruyante souhaite que Google adhère à ses propres principes en matière de développement de l'IA
Ne soyez pas méchant : DeepMind est un laboratoire de recherche britanno-américain spécialisé dans l'intelligence artificielle et les algorithmes d'apprentissage automatique. L'entreprise a fini par intégrer Google avec la promesse de ne pas utiliser les recherches en IA à des fins militaires, mais il semble désormais que Mountain View ne respecte pas cette promesse.
Environ 200 employés de DeepMind ont signé une lettre exhortant l'entreprise à mettre fin à ses contrats avec des clients militaires. Selon un rapport du Time, la lettre a été envoyée aux dirigeants de Google plus tôt cette année. Cependant, les dirigeants n'ont pas répondu aux inquiétudes des employés concernant l'utilisation abusive potentielle de l'IA pour des applications nuisibles ou liées à la guerre.
Selon Time, la lettre a été signée par environ 5 % des salariés de DeepMind, soit une petite partie de l'équipe travaillant sur les projets d'IA les plus avancés de Google au sein du laboratoire de recherche. Bien qu'ils soient minoritaires, ces employés représentent une préoccupation croissante des employés de Google concernant l'utilisation militaire d'algorithmes intelligents – un domaine qui devrait être tabou selon les propres principes de développement de l'IA de Google.
Les principes de Google en matière d'IA mettent l'accent sur l'optimisme quant au potentiel de la technologie tout en indiquant explicitement que l'entreprise ne poursuivra pas certaines applications si la technologie est susceptible de causer des dommages. Ces principes interdisent le développement d'armes ou d'autres technologies conçues pour causer directement ou indirectement des dommages, ainsi que des solutions d'IA pour des applications de surveillance qui violent les traités internationaux.
La lettre des employés de DeepMind, datée du 16 mai, exprime des inquiétudes quant à l'implication récente de Google auprès d'organisations militaires. Bien que la lettre ne traite pas spécifiquement de la géopolitique actuelle ou d'un conflit particulier, elle met en évidence les inquiétudes concernant les rapports sur les relations commerciales de Google avec la Défense militaire israélienne dans le cadre d'une collaboration connue sous le nom de Projet Nimbus.
Selon certaines informations, Google fournirait des capacités de cloud computing et des services d'intelligence artificielle à l'armée israélienne dans le cadre du projet Nimbus. La lettre fait également référence à des allégations selon lesquelles Tel-Aviv utiliserait l'intelligence artificielle pour la surveillance de masse afin de sélectionner des cibles dans les campagnes de bombardement en cours à Gaza. La lettre stipule : « Toute implication dans la fabrication d'armes et d'armes militaires a un impact sur notre position de leaders en matière d'intelligence artificielle éthique et responsable, et va à l'encontre de notre déclaration de mission et des principes énoncés en matière d'intelligence artificielle. »
Ces dernières années, Demis Hassabis et d’autres personnalités du secteur des technologies, dont Stephen Hawking et Steve Wozniak, ont exprimé leurs inquiétudes quant à l’utilisation de l’intelligence artificielle comme arme. Ils ont plaidé pour une interdiction pure et simple de ces armes. La dernière lettre des employés de DeepMind appelle à une enquête interne approfondie sur l’utilisation des services Google par les fabricants d’armes et d’équipements militaires, ainsi qu’à l’arrêt de l’utilisation de la technologie développée par DeepMind pour des applications militaires.
Trois mois après l'envoi de la lettre, des sources proches du dossier ont déclaré au Time que Google n'avait pas réagi. Officiellement, l'entreprise a déclaré que le projet Nimbus n'avait aucun lien avec les charges de travail militaires, les armes ou les services de renseignement. Cependant, une source a déclaré au Time que la déclaration de Google était « tellement vague que nous ne savons pas vraiment ce qu'elle signifie ».
