Qu’est-ce qui pourrait mal se passer si l’on donnait à l’IA le contrôle des armes nucléaires ?
Qu'est-ce qui vient de se passer? Si vous pensez que la perspective d’une intelligence artificielle contrôlant les avions de combat, les drones et les tourelles de mitrailleuses est préoccupante, pensez aux ramifications potentielles de la prise de décision par l’IA sur le déploiement d’armes nucléaires. Les États-Unis sont l’un des pays qui ont déclaré que le contrôle des armes nucléaires serait également entre des mains humaines, et ils souhaitent que la Chine et la Russie fassent la même promesse.
Paul Dean, responsable du contrôle des armements au Département d'État, a déclaré lors d'un point de presse en ligne que Washington avait pris un « engagement clair et fort » à garder les humains sous le contrôle des armes nucléaires, et non de l'IA. Dean a ajouté que la Grande-Bretagne et la France ont pris le même engagement.
« Nous accueillerions favorablement une déclaration similaire de la part de la Chine et de la Fédération de Russie », a déclaré Dean via Reuters. « Nous pensons qu'il s'agit d'une norme extrêmement importante de comportement responsable et nous pensons que c'est quelque chose qui serait très bienvenu dans un contexte P5. » P5 fait référence aux cinq membres permanents du Conseil de sécurité des Nations Unies : la Chine, la France, la Russie, le Royaume-Uni et les États-Unis.
La Chine et les États-Unis ont repris les discussions sur les armes nucléaires en janvier, même si les négociations formelles sur le contrôle des armements pourraient prendre du temps. La nation asiatique, qui étend ses capacités nucléaires, a déclaré que les plus grands pays dotés de capacités nucléaires devraient négocier entre eux un traité de non-utilisation en premier.
Les armes nucléaires russes sont particulièrement préoccupantes depuis l’invasion de l’Ukraine. Le président Vladimir Poutine a déclaré en février 2023 qu'il suspendait sa participation au traité START, un accord entre la Russie et les États-Unis visant à réduire et à limiter leurs arsenaux nucléaires et à permettre aux pays d'inspecter mutuellement leurs installations d'armes nucléaires.
Les armes contrôlées par l’IA progressent à un rythme effrayant. Le mois dernier, l'US Air Force a testé avec succès un avion de combat piloté par l'IA lors de combats aériens contre des pilotes humains. Des histoires similaires ont eu lieu l’année dernière, notamment les projets américains visant à contrer la menace chinoise avec une flotte massive de drones et de systèmes autonomes alimentés par l’IA. Nous avons également entendu parler de l'utilisation croissante de ces armes par Israël.
Elon Musk était l’un des nombreux experts qui ont appelé à l’interdiction des armes contrôlées par l’IA en 2017. En réponse, l’armée a déclaré que la décision finale d’attaquer une cible revenait toujours aux humains et non aux machines.
