« Nous savions que l'IA allait changer la donne à un moment ou à un autre de notre vie »
Bref: L'homme qui a fait exploser un Tesla Cybertruck devant un hôtel Trump à Las Vegas au début du mois a utilisé ChatGPT pour l'aider à planifier l'attaque, a indiqué la police de Las Vegas. L'outil d'OpenAI a joué un rôle déterminant dans le succès de l'explosion, en fournissant des informations sur l'endroit où se procurer les matériaux et le type de cartouches d'armes à feu qui pourraient les enflammer.
Le béret vert de l'armée américaine Alan Livelsberger, 37 ans, a fait exploser le Cybertruck devant l'hôtel Trump International à Las Vegas le 1er janvier.
Hier, lors d'une conférence de presse, le service de police de Las Vegas et ses partenaires de l'ATF et du FBI ont révélé que Livelsberger avait posé à ChatGPT une série de questions liées à son crime au cours d'une heure dans les jours précédant l'explosion.
Certaines des questions posées par Livelsberger à ChatGPT comprenaient où il pouvait se procurer des explosifs pour l'explosion et quelles lois il devrait connaître, où acheter des armes à feu à Denver et la légalité des feux d'artifice en Arizona. Il a également demandé à quelle vitesse il faudrait tirer une arme à feu pour enflammer les explosifs dans le camion.
Le shérif Kevin McMahill a évoqué les craintes de longue date selon lesquelles l'IA générative pourrait faciliter la criminalité, qualifiant son utilisation de « changeur de jeu ».
« Nous savions que l'IA allait changer la donne à un moment ou à un autre de notre vie », a déclaré McMahill. « Certainement, je pense que c'est le premier incident sur le sol américain où ChatGPT est utilisé pour aider un individu à construire un appareil particulier pour apprendre des informations dans tout le pays au fur et à mesure qu'il avance. »
McMahill a déclaré qu'il n'était au courant de rien qui aurait signalé Livelsberger pour avoir posé à ChatGPT plus de 17 questions sur les armes à feu et les explosions sur une période d'une heure. Ses invites étaient rédigées dans un anglais simple, sans utilisation de termes susceptibles d'échapper aux garanties de ChatGPT.
Livelsberger s'est suicidé juste avant que le camion, chargé de 60 livres de matériel pyrotechnique, n'explose. Les responsables affirment que le flash de l'arme à feu que Livelsberger a utilisée pour se tirer une balle pourrait avoir déclenché l'explosion.
Malgré l'emplacement et l'utilisation d'un cybertruck, les forces de l'ordre ont déclaré que Livelsberger ne protestait pas contre Donald Trump. L’une des notes qu’il a laissées indiquait que le pays devait « se rallier » au président élu et PDG de Tesla, Elon Musk.
Un porte-parole d'OpenAI a déclaré qu'il était « attristé » par la nouvelle que Livelsberger utilisait sa technologie de cette manière.
« Nous sommes attristés par cet incident et déterminés à ce que les outils d'IA soient utilisés de manière responsable », a déclaré le porte-parole. « Nos modèles sont conçus pour refuser les instructions nuisibles et minimiser les contenus nuisibles. Dans ce cas, ChatGPT a répondu avec des informations déjà accessibles au public sur Internet et a fourni des avertissements contre les activités nuisibles ou illégales. »
En 2023, l'Agence de l'Union européenne pour la coopération des forces de l'ordre (Europol) a mis en garde contre les applications potentielles du ChatGPT en matière de criminalité. Il a mis en lumière des phénomènes tels que le phishing, la fraude, la désinformation et la cybercriminalité en général, mais il existe également des inquiétudes quant au fait que la technologie, en particulier les outils dotés de moins ou pas de garanties, pourrait être utilisée pour créer des armes, des armes biologiques et des explosifs.
12 commentaires
264 likes et partages