Est-ce réel, ou juste une erreur ?
Dans le contexte: Avec l’augmentation des arnaques aux deepfakes et à l’IA générative, la Maison Blanche affirme que des moyens de vérifier cryptographiquement leurs versions officielles sont « en préparation ». Aucun détail n’a encore été partagé sur ce à quoi ressemblerait finalement ce processus, mais il semble probable qu’il s’agirait d’une forme de « signature » de communiqués officiels d’une manière qui prouverait que la Maison Blanche était la véritable source.
La Maison Blanche a confirmé qu’elle étudiait actuellement des moyens de vérifier cryptographiquement les déclarations et les vidéos qu’elle diffuse, dans le but de lutter contre la montée des deepfakes à motivation politique.
En janvier, nous avons fait état d’un appel automatisé généré par l’IA qui avait simulé la voix du président Biden et demandé aux habitants du New Hampshire de ne pas voter lors des prochaines élections primaires. Cela a été suivi par la nouvelle cette semaine selon laquelle la présidente de la FCC, Jessica Rosenworcel, a présenté une proposition visant à interdire les voix générées par l’IA lors des appels automatisés.
Mais il est peu probable que l’interdiction de ces techniques suffise à empêcher les gens de les utiliser. C’est pourquoi, pour tenter de rassurer le public sur l’authenticité de leurs publications, la Maison Blanche se tournerait vers des techniques cryptographiques, permettant aux gens de vérifier ce qui est réel et ce qui ne l’est pas.
Une méthode courante pour y parvenir consiste à associer des clés privée et publique. La source d’une information génère une valeur de hachage pour une vidéo ou un document donné et la crypte à l’aide de sa clé privée. Ce hachage ne peut être déchiffré que par la clé publique, accessible à tous et attribuée à l’auteur original. Ainsi, un déchiffrement réussi à l’aide de la clé publique confirme le propriétaire de la clé privée – vérifiant ainsi la source.
Toute tentative de tiers visant à modifier le fichier ne contiendrait pas la valeur de hachage d’origine et ne serait donc pas en mesure de vérifier son authenticité.
Même si ces efforts apporteraient certainement certains avantages, certains risques potentiels doivent être pris en compte. Un usage approprié aiderait sans aucun doute les gens à vérifier les communications réelles, mais ces pouvoirs donneraient au président et à son personnel un moyen de revendiquer ce qu’est « la vérité ».
Si le président faisait une erreur ou une gaffe lors d’une vidéo de la Maison Blanche, il ne pourrait tout simplement pas signer le contenu de manière cryptographique et le qualifier de faux. Et il semble probable, étant donné l’état de division du paysage politique, que de tels pouvoirs pourraient et seraient transformés en armes.
Pour l’instant cependant, nous n’avons pas de calendrier pour ce développement. S’adressant à Business Insider, Ben Buchanan, conseiller spécial de Biden pour l’intelligence artificielle, a simplement confirmé que c’était « en préparation ».
