Les deepfakes ont depuis longtemps cessé d’être considérés comme des « farces » que l’on peut trouver sur Internet. Entre-temps, l’ancien gadget technique est également utilisé pour mettre dans la bouche de personnes de marque des mots qu’ils n’ont pas réellement prononcés. Cette tactique a été plus fréquemment observée comme moyen de propagande russe, notamment dans le contexte de la guerre en Ukraine. Mais apparemment, d’autres agences apprécient également les deepfakes. L’armée américaine en fait partie. Ces derniers aimeraient utiliser les contrefaçons comme moyen de tromperie numérique à l’avenir.
Appel aux deepfakes des forces spéciales américaines
Dans la guerre en Ukraine, la Russie utilise de plus en plus les deepfakes à des fins de propagande intérieure. Et cette approche est également fièrement présentée publiquement. Par exemple, selon un article du Süddeutsche Zeitung de novembre 2022, Vladimir Poutine s’est fait diffuser une vidéo deepfake par le chancelier allemand Olaf Scholz lors d’un salon technologique. Scholz y prononça un discours dont le contenu ne sortit jamais des véritables lèvres du chancelier. Au lieu de cela, une technologie sophistiquée garantissait qu’un Olaf Scholz réaliste prononçait les mots qu’un programmeur ou une IA lui mettait dans la bouche. Un tel faux peut être prometteur à plusieurs niveaux.
D’une part, cela peut remonter le moral dans son propre pays. D’un autre côté, il peut être utilisé pour diffuser de faux messages vidéo. C’est ce qui s’est produit à l’été 2022 lorsque la maire (encore) en exercice de Berlin, Franziska Giffey (SPD), a reçu un faux appel de Vitali Klitschko. La vidéoconférence, truquée avec l’aide de Deepfake, a ensuite été revendiquée par un duo de comédiens russes. L’efficacité de ces contrefaçons semble cependant susciter bien plus que de simples critiques. Le commandement des opérations spéciales (SOCOM) des États-Unis d’Amérique voit dans la technologie une arme plutôt merveilleuse du présent et du futur. Dans la guerre de l’information notamment, la manipulation de vidéos, d’images, mais aussi d’enregistrements sonores pourrait être utilisée comme une arme puissante.
Un pas fatal dans la mauvaise direction ?
Les attaques individuelles de deepfake de la part de la Russie révèlent que Vladimir Poutine et avec lui l’armée russe accordent apparemment beaucoup d’importance à la technologie. Afin de ne pas perdre, la SOCOM exige désormais que davantage d’argent soit investi dans des techniques de manipulation appropriées. Un catalogue de revendications a été publié par le magazine The Intercept. Selon le rapport, le but des deepfakes est d’influencer les médias et les réseaux sociaux d’un pays. La réaction des médias aux deepfakes publiés dans le cadre de la guerre en Ukraine montre clairement que cela est facilement possible. Cependant, il est toujours apparu assez rapidement que les vidéos étaient fausses. Si SOCOM parvient à ses fins, elle souhaite porter la manipulation des images et du son à un tout autre niveau.
Apparemment, ils ne veulent pas craindre les attaques de piratage contre les téléviseurs intelligents régionaux ou d’autres appareils connectés à Internet. Imaginez simplement qu’une plateforme comme YouTube soit soudainement pleine de faux deepfakes. Cependant, tout le monde n’est pas enthousiasmé par ces projets tournés vers l’avenir. Surtout pas aux USA. Après tout, le gouvernement a toujours souligné la nécessité de travailler sur des contre-mesures. Des voix opposées se font également entendre dans le secteur de l’apprentissage automatique. Par exemple, dans le rapport de The Intercept, l’expert en IA Chris Meserole a souligné qu’en matière de désinformation, il ne faut « pas combattre le feu par le feu ». Après tout, manipuler des fichiers audio et/ou images détruirait « les fondements mêmes de la démocratie ».
