Les démos utilisent des célébrités reconnaissables, mais l'application peut tout aussi facilement permettre à quelqu'un de se faire passer pour vous
Une patate chaude : La technologie du deepfake continue d'évoluer et le risque d'utilisation abusive augmente. Si les outils actuels exigent toujours que les utilisateurs imitent les manières, la voix et d'autres détails, les progrès réalisés dans le clonage de la voix et la synthèse vidéo pourraient rendre la création de sosies numériques en temps réel encore plus convaincante.
Depuis quelques jours, un nouveau logiciel baptisé Deep-Live-Cam fait fureur sur les réseaux sociaux. Il permet de créer des deepfakes en temps réel avec une facilité déconcertante. Le logiciel prend une photo d'une personne et applique son visage à un flux webcam en direct, en suivant la pose, l'éclairage et les expressions de la personne sur la webcam. Si les résultats ne sont pas parfaits, les progrès rapides de la technologie soulignent à quel point il est devenu plus facile de tromper les autres avec l'IA.
Quelques essais – ça marche presque parfaitement et c'est totalement en temps réel. Il m'a fallu 5 minutes pour l'installer. pic.twitter.com/Ow0QRF7WOj
– joao (@jay_wooow) 9 août 2024
Le projet Deep-Live-Cam est en cours de développement depuis la fin de l'année dernière, mais il a récemment attiré l'attention après que des vidéos d'exemple ont commencé à circuler en ligne. Ces clips montrent des individus imitant des personnalités de premier plan comme Elon Musk et George Clooney en temps réel.
La soudaine montée en popularité a propulsé brièvement le projet open source au sommet de la liste des dépôts les plus populaires de GitHub. Le logiciel gratuit est disponible sur GitHub, ce qui le rend accessible à toute personne ayant des connaissances de base en programmation.
L'utilisation abusive potentielle de Deep-Live-Cam a suscité des inquiétudes parmi les observateurs de la technologie. L'illustrateur Corey Brickley a eu la révélation que la plupart des technologies révolutionnaires récentes sont propices aux abus. « C'est étrange que toutes les innovations technologiques majeures qui sortent ces derniers temps soient classées dans l'arbre de compétences de la fraude », a tweeté Brickley, ajoutant : « C'est sympa, n'oubliez pas d'établir des mots de passe avec vos parents, tout le monde. »
Deep-Live-Cam est la tendance n°1 sur GitHub. Elle permet à n'importe qui de convertir une seule image en un deepfake en direct, instantanément et immédiatement. pic.twitter.com/yWuHgRaGDp
– Del Walker 🇵🇸 (@TheCartelDel) 12 août 2024
Bien que le commentaire de Brickley soit intentionnellement sarcastique, il met en évidence la possibilité pour les acteurs malveillants d'utiliser de tels outils à des fins de tromperie. Compte tenu de la prévalence et de l'accessibilité des technologies deepfake, définir un mot de passe pour confirmer votre identité à votre famille et à vos amis n'est pas une idée si folle.
La technologie d’échange de visages n’est pas nouvelle en soi. Le terme « deepfake » existe depuis 2017. Il est né d’un utilisateur de Reddit qui l’utilisait comme pseudonyme. Le redditeur publiait fréquemment des photos et des vidéos dans lesquelles il échangeait le visage d’un acteur porno avec celui d’une célébrité. À l’époque, la technologie était lente, coûteuse et loin d’être en temps réel. Cependant, ces techniques primitives se sont considérablement améliorées. Des projets comme Deep-Live-Cam et d’autres sont plus intelligents et plus rapides et ont abaissé la barrière d’entrée, permettant à toute personne disposant d’un PC standard de créer des deepfakes à l’aide de logiciels gratuits.
Le potentiel d’abus est déjà bien documenté.
En février, des escrocs en Chine se sont fait passer pour des dirigeants d’entreprise, dont le directeur financier, lors d’un appel vidéo et ont trompé un employé pour qu’il effectue des transferts d’argent de plus de 25 millions de dollars américains. L’employé était la seule personne réelle présente lors de la conférence téléphonique. Dans un cas similaire, quelqu’un aux États-Unis a récemment cloné la voix de Joe Biden pour dissuader les gens de voter lors des primaires du New Hampshire. Avec l’essor des logiciels de deepfake en temps réel comme Deep-Live-Cam, les cas de fraude vidéo à distance pourraient devenir plus courants, affectant non seulement les personnalités publiques mais aussi les particuliers ordinaires.
