Le gouvernement s'inquiète enfin du fait que les deepfakes ne concernent plus seulement les ex et les actrices
Mieux vaut tard que jamais: L’essor de l’intelligence artificielle n’a pas été sans controverse, et des procès pour atteinte au droit d’auteur ont été intentés un peu partout. Elle a également suscité des inquiétudes chez les experts quant à sa croissance rapide et à son utilisation pour diffuser de la désinformation. Le Congrès est finalement intervenu pour créer une définition et un cadre juridiques répondant à ces préoccupations.
Le Sénat américain vient d'adopter une nouvelle loi intitulée « Content Origin Protection and Integrity from Edited and Deepfake Media Act » (COPIED Act). Ce projet de loi qui fait grincer des dents vise à interdire l'utilisation contraire à l'éthique du contenu généré par l'IA et de la technologie deepfake. Il vise également à réglementer l'utilisation de matériel protégé par le droit d'auteur dans la formation des modèles d'apprentissage automatique.
Proposée et parrainée par les démocrates Maria Cantwell de Washington et Martin Heinrich du Nouveau-Mexique, ainsi que par la républicaine Marsha Blackburn du Tennessee, la législation vise à établir des normes de transparence applicables dans le développement de l'IA. Les sénateurs ont l'intention de charger les National Institutes of Standards and Technology d'élaborer des lignes directrices judicieuses en matière de transparence si le projet de loi est adopté.
« La loi bipartite COPIED, que j'ai présentée avec le sénateur Blackburn et le sénateur Heinrich, apportera la transparence indispensable autour du contenu généré par l'IA », a déclaré le sénateur Cantwell.
La législation vise également à limiter l’utilisation non autorisée de données dans les modèles de formation. L’acquisition de données de formation se situe actuellement dans une zone grise juridique. Au cours des dernières années, nous avons assisté à des débats et à des poursuites judiciaires concernant la légalité de la collecte d’informations en ligne accessibles au public. Clearview AI est probablement le plus grand abuseur de cette méthode de formation, mais il n’est pas le seul. D’autres, dont OpenAI, Microsoft et Google, ont eu du mal à trouver un équilibre entre la légalité et l’éthique lorsqu’il s’agit de former leurs systèmes sur du matériel protégé par le droit d’auteur.
« L’intelligence artificielle a donné aux acteurs malveillants la possibilité de créer des deepfakes de chaque individu, y compris ceux de la communauté créative, pour imiter leur image sans leur consentement et tirer profit de contenus contrefaits », a déclaré le sénateur Blackburn. « La loi COPIED constitue une étape importante pour mieux défendre les cibles communes comme les artistes et les interprètes contre les deepfakes et autres contenus non authentiques. »
Les sénateurs estiment qu’il est essentiel de clarifier et de définir ce qui est acceptable et ce qui ne l’est pas en matière de développement de l’IA afin de protéger les citoyens, les artistes et les personnalités publiques des dommages que pourrait causer une mauvaise utilisation de cette technologie, notamment en créant des deepfakes. Le porno deepfake est un problème depuis des années maintenant, et la technologie n’a fait que s’améliorer. Il est révélateur que le Congrès ait ignoré le problème jusqu’à présent. La proposition intervient quelques mois seulement après qu’une personne ait utilisé une technologie de clonage vocal pour se faire passer pour le président Biden, en disant aux gens de ne pas voter.
« Les deepfakes constituent une véritable menace pour notre démocratie et pour la sécurité et le bien-être des Américains », a déclaré le sénateur Heinrich. « Je suis fier de soutenir le projet de loi COPIED du sénateur Cantwell, qui fournira les outils techniques nécessaires pour lutter contre les contenus nuisibles et trompeurs générés par l'IA et mieux protéger les journalistes et les artistes professionnels contre l'utilisation de leurs contenus par des systèmes d'IA sans leur consentement. »
Les suspects habituels se sont prononcés en faveur du projet de loi. La Nashville Songwriters Association International, la SAG-AFTRA, la National Music Publishers' Association, la RIAA et plusieurs organisations de radiodiffusion et de presse ont publié des déclarations saluant cet effort. Pendant ce temps, Google, Microsoft, OpenAI et d'autres fournisseurs d'IA sont restés étrangement silencieux.