Une interdiction générale aurait des conséquences considérables
Une patate chaude : Le discours sur l’état de l’Union de Joe Biden hier soir a couvert plusieurs sujets liés à la technologie, notamment le clonage vocal de l’IA. Le président a appelé à « interdire l’usurpation d’identité vocale par l’IA », ce qui n’est pas trop surprenant étant donné que quelqu’un a utilisé sa voix pour tenter d’influencer une élection plus tôt cette année.
« Ici, chez moi, j’ai signé plus de 400 projets de loi bipartites. Il y en a encore d’autres pour faire adopter mon programme d’unité », a déclaré le président Biden lors de la présentation de l’état de l’Union. Il a ensuite cité certaines des propositions qu’il souhaite aborder s’il était élu pour un second mandat : « Renforcer les sanctions contre le trafic de fentanyl, adopter une législation bipartite sur la vie privée pour protéger nos enfants en ligne, exploiter la promesse de l’IA pour nous protéger du péril ». , interdire l’usurpation d’identité vocale par l’IA, et plus encore. »
Biden a de bonnes raisons d’appeler à l’interdiction du clonage vocal de l’IA. En janvier, un appel automatisé de 39 secondes a été envoyé aux électeurs du New Hampshire pour leur demander de ne pas voter aux élections primaires démocrates, mais de « conserver leurs votes » pour l’élection présidentielle de novembre. La voix qui donnait ce conseil ressemblait presque exactement à celle de Joe Biden. La société de détection de fraude vocale Pindrop a ensuite analysé l’appel, concluant qu’il avait été créé à l’aide d’un moteur de synthèse vocale créé par ElevenLabs, ce que la société a confirmé.
L’incident a conduit la FCC à rendre illégale l’utilisation de voix générées par l’IA dans les appels automatisés en vertu de la loi de 1991 sur la protection des consommateurs par téléphone. L’agence a fait part de ses inquiétudes quant au fait que la technologie était utilisée pour confondre et tromper les consommateurs en imitant les voix de « célébrités, candidats politiques et membres de la famille proche ».
L’étendue de l’interdiction proposée par Biden n’est pas claire. Cela pourrait être limité à certains domaines, comme l’imitation d’hommes politiques, mais le président semble parler d’une interdiction générale des usurpations d’identité vocales par l’IA, ce qui aurait des effets considérables.
Au-delà de la politique, l’utilisation de l’IA pour recréer les voix et les ressemblances des acteurs était l’un des enjeux à l’origine de la grève des acteurs du SAG-AFTRA. Il a pris fin après un accord garantissant que les acteurs donnaient leur consentement et étaient équitablement rémunérés lorsque leurs réplications d’IA étaient utilisées, même si tout le monde n’était pas satisfait de l’accord.
