« Le clonage de voix et d’images générés par l’IA sème déjà la confusion »
Qu’est-ce qui vient de se passer? La FCC s’apprête à rendre illégale l’utilisation de voix générées par l’IA dans les appels automatisés après un message conçu pour ressembler à celui du président Biden qui a dit aux habitants du New Hampshire de ne pas voter lors de la primaire du mois dernier. L’agence s’inquiète de l’utilisation de la technologie audio deepfake pour confondre et tromper les consommateurs en imitant les voix de « célébrités, candidats politiques et membres de la famille proche ».
La proposition de la présidente de la FCC, Jessica Rosenworcel, rendrait illégale l’utilisation de voix générées par l’IA dans les appels automatisés en vertu de la loi sur la protection des consommateurs par téléphone, ou TCPA.
La loi TCPA de 1991 restreint les appels de télémarketing et l’utilisation de systèmes de numérotation téléphonique automatique et de messages vocaux artificiels ou préenregistrés. Elle exige également que les télévendeurs obtiennent au préalable le consentement écrit exprès des consommateurs avant de les appeler automatiquement. La FCC souhaite que les voix générées par l’IA soient soumises à ces mêmes normes. Les cinq membres de la Commission devraient voter sur la proposition dans les semaines à venir.
« Le clonage de voix et d’images générés par l’IA sème déjà la confusion en faisant croire aux consommateurs que les escroqueries et les fraudes sont légitimes », a déclaré Rosenworcel dans un communiqué. « Quelle que soit la célébrité ou le politicien que vous privilégiez, ou la relation que vous entretenez avec vos proches lorsqu’ils appellent à l’aide, il est possible que nous soyons tous la cible de ces faux appels. »
La société de détection de fraude vocale Pindrop a analysé le faux message de 39 secondes qui ressemblait à Biden disant aux résidents du New Hampshire de ne pas voter et a découvert qu’il avait été créé à l’aide d’un moteur de synthèse vocale créé par ElevenLabs. La startup utilise un logiciel d’intelligence artificielle pour reproduire les voix dans plus de deux douzaines de langues.
Bloomberg rapporte qu’ElevenLabs a confirmé que son logiciel avait été utilisé lors de l’incident du New Hampshire et a banni le compte responsable. Le bureau du procureur général du New Hampshire a annoncé une enquête sur les faux appels de Biden.
Un porte-parole de la FCC a déclaré que la modification potentielle de la loi donnerait aux procureurs généraux des États de nouveaux pouvoirs dans la lutte contre les fraudeurs par appels automatisés qui utilisent l’IA, tout en protégeant également les consommateurs.
La FCC se bat depuis des années contre les appels automatisés. En décembre 2022, il a proposé une amende de 300 millions de dollars contre une opération transnationale illégale d’appels automatisés qui a effectué plus de cinq milliards d’appels automatisés vers plus de 500 millions de numéros de téléphone sur une période de trois mois en 2021. Une amende de 225 millions de dollars a également été infligée pour les appels automatisés trompeurs. sorti en 2020.
Faire entendre la voix des membres de la famille est devenu une tactique populaire parmi les criminels cherchant à voler de l’argent à des victimes sans méfiance. Ce crime est en augmentation à mesure que les technologies d’IA générative deviennent plus faciles à acquérir, moins chères et plus convaincantes.
