Escambaiting, à la manière d'Abe Simpson
Bref: Les IA de type humain ont suscité de nombreuses inquiétudes légitimes quant à leur capacité à remplacer les travailleurs humains, mais une entreprise utilise cette technologie contre l'un des plus grands fléaux de l'humanité : les escrocs téléphoniques. L'IA imite la cible la plus populaire des criminels, une personne âgée, qui garde les fraudeurs au téléphone le plus longtemps possible dans des conversations qui ne mènent nulle part, à la grand-père Simpson.
La création d'O2, le plus grand opérateur de réseau mobile du Royaume-Uni, Daisy, ou dAIsy, est une IA créée pour tromper les escrocs en leur faisant croire qu'ils parlent à une vraie grand-mère qui aime se promener. Si et quand l’IA transmet les coordonnées bancaires demandées, elle lit de faux numéros et noms.
Le logiciel est conçu pour garder les gens en ligne le plus longtemps possible. Non seulement cela signifie moins de temps pour les escrocs pour cibler de vrais humains, mais O2 utilise également les conversations pour apprendre les astuces et techniques préférées utilisées dans ces stratagèmes.
Comme vous pouvez l'entendre dans la vidéo, les escrocs ne sont pas contents d'être trompés – ils deviennent de plus en plus en colère et jurent. Le robot est si convaincant qu’il a réussi à garder certaines personnes au téléphone pendant 40 minutes d’affilée.
Si vous avez vu l'une des nombreuses chaînes YouTube qui escroquent les escrocs, parfois en utilisant un changeur de voix pour ressembler à une vieille dame, vous saurez à quoi vous attendre. Daisy a été formée avec l'aide de l'un des fraudeurs les plus populaires de la plateforme, Jim Browning.
Daisy fonctionne en écoutant un appelant et en transcrivant sa voix en texte. Les réponses sont générées via un LLM personnalisé doté d'une couche de personnalité du personnage, puis sont renvoyées via un modèle de synthèse vocale IA personnalisé pour générer une réponse vocale. Tout cela se déroule en temps réel.
Les clients d'O2 n'ont pas accès à Daisy afin qu'ils puissent mener leur propre campagne de vengeance contre les escrocs. Au lieu de cela, l’outil d’IA a été ajouté à une liste de numéros « cibles faciles » utilisés par les fraudeurs. Daisy est capable d'interagir avec les appelants 24h/24 et 7j/7 sans aucune intervention des contrôleurs humains.
Murray Mackenzie, directeur de la fraude chez Virgin Media O2, a déclaré : « Nous nous engageons à jouer notre rôle pour arrêter les fraudeurs, en investissant dans tout, depuis la technologie de pare-feu pour bloquer les SMS frauduleux jusqu'à la détection des appels spam basée sur l'IA pour assurer la sécurité de nos clients. Mais surtout, Daisy nous rappelle également que peu importe à quel point une personne à l'autre bout du fil peut être convaincante, elle n'est pas toujours celle que vous pensez.
Daisy a été créée en réponse à une étude d'O2 qui a révélé que 71 % des Britanniques aimeraient se venger des escrocs qui les ont trompés, eux ou leurs proches, mais la plupart ont déclaré qu'ils ne se lanceraient pas dans des escroqueries car ils ne voulaient pas gaspiller. leur temps.
Même si le travail effectué par l’IA peut être applaudi, sa capacité à converser avec quelqu’un de manière aussi convaincante est déconcertante. Ironiquement, une technologie similaire est également utilisée par des escrocs pour faire croire aux gens qu’ils parlent à leurs proches.
