Beaucoup de gens croiront ce qu’ils veulent
Une patate chaude : L’une des nombreuses craintes entourant l’IA générative est sa capacité à créer de la désinformation qui se propage ensuite en ligne. Mais alors que les entreprises et les organisations s’efforcent de lutter contre ce phénomène qui ne cesse de s’aggraver, il semble que le plus grand défi auquel elles soient confrontées réside dans les personnes qui refusent de croire que quelque chose est faux.
L’intelligence artificielle est utilisée depuis des années pour créer de la désinformation, mais la nouvelle vague d’IA générative a apporté des avancées que peu de gens auraient pu imaginer. Des images, des vidéos et des clips audio convaincants peuvent tous être créés et utilisés pour influencer ou renforcer les opinions du public.
Une partie du problème réside dans le fait que de nombreuses personnes se méfient des institutions qui peuvent confirmer que quelque chose est faux. Il suffit de regarder les réseaux sociaux pour voir toutes les accusations d’influences néfastes à l’œuvre, ainsi que la phrase « Bien sûr qu’ils vouloir vous faire croire que ce n’est pas réel. » La situation n’est pas aidée par le fait que de nombreux utilisateurs sont incapables de repérer ces contrefaçons.
Hany Farid, expert en analyse des deepfakes et professeur à l’Université de Californie à Berkeley, a déclaré à Bloomberg : « Les médias sociaux et les êtres humains ont fait en sorte que même lorsque nous entrons, vérifions les faits et disons : « non, c’est faux ». ‘, disent les gens, ‘Je me fiche de ce que vous dites, cela est conforme à ma vision du monde.' »
« Pourquoi vivons-nous dans ce monde où la réalité semble si difficile à saisir ? » il a dit. « C’est parce que nos politiciens, nos médias et Internet ont alimenté la méfiance. »
L’une des plus grandes préoccupations concernant la désinformation créée par l’IA générative concerne tout ce qui concerne les élections de l’année prochaine. Microsoft a averti le mois dernier que des agents chinois utilisaient la technologie à cette fin, créant des images et d’autres contenus axés sur des sujets politiquement controversés, notamment la violence armée et le dénigrement des personnalités et symboles politiques américains.
La propagation de ce type de désinformation électorale aux États-Unis a été minime jusqu’à présent, mais on s’attend à ce qu’elle s’accentue. C’est particulièrement mauvais sur X/Twitter, qui, selon l’UE, est la pire plateforme de désinformation ; une désignation intervenue juste au moment où X désactivait une fonctionnalité permettant aux utilisateurs de signaler des informations erronées liées aux élections.
En fin de compte, les personnes constituent généralement le plus grand obstacle lorsqu’il s’agit de lutter contre la désinformation générée par l’IA. Beaucoup partagent ce contenu parce qu’ils ne savent tout simplement pas qu’il est faux, et avec les vidéos et les images devenant de plus en plus réalistes, il peut être difficile de les convaincre du contraire.