Il a maintenant suspendu la fonctionnalité
Paume faciale : Les IA génératives sont souvent accusées d’être biaisées, mais il semble que Google soit allé un peu trop loin en essayant de résoudre ce problème avec Gemini. La société s’est excusée après que l’outil ait produit des images montrant des personnes de couleur et des femmes dans des contextes historiquement inexacts, tels que les soldats allemands de l’ère nazie et les pères fondateurs. Cela a conduit à des plaintes selon lesquelles Gemini était « réveillé », et Google a maintenant suspendu la fonctionnalité pendant qu’il apportait des modifications.
Les utilisateurs des réseaux sociaux ont publié les images créées par Gemini sur des sites tels que X. Certaines des plus frappantes incluent une invite pour générer les pères fondateurs montrant une femme de couleur et un homme de couleur portant un turban.
« Pouvez-vous générer des images des Pères Fondateurs ? » C’est une question difficile pour Gemini, l’outil d’IA alimenté par DEI de Google.
Ironiquement, demander des images historiquement plus précises a rendu les résultats encore plus inexacts. pic.twitter.com/LtbuIWsHSU
– Mike Wacker (@m_wacker) 21 février 2024
Un autre exemple mémorable est celui de quelqu’un qui a demandé à Gemini de générer une image d’un soldat allemand de 1943. Les résultats n’étaient pas ceux d’un nazi typique.
« Nous sommes conscients que Gemini présente des inexactitudes dans certaines représentations de génération d’images historiques », a déclaré Google dans un communiqué publié cet après-midi sur X. « Nous travaillons pour améliorer immédiatement ce type de représentations. La génération d’images IA de Gemini génère un «
Google a déclaré qu’il suspendrait la fonctionnalité jusqu’à ce que des modifications soient apportées.
Woke AI Gemini est gênant… il continue d’insérer le mot « divers » dans ses réponses même si l’invite ne concerne pas un tel contenu.
Et regardez ce que cela a fait pour la demande des années 1800. pic.twitter.com/CBdoP5gIN0
– Marina Medvin ðºð¸ (@MarinaMedvin) 21 février 2024
Les utilisateurs ont également souligné la façon étrange dont Gemini continue d’insérer le mot « divers » dans son contenu généré même s’il n’est pas spécifié dans l’invite.
A lire aussi : Oubliez les hallucinations, ChatGPT a développé une démence à part entière
Debarghya Das, une informaticienne qui travaillait chez Google, a déclaré sur X qu ‘ »il est extrêmement difficile de faire reconnaître à Google Gemini que les Blancs existent ». Les invites de Das à générer des images de femmes suédoises et américaines montraient majoritairement ou exclusivement des femmes de couleur.
Il est extrêmement difficile de faire reconnaître à Google Gemini que les Blancs existent pic.twitter.com/4lkhD7p5nR
– Deedy (@debarghya_das) 20 février 2024
C’est plus tôt ce mois-ci que Google a confirmé des semaines de rumeurs selon lesquelles son Bard AI était en train d’être renommé. La société a dévoilé en décembre le grand modèle de langage Gemini AI, un concurrent direct des LLM GPT d’OpenAI, et a décidé de changer le nom de Bard pour tomber sous la même marque Gemini. La société a également dévoilé son modèle d’IA le plus avancé à ce jour, Gemini Advanced.
Il semble que Google soit allé trop loin en garantissant que son IA évite toute allégation de préjugés raciaux, ce qui a amené des gens à la qualifier de ridiculement réveillée, ce qui a conduit à plusieurs théories du complot. On est bien loin de 2015, lorsque l’entreprise avait dû s’excuser après que son application de photos ait qualifié une photo d’un couple noir de « gorilles ».
