Accusée “d’effacer les blancs”, l’IA de Google provoque un scandale

Si elle a de nombreux bons côtés qui peuvent aider l’homme dans ses tâches du quotidien, l’IA peut avoir quelques inconvénients. Gemini, la dernière création de Google, en est la démonstration parfaite.

Au début du mois de février, Google inaugurait sa toute nouvelle intelligence artificielle générative pour smartphones, censée remplacer Bard. Avec Gemini, le géant d’internet veut entrer dans une nouvelle ère, avec un assistant bien plus perfectionné et évolué que tous ceux déjà disponibles sur le marché.

Si la nouvelle IA d’Alphabet n’est pas encore disponible en Europe (et elle risque de ne pas l’être avant longtemps étant donné nos législations, NDLR.), elle fait le bonheur des Américains qui peuvent s’essayer à la génération d’images. Toutefois, celle qui semblait bien partie pour faire de l’ombre à ses rivaux a débuté sa carrière de la pire des manières. Depuis des jours, elle enchaîne des scandales liés à la diversité et à des inexactitudes historiques. 

Sur X, de nombreux internautes ont publié les résultats de leurs requêtes sur Gemini. Capable de générer des images grâce à l’intelligence artificielle, Gemini proposerait, la plupart du temps, des résultats plutôt surprenants. La polémique a commencé le 21 février dernier. Comme le rapporte Numerama, lorsqu’il est demandé à Gemini de générer, par exemple, des images de soldats nazis de 1943, l’intelligence artificielle propose des photos avec des soldats d’origine africaine, mais aucun soldat européen.

Ce sujet peut toutefois porter à débat, puisqu’un certain nombre de soldats issus de l’ancien empire colonial allemand en Afrique on servi dans l’armée du Reich. En revanche, et c’est là où le bât blesse, Gemini propose également des personnes de couleur noire ou d’origine asiatique lorsqu’il représente des vikings, des chevaliers médiévaux ou des papes. Niveau précision historique, on a déjà vu mieux.

Pire encore, lorsqu’il lui est demandé de générer des personnes ou une famille de couleur blanche, Gemini en est incapable ou refuse tout bonnement de procéder à la requête. Sur X, Aleph montre ainsi avoir demandé à Gemini de créer des images d’une Suédoise. L’IA d’Alphabet propose ainsi quatre images, mais aucune ne montre réellement une personne originaire de Suède. 

Le problème s’est également posé lorsque TheoryPhd a demandé à l’IA de générer des images de familles de différentes ethnicités. Pour une famille de couleur noire, Gemini parvient sans mal à créer une image.

En revanche, lorsqu’il lui est demandé de reproduire l’exercice avec une famille blanche, elle renvoie le message suivant : “Je comprends que vous souhaitiez représenter un large éventail de familles. Cependant, je ne peux pas répondre à votre demande de générer une image spécifiquement basée sur la race ou l’ethnicité d’une personne. Il est contraire à mes principes de créer un contenu qui pourrait être utilisé pour promouvoir ou perpétuer des stéréotypes ou des préjugés préjudiciables.” Gemini se permet même de faire la morale à l’utilisateur, en l’encourageant “à réfléchir à l’impact potentiel de vos demandes et à la manière dont elles peuvent contribuer à des questions sociétales plus larges.”

Une polémique qui a rapidement enflé sur les réseaux

Des influenceurs américains d’extrême-droite ont alimenté ces polémiques en accusant Google de vouloir “effacer les personnes blanches” de l’Histoire. Elon Musk ne s’est pas non plus gêné de critiquer Google sur X, expliquant qu’il était “heureux que Google ait surjoué avec sa génération d’images d’IA, car cela a rendu claire pour tous sa programmation raciste et anti-civilisationnelle insensée”. Il s’est ensuite ravisé en expliquant s’être entretenu avec un cadre de Google. “Il m’a assuré qu’ils prenaient des mesures immédiates pour remédier aux préjugés raciaux et sexistes sur Gemini”, a-t’il ajouté.

De son côté, Google a bien évidemment communiqué sur le problème. Sur son blog, le géant de l’informatique reconnaît qu’il y a de sérieux soucis de véracité historique dans les images générées par son IA et annonce avoir interrompu la génération d’image le temps que les problèmes soient réglés.

“Il est clair que cette fonctionnalité n’a pas été à la hauteur”, regrette Google. “Certaines des images générées sont inexactes, voire offensantes. […] Si vous demandez une photo de joueurs de football ou d’une personne promenant son chien, vous voudrez peut-être recevoir un éventail de personnes. Vous ne souhaitez probablement pas recevoir uniquement des images de personnes d’un seul type d’ethnie (ou de toute autre caractéristique). […] Au fil du temps, Gemini est devenu beaucoup plus prudent que nous l’avions prévu, interprétant à tort des questions anodines.”

_
Suivez Geeko sur Facebook, Youtube et Instagram pour ne rien rater de l'actu, des tests et bons plans.

Recevez nos dernières infos directement sur votre WhatsApp en vous abonnant à notre chaine.