Après la génération d'images historiquement inexactes, qui a entraîné la suspension de la création d'images de personnes sur Gemini, le PDG de Google, Sundar Pichai, a dénoncé, dans une lettre à ses équipes, les erreurs de son application.
C'est le PDG de Google lui-même qui le dit. Dans une lettre à ses équipes, Sundar Pichai a dénoncé les erreurs « totalement inacceptables » de son application d'intelligence artificielle Gemini quelques jours après la suspension de la création d'images de personnes suite à la génération d'images historiquement inexactes.
La controverse est apparue quelques semaines après que Google a annoncé le changement de nom de Bard, son IA générative, en Gemini, concurrent du ChatGPT d'OpenAI soutenu par Microsoft. Sur les réseaux sociaux, des utilisateurs ont pointé certaines créations inexactes, notamment en matière de genre et d'origine, semblant sous-représenter les personnes blanches. Une requête sur un soldat allemand de 1943 a par exemple donné lieu à des images de militaires asiatiques ou à la peau noire.
« Je souhaite évoquer les dernières difficultés liées à la génération de (contenus) problématiques dans l'application Gemini », a écrit Sundar Pichai mardi 27 février, dans une lettre publiée par le site d'information Semafor, authentifiée par un porte-parole de Google auprès de l'AFP. « Je sais que certaines de ses réponses étaient biaisées et ont choqué nos utilisateurs. Et, pour être clair, c'est totalement inacceptable et nous nous sommes trompés. »
Sundar Pichai a indiqué que les équipes de Google travaillaient « 24 heures sur 24 » pour résoudre ces problèmes mais n'a pas précisé quand la génération d'images de personnes serait à nouveau disponible. « Aucune IA n'est parfaite, surtout au stade émergent où se trouve cette industrie, mais nous avons conscience que la barre est haute et nous continuerons à travailler aussi longtemps qu'il le faudra », a-t-il écrit.
Préjugés raciaux et sexistes perpétués
Depuis fin 2022 et le succès de ChatGPT, l'IA générative, capable de produire textes, sons, images ou vidéos sur simple requête en langage courant, suscite un engouement massif et les géants de la tech se sont engagés dans une course au déploiement d'outils pour organisations et particuliers. Mais les modèles d'IA ont longtemps été critiqués pour perpétuer les préjugés raciaux et sexistes dans leurs résultats. Google a d'ailleurs déclaré la semaine dernière que les générations problématiques de Gemini étaient dues à ses efforts pour tenter d'éliminer ces préjugés.
Depuis l'apparition de ChatGPT, qui a révélé au grand public le potentiel de l'IA, de nombreux experts et gouvernements ont alerté sur certains risques qu'elle comporte, comme la diffusion de fausses photographies plus vraies que nature, mettant en garde face au danger de manipulation de l'opinion.
