Le PDG de Google aborde la controverse sur la génération d'images de Gemini : il qualifie les problèmes d'« inacceptables » et s'engage à trouver une solution.

Récemment, le PDG de Google, Sundar Pichai, a abordé publiquement les préoccupations concernant l'outil de génération d'images alimenté par l'IA, Gemini. Cet outil a été critiqué pour ses sorties d'images historiques qui représentent de manière incohérente les personnes de couleur, par exemple en les dépeignant à tort comme des Vikings ou des papes catholiques autochtones. Pichai a qualifié cette situation d'« inacceptable » et s'est engagé à « travailler sans relâche » pour résoudre ces problèmes.

Dans un message adressé aux employés, Pichai a souligné : « Aucune intelligence artificielle n'est parfaite, surtout dans cette industrie émergente. Cependant, nous reconnaissons la nécessité de respecter des normes élevées et nous resterons engagés aussi longtemps qu'il le faudra. Nous examinerons attentivement ce qui s'est passé afin de résoudre ces problèmes à grande échelle. »

Il a également annoncé que, bien que le chatbot Gemini (anciennement connu sous le nom de Bard) ait réalisé des progrès significatifs dans divers prompts, les capacités de génération d'images de Google Gemini seront suspendues jusqu'à ce que les problèmes soient entièrement résolus.

Prabhakar Raghavan, vice-président senior de Google en charge des connaissances et de l'information, a expliqué l'origine du problème. Il a précisé que l'erreur ne résidait pas dans le modèle lui-même, mais dans une série d’erreurs survenues lors du processus de réglage. Bien que le modèle ait cherché à tenir compte de populations diverses dans ses données d'entraînement, il a « échoué à considérer des situations qui ne devraient pas être représentées. » De plus, le modèle est devenu de plus en plus prudent, refusant parfois de répondre à certains prompts pour éviter de produire des erreurs sensibles ou absurdes.

Pour éviter de tels problèmes à l'avenir, Google s'engage dans une série complète de corrections et de tests, incluant des ajustements structurels, des lignes directrices pour les produits mises à jour, des processus de publication améliorés, des mécanismes d'évaluation renforcés et la mise en œuvre de recommandations techniques et de « red teaming ». Pichai se montre optimiste quant à l'avenir de Gemini et prévoit que le générateur d'images sera opérationnel à nouveau bientôt.

Cet incident rappelle les défis rencontrés dans le développement des technologies de l'IA. Bien que des progrès significatifs aient été réalisés, l'industrie doit continuer à aspirer à l'amélioration. En tant que leader du secteur, la réponse de Google aura des implications de grande portée pour l'ensemble du domaine.