Google a présenté des excuses vendredi pour les images inexactes et potentiellement offensantes générées par son nouvel outil d'IA, Gemini. Cette réaction fait suite aux signalements d'utilisateurs indiquant que Gemini produisait des images historiquement inexactes et racialement diverses pour des requêtes concernant des figures comme les soldats nazis et les Pères fondateurs des États-Unis.
Dans un billet de blog, Prabhakar Raghavan, vice-président senior de Google, a reconnu que certaines images générées étaient « inexactes ou même offensantes », admettant que l'entreprise avait « manqué son objectif ».
Raghavan a précisé que Google cherchait à éliminer les biais en garantissant une large représentation des personnes dans les requêtes ouvertes. Cependant, il a souligné que les requêtes nécessitant un contexte historique spécifique devaient produire des représentations exactes.
« Par exemple, si vous demandez une image de joueurs de football ou de quelqu'un promenant un chien, des représentations diverses sont appropriées. Vous ne souhaitez probablement pas des images d'une seule ethnie », a-t-il expliqué. « En revanche, si vous demandez des images d'individus ou de groupes spécifiques dans des contextes historiques particuliers, la réponse doit refléter votre demande de manière précise. »
Les Défis du Biais et de la Diversité dans l'IA
Cet incident met en lumière le défi continu du biais dans les systèmes d'IA, qui peuvent involontairement amplifier les stéréotypes. D'autres outils d'IA ont également été critiqués pour leur manque de diversité ou pour des représentations inappropriées. Dans sa quête d'inclusivité, Google semble avoir trop corrigé, produisant des images historiquement discordantes, telles que des sénateurs américains racially diversifiés du XIXe siècle et des soldats nazis multi-ethniques, ce qui a entraîné des moqueries et des accusations de politiquement correct excessif de la part de critiques de divers horizons.
En réponse à ces préoccupations, Google a temporairement suspendu la capacité de Gemini à générer des images de personnes, affirmant qu’il améliorerait cette fonctionnalité avant un relancement.
Les Implications Plus Profondes de la Controverse Gemini
Le fiasco de Gemini reflète des problèmes plus larges dans les initiatives d'IA de Google. Suite au lancement récent, l'entreprise a attiré des critiques non seulement pour les controverses d'images, mais aussi pour une vidéo promotionnelle qui exagérait les capacités de Gemini et pour les critiques antérieures de son modèle d'IA, Google Bard.
Alors que des concurrents comme Microsoft et OpenAI gagnent du terrain, Google peine à définir sa vision d'une « ère Gemini ». Le rythme rapide des lancements de produits d'IA et des efforts de rebranding—from Bard à Gemini—laisse les consommateurs confus.
Ces échecs soulignent la difficulté de réconcilier exactitude historique et diversité tout en révélant des faiblesses sous-jacentes dans la stratégie de Google. Autrefois leader de la technologie de recherche, Google rencontre désormais des difficultés à fournir des solutions d'IA cohérentes.
Les problèmes découlent en partie de l'éthique technologique actuelle de « bouger vite et briser des choses ». Google a hâtivement lancé Gemini et ses itérations pour rivaliser avec des outils comme ChatGPT, mais cette approche précipitée a érodé la confiance des consommateurs. Pour restaurer sa crédibilité, Google doit élaborer une feuille de route IA bien pensée plutôt que de multiplier des lancements superficiels.
De plus, cet incident soulève des questions sur les processus internes de développement de l'IA chez Google. Des rapports antérieurs indiquent que les efforts pour intégrer des considérations éthiques dans l'IA ont stagné. Google doit prioriser la création d’équipes d’IA inclusives et diverses, guidées par des leaders axés sur un déploiement sûr et responsable de la technologie, plutôt que simplement expéditif.
Si Google ne tire pas les leçons de ces premières erreurs dans le paysage de l'IA, il risque de prendre du retard. Les utilisateurs recherchent de la clarté plutôt que de la confusion. L’incident Gemini démontre que Google a perdu le contrôle de ses sorties d'IA et de sa communication. Un retour aux principes fondamentaux pourrait être essentiel pour restaurer la confiance du public dans l'avenir de l'IA chez Google.
Classement
