이번 주 구글의 새로운 AI 챗봇인 제미니(Gemini)와 관련된 논란이 있었습니다. 이 챗봇은 미국 건국 아버지들을 흑인으로 묘사하고 구글의 창립자들을 아시아인으로 표현하는 등 역사적으로 부정확한 이미지를 생성했습니다. 이에 구글은 사람의 이미지를 생성하는 AI의 기능을 일시적으로 중단한다고 발표했습니다. 구글은 사용자들의 우려를 해결하고 있으며, 향후 이 기능을 재개할 계획이라고 밝혔습니다.
기술 리더, 작가, 제미니 사용자들이 공유한 스크린샷에 따르면, 이 AI는 역사적 정확성과 관계없이 다양한 배경을 가진 인물들의 이미지를 자주 생성하는 것으로 나타났습니다. 예를 들어, 과거에 존재하지 않았던 흑인 가톨릭 교황, 대부분 어두운 피부가 아니었던 바이킹, 그리고 대부분이 아시아인이 아니었던 나치 독일 군인 등을 묘사했습니다.
이미지 생성 AI 모델들은 편견을 없애고 다양성을 촉진하는 것을 목표로 하고 있지만, 제미니의 기본 출력은 구글의 표현 방식에 대한 논란을 촉발해 많은 조롱과 비난을 받았습니다. 이에 대해 구글의 제품 수석 이사인 잭 크라우치크(Jack Krawczyk)는 문제를 인정하고, 역사적 맥락을 존중하면서도 인물 묘사에 있어 다양성을 유지하기 위해 모델을 개선하고 있다고 밝혔습니다. 그는 “우리의 AI 원칙을 바탕으로, 이미지 생성 기능은 글로벌 사용자 기반을 반영하도록 설계되었으며, 표현과 편견을 진지하게 다루고 있습니다”라고 말했습니다.
이 상황은 사용자들과 저명 인사들로부터 큰 비판을 받았으며, 벤처 캐피탈리스트 마크 앤드리센(Marc Andreessen)과 폴 그레이엄(Paul Graham)을 포함한 이들이 제미니와 같은 AI 챗봇의 다양성과 사실 정확성 간의 균형에 대한 광범위한 논의에 불을 붙였습니다. 이 논란은 뉴욕 포스트와 같은 주류 매체에도 보도되었습니다.
구글이 해결 방안을 모색하는 동안, 제미니가 처음으로 비판을 받은 것은 아니었습니다. 2023년 12월 제미니 모델 계열이 출시된 이후, 오픈AI의 GPT-4와 비교되며 이뤄진 프로모션에도 불구하고 구글은 지속적인 도전에 직면해왔습니다. 초기 출시에서는 제미니의 능력을 과장한 연출 영상으로 논란을 일으켰고, 독립 연구자들의 검토 결과 제미니는 오픈AI의 이전 모델인 GPT-3.5보다 성능이 떨어지는 것으로 나타났습니다.
이번 달 구글은 바드(Bard) 챗봇의 브랜드를 제미니로 변경하고 구독자를 위한 고급 버전을 도입한 한편, 워크스페이스용으로 개편한 듀엣 AI를 제미니 이름으로 홍보했습니다. 제미니 1.5와 어드밴스드의 영상 분석 및 문서 파싱에서 향상된 기능을 약속했지만, 이러한 장점은 계속되는 논란에 가려질 수 있습니다.
크라우치크는 부정확한 이미지 생성과 같은 문제를 보고하는 것이 개선에 필수적이라고 강조했습니다. 그러나 문제가 계속 발생하면 구글의 제미니를 경쟁적인 생성 AI 분야에서 선도적인 위치로 올리려는 노력을 해칠 수 있습니다.
순위 목록
