구글, 부정확하고 오해의 소지가 있는 제미니 AI 이미지에 사과: 기대에 미치지 못했습니다.

구글은 금요일 자사의 새로운 제미니 AI 도구가 생성한 부정확하고 잠재적으로 불쾌한 이미지에 대해 사과했습니다. 이는 사용자들이 제미니가 나치 군인이나 미국 건국 아버지와 같은 역사적 인물과 관련된 프롬프트에 대해 역사적으로 부정확하고 인종적으로 다양한 이미지를 생성했다는 보고를 한 뒤 이루어진 반응입니다.

구글의 수석 부사장인 프라바카르 라가반은 블로그 게시물에서 일부 생성된 이미지가 "부정확하거나 심지어 불쾌할 수 있다"고 인정하며, 회사가 "기준을 벗어났다"고 밝혔습니다.

그는 구글이 개방형 프롬프트에서 다양한 사람들을 광범위하게 표현하려는 목표로 편견을 없애고자 했으나, 특정 역사적 맥락을 요구하는 프롬프트의 경우 정확한 표현이 필요하다고 강조했습니다.

“예를 들어, 축구 선수나 개를 산책하는 사람의 이미지를 요청할 경우 다양한 묘사가 적합합니다. 특정 민족만의 이미지는 원하지 않을 것입니다,”라고 그는 설명했습니다. “반대로 특정 개인이나 집단을 특정 역사적 맥락에서 요청할 경우, 그 요청을 정확히 반영하는 답변이 필요합니다.”

AI에서의 편견과 다양성 문제

이번 사건은 AI 시스템에서의 편견 문제를 부각시킵니다. 다른 AI 도구들도 다양성이 부족하거나 부적절한 표현으로 비판을 받아왔습니다. 포용성을 추구하는 과정에서 구글은 역사적으로 부정확한 이미지, 예를 들어 1800년대의 인종적으로 다양한 미국 상원 의원이나 다민족 나치 군인 이미지를 생산해 조롱과 과도한 정치적 올바름 주장에 직면했습니다.

이에 대응하여 구글은 사람 이미지를 생성하는 제미니의 기능을 일시 중단하고, 이 기능을 개선한 후 재출시할 것이라고 밝혔습니다.

제미니 논란의 더 깊은 의미

제미니 사건은 구글의 AI 이니셔티브에서 더 넓은 문제를 반영합니다. 최근 출시 이후, 구글은 이미지 논란뿐만 아니라 제미니의 능력을 과장한 홍보 비디오와 AI 모델 구글 바드에 대한 초기 비판으로 부정적인 주목을 받았습니다.

마이크로소프트와 오픈AI와 같은 경쟁사들이 성장하는 가운데, 구글은 "제미니 시대"에 대한 비전을 확립하는 데 어려움을 겪고 있습니다. 바드에서 제미니로의 급속한 제품 출시와 브랜드 전환은 소비자들에게 혼란을 야기했습니다.

이러한 실패는 역사적 정확성과 다양성을 조화롭게 하는 도전 과제를 강조합니다. 또한 구글의 전략에 내재된 약점을 드러냅니다. 한때 검색 기술의 선두주자였던 구글은 현재 일관된 AI 솔루션을 제공하는 데 어려움을 겪고 있습니다.

이 문제는 "빠르게 움직이고 부수라"는 기술적 정신에서 파생된 것입니다. 구글은 챗GPT와 같은 도구와 경쟁하기 위해 제미니와 그 변형을 서둘러 시장에 출시했지만, 이 러시 방식은 소비자 신뢰를 약화시켰습니다. 신뢰를 회복하기 위해 구글은 단순한 과시 보다는 잘 고려된 AI 로드맵이 필요합니다.

또한, 이번 사건은 구글의 내부 AI 개발 프로세스에 대한 의문을 제기합니다. 이전 보고서에 따르면 AI에 윤리적 고려사항을 통합하려는 노력은 지연된 상황입니다. 구글은 기술을 안전하고 책임감 있게 운용할 수 있는 리더로서 포괄적이고 다양한 AI 팀을 만드는 것을 우선해야 합니다.

구글이 AI 분야에서 초기 실수로부터 배우지 못한다면, 더 큰 뒤처짐을 초래할 위험이 있습니다. 사용자들은 혼란보다는 명확성을 원합니다. 제미니 사건은 구글이 AI 출력과 메시지를 모두 통제하지 못하게 되었음을 보여줍니다. 공공의 신뢰를 회복하기 위해서는 다시 기본 원칙으로 돌아가는 것이 필수적일 수 있습니다.