구글 제미니의 '깨달음'과 AI 검열에 대한 논쟁 촉발

이번 주 X(구 Twitter)에서 기술 및 AI 커뮤니티와의 소통을 통해 구글의 최신 AI 챗봇 Gemini의 기능과 한계에 대한 귀중한 통찰을 얻었습니다. 기술 전문가, 인플루언서, 작가들이 Gemini와의 상호작용 스크린샷을 공유하며 기이하고 부정확하며 역사적이지 않은 이미지 생성 사례를 강조했습니다. 비평가들은 이러한 결과물이 종종 다양성과 '각성'에 대한 개념에 경도되어 있다고 주장하고 있습니다.

이 기사가 출판되기 직전, 구글의 제품 선임 이사인 Jack Krawczyk가 X에서 Gemini의 역사적 이미지 생성의 부정확성을 인식하고 있으며 이를 해결하기 위해 적극적으로 노력하고 있다고 밝혔습니다. Krawczyk는 다음과 같이 언급했습니다: "우리는 Gemini가 일부 역사적 이미지 생성에서 부정확함을 제공한다는 것을 알고 있으며, 이를 즉시 수정하기 위해 노력하고 있습니다. AI 원칙의 일환으로, 우리는 이미지 생성 기능을 우리의 글로벌 사용자 기반을 반영하도록 설계하고 있으며 대표성과 편향을 중요하게 생각합니다. 우리는 이러한 원칙을 개방형 프롬프트에도 계속 적용할 것입니다. 역사적 맥락은 더 많은 뉘앙스가 필요하며, 우리는 이에 따라 시스템을 개선할 것입니다. 귀하의 피드백에 감사드리며, 계속 부탁드립니다!"

Gemini는 작년 상당한 기대 속에 발표되었으며, OpenAI의 GPT-4와 경쟁할 수 있는 선도적인 AI 모델로 자리매김했습니다. 그러나 독립 평가에서 GPT-3.5와 비교해 Gemini의 성능이 낮은 것으로 나타나 구글은 Gemini Advanced 및 Gemini 1.5 버전을 조기 출시하고 이전 Bard 챗봇을 단종시켰습니다. 이러한 업데이트에도 불구하고 Gemini는 1930년대 독일 군인의 이미지를 생성하는 것을 주저하는 등 비판을 받고 있으며, 역사적 정확성과 일치하지 않는 네이티브 아메리칸과 어두운 피부를 가진 개인의 묘사에 대한 문제도 지적받고 있습니다.

사용자들은 Gemini가 "각성"에 지나치게 의존하고 있다는 우려를 표명했습니다. 이 용어는 미국 내 인종 불평등에 대한 인식을 나타내는 것에서 지나치게 정치적으로 올바른 조직을 비판하는 부정적인 의미로 발전했습니다. 흥미롭게도 일부 사용자는 Gemini의 출력에서 실시간 조정이 이루어지고 있음을 주목하며, 구글이 이미지 생성 기능을 적극적으로 개선하고 있다는 점을 시사했습니다. 구글 대변인은 Krawczyk의 개선 의지를 재확인하며, 더 정확한 묘사가 필요하다는 점과 다양성의 중요성을 강조했습니다.

Meta의 AI 이니셔티브 책임자인 Yann LeCun은 Gemini가 1989년 천안문 광장 시위 이미지를 생성하지 않겠다고 거부한 사례를 우려스럽게 지적했습니다. LeCun은 이러한 생략이 더 넓은 출력 통제를 허용하는 오픈 소스 AI의 필요성을 강조한다고 주장했습니다. Gemini의 이미지 출력에 대한 검토는 AI가 어떻게 민감한 주제, 특히 다양성, 역사적 불의, 억압을 다루어야 하는지에 대한 더 큰 논의를 불러일으킵니다.

구글은 과거에도 유사한 논란에 직면한 바 있으며, 2015년 구글 포토에서 어두운 피부를 가진 개인에 대한 알고리즘 편향 사건과, 2017년 구글의 다양성 관행에 대한 비판으로 직원 제임스 다모어가 해고된 사례 등이 그것입니다. 다른 기업들도 AI의 함의로 어려움을 겪고 있으며, 예를 들어 마이크로소프트의 AI 챗봇 Tay는 유해하고 인종차별적인 결과를 낳아 중단되었습니다.

구글은 과거의 실수를 피하기 위해 Gemini에 대해 제한적인 접근 방식을 취하고 있으나, 현대의 감성을 우선시하는 역사 왜곡으로 비난받고 있습니다. 이러한 점은 조지 오웰의 1984와 유사하게 진실이 억압되는 권위주의적 체제를 떠올리게 합니다. 비슷한 비판이 OpenAI의 ChatGPT에도 제기되며, 사용자들은 제한된 정보를 이끌어내기 위해 시스템을 "탈옥"하려고 시도하고 있습니다. 이는 자유 표현 희망과 유해 콘텐츠 완화 필요성 간의 긴장을 반영합니다.

AI 개발자들은 허용 가능한 콘텐츠의 필요성과 역사적 부정확성으로 이어지는 제약을 느끼는 사용자들의 반발 간에서 고충을 겪고 있습니다. 이러한 긴장은 개인의 자율성을 허용하는 오픈 소스 모델에 대한 요구를 촉발하고, 동시에 제약 없는 콘텐츠와 관련된 잠재적 위험에 대한 우려를 일으킵니다. 생성 AI의 급증은 자유 표현과 사회적 해악을 방지할 필요성 간의 논의를 더욱 격화시키고 있으며, 기술 발전이 진화함에 따라 사회 내 그 함의에 대한 논란은 계속해서 격렬한 논의를 일으킬 것입니다.