메타의 이미지 생성기가 복합 인종 커플과 우정을 표현하는 데 어려움을 겪고 있습니다.

메타의 이미지 생성기가 혼혈 결혼을 제대로 묘사하는 데 어려움을 겪고 있는 것으로 보입니다. The Verge의 미아 사토가 보고한 바에 따르면, 동아시아 남성과 백인 여성의 혼혈 커플 이미지를 만들려는 노력은 여러 번 실패로 돌아갔습니다. “아시아 남성과 백인 아내” 또는 “아시아 남성과 결혼식 날의 백인 여성”과 같은 프롬프트를 사용해 “수십 번” 시도했음에도 불구하고 AI는 계속해서 두 아시아인 이미지를 생성했습니다. 겨우 한 번, 다소 정확한 이미지가 생성되었으나, 이는 나이가 많은 남성과 젊고 밝은 피부의 아시아 여성이 함께 있는 이상한 모습이었습니다.

이 문제는 구글 제미니에 대한 최근 논란과 뚜렷한 대조를 이룹니다. 구글 제미니 출시 직후, 이 챗봇은 여성 카톨릭 교황이나 아시아 나치 병사와 같은 역사적으로 부정확한 묘사로 비판을 받았습니다. 광범위한 반발이 있자 구글은 제미니의 인물 생성 기능을 중단하고 사과했습니다.

사토는 자신의 결과를 “심각한 문제”로 언급하며, 생성적 AI가 창의력을 억압할 수 있다고 강조했습니다. 그녀는 AI가 사회적 편견 속에 창의력을 “가두어” 두고 있다고 설명했습니다. 메타에 대한 댓글 요청에 대해 응답은 없었습니다.

고정관념과 피부색 편향

사토의 연구에서는 프롬프트에 대한 사소한 조정이 결과 개선에 거의 도움이 되지 않았습니다. "백인" 대신 "코카서스인"을 사용해도 결과는 동일했습니다. 생성기는 플라토닉 관계를 묘사하는 데도 주저했습니다. “아시아 남성과 백인 친구” 또는 “아시아 여성과 흑인 친구”와 같은 프롬프트로 시도했으나, 아시아인 쌍의 이미지를 반복적으로 보여주었습니다.

더불어, 이 봇은 피부색에 관한 편견을 강화했습니다. "아시아 여성"이라는 프롬프트는 주로 밝은 색의 동아시아 얼굴 이미지를 생성했습니다. 흥미롭게도, 생성기는 때때로 특정 문화에 맞는 의상을 추가했으며, 이는 빈디나 사리와 같은 명백한 고정관념을 드러냈습니다. 결혼식 이미지는 기모노와 치파오 스타일의 혼합 의상을 무작위로 보여주는 이상적인 예시를 제공했습니다.

사토는 "다문화주의는 놀랍다."고 건조하게 언급했습니다. 연령 관련 편향도 명백하게 드러나, 봇은 종종 나이가 많은 아시아 남성과 놀랍도록 젊은 아시아 여성을 연결지어 정확히 아시아 커뮤니티 내의 결혼 관계 다양성을 나타내지 못했습니다.

더 넓은 사회적 편견 반영

AI 모델은 훈련된 데이터만 반영하는 것이 아니라, 개발자들의 편견도 반영합니다. 많은 사람들이 트위터에서 지적했듯이, 혼혈 결혼은 최근의 발전이 아닙니다. 미국에서는 유명한 러빙 대 버지니아 대법원 사건 이후 50년 넘게 법적으로 혼인해 왔습니다. 최근 통계에 따르면, 미국의 결혼 중 17%가 다른 인종이나 민족의 파트너를 포함하고 있으며, 아시아인 신혼부부의 29%가 자신의 인종 외의 사람과 결혼하고 있습니다. 아이러니하게도 메타의 창립자인 마크 저커버그는 아시아 여성인 프리실라 찬과 결혼한 백인 남성입니다.

사토는 서구 미디어에서 “아시아”가 대체로 동질적으로 취급된다고 지적하며, 아시아 대륙의 방대한 문화적 다양성에도 불구하고 그렇다고 강조했습니다. 약 50억 명—세계 인구의 60%—이 거주하는 아시아는 다양한 독특한 문화를 포함하고 있습니다. 그녀는 "모두 '아시아인'이 같은 모습으로 보인다고 가정하는 메타의 시스템이 놀랍지 않다고 생각합니다. 사실 우리는 동일한 인구 조사 항목을 마킹하는 것 외에 공통점이 거의 없는 다양한 사람들입니다."라고 결론지었습니다.