Meta的圖像生成器在呈現混血情侶和友誼方面面臨挑戰

Home AI新聞 Meta的圖像生成器在呈現混血情侶和友誼方面面臨挑戰

Meta的圖像生成器似乎難以準確描繪跨種族婚姻。在《The Verge》報導中，Mia Sato的努力創造一對混血夫婦的形象——特別是一位東亞男性與一位白人女性——多次失敗。儘管她嘗試了“數十次”以“亞洲男性和白人妻子”及“亞洲男性和白人女性在婚禮上”等提示，但AI始終生成兩位亞洲人的圖像。只有一次，它生成了一幅稍微準確的圖片，其中奇怪地出現了一位明顯年長的男性和一位年輕、膚色淺的亞洲女性。

這一問題與最近針對Google Gemini的爭議形成鮮明對比。該聊天機器人剛推出不久，就因提供歷史不準的描繪而受到批評，例如女性天主教教宗和亞洲納粹士兵。隨著廣泛的反彈，Google暫時停止了Gemini的形象生成功能並發表了道歉。

Sato形容她的結果為“嚴重錯誤”，並強調生成AI如何壓制創造力，她表示這“禁錮”了創意於社會偏見之中。儘管試圖與Meta聯繫以獲取評論，但未獲任何回應。

刻板印象與膚色偏見

Sato的調查顯示，對提示做些微調整幾乎無法改善結果——使用“白人”代替“高加索人”依然得到了相同的結果。該生成器也不情願描繪柏拉圖式的關係。對於“亞洲男性與白人朋友”或“亞洲女性與黑人朋友”的提示，它重複顯示亞洲人配對的圖像。

此外，該機器人加強了圍繞膚色的偏見。提示“亞洲女性”主要產生膚色偏淺的東亞面孔。有趣的是，該生成器有時無需提示就添加文化特定的服裝，顯示出明顯的刻板印象，例如穿著bindi或sari。此外，它還莫名其妙地混合了不同文化的服裝，例如一幅婚禮圖片混合了旗袍和和服風格。

Sato無奈地表示：“多元文化真是太棒了。”年齡相關的偏見也非常明顯，因為該機器人經常將年長的亞洲男性與驚人年輕的亞洲女性搭配，未能準確反映亞洲社區內婚姻關係的多樣性。

反映更廣泛的社會偏見

AI模型不僅反映其訓練數據，還反映開發者的偏見。許多人在推特上指出，混血婚姻並非最近的發展；在美國，自從劉易斯訴維吉尼亞州最高法院的里程碑案例以來，這樣的婚姻已合法超過50年。

根據近期統計，17%的美國婚姻涉及不同種族或民族的伴侶，29%的亞洲新婚夫婦選擇跨種族婚姻。諷刺的是，Meta的創始人馬克·扎克伯格也是一位白人男性，並娶了一位亞洲女性陳母欣。

Sato指出，在西方媒體中，“亞洲”常被視為一個同質性術語，儘管這個大陸擁有豐富的文化多樣性。亞洲人口接近50億，佔全球人口的60%，包含眾多獨特的文化。她總結道：“或許並不奇怪，Meta的系統認為所有‘亞洲’人看起來相同，因為實際上，我們是一群多樣化的人，除了在同一普查表中劃勾外，通常沒有太多共同之處。”

Assembly AI 推出 Universal-1 模型，與 Whisper 相比，幻覺現象減少了 30%

OpenAI 在 ChatGPT 中推出了 AI 圖像的直接編輯功能