Metaの画像生成ツール、混血カップルや友人関係の表現に課題を抱える

Home AIニュース Metaの画像生成ツール、混血カップルや友人関係の表現に課題を抱える

Metaの画像生成技術は、異人種間の結婚を正確に描写することに苦労しているようです。The Vergeのミア・サトーによる報告では、アジア系男性と白人女性の混血カップルの画像を生成しようとしたものの、何度も失敗に終わったとされています。「アジア系男性と白人の妻」や「結婚式のアジア人男性とカウカシアン女性」といったプロンプトを使用して数十回試みたものの、AIは常に二人のアジア人を生成しました。わずかに正確な画像が生成されたこともありましたが、その男性は明らかに年配で、若い肌の色が明るいアジア人女性と一緒に写っていました。

この問題は、最近のGoogle Geminiに関する論争と対照的です。同チャットボットは、そのローンチ直後に歴史的な誤りを含む描写、たとえば女性のカトリック教皇やアジア系のナチ軍兵士を描いたとして批判を受けました。広範な反発を受けて、GoogleはGeminiの人物生成機能を一時停止し、謝罪しました。

サトーは、生成的AIが創造性を抑圧し、社会的偏見の中で「幽閉する」と指摘し、結果を「ひどい」と表現しました。Metaにはコメントを求めましたが、返答はありませんでした。

ステレオタイプと肌の色に関する偏見

サトーの探求は、プロンプトを少し調整しても結果が改善されないことを明らかにしました。「Caucasian」ではなく「白人」を使っても同様の結果になるといいます。生成器はまた、友人関係を描くことにもためらいを見せました。「アジア人男性とカウカシアンの友達」や「アジア人女性と黒人の友人」というプロンプトでは、常にアジア人同士の画像が表示されました。

さらに、このAIは肌の色に関する偏見を強化しました。「アジア人女性」というプロンプトは、主に色白の東アジアの顔を生成しました。興味深いことに、生成器はプロンプトなしで文化特有の衣装を加えることがあり、ビンディーやサリーなどの明らかなステレオタイプを示しました。また、キモノとチーパオのスタイルを混ぜた結婚式の画像など、異なる文化の衣装を不可解に組み合わせることもありました。

サトーは皮肉を交えて、「多文化主義は素晴らしい」と述べました。年齢に関連する偏見も明らかで、AIは頻繁に年配のアジア人男性と驚くほど若いアジア人女性を組み合わせて描写し、アジアのコミュニティにおける結婚関係の多様性を正確に表現できていませんでした。

社会的偏見の反映

AIモデルは、そのトレーニングデータだけでなく、開発者の偏見も反映します。Twitterでは、多くのユーザーが指摘しており、異人種間結婚は決して新しい現象ではないと強調しています。アメリカでは、1967年の画期的なロビング判決以来、合法となり、現在では17％の結婚が異なる人種や民族のパートナー同士によるものです。そして、アジア系新婚者の29％が異人種間で結婚しています。皮肉なことに、Metaの創設者であるマーク・ザッカーバーグ氏も、アジア人女性のプリシラ・チャンと結婚しています。

サトーは、西洋メディアでは「アジア」が同質的な用語として扱われがちであり、多様な文化の存在が無視されていると指摘します。アジアは、約50億人—世界人口の60％—の多様な文化を持つ大陸です。彼女は、「皆が同じ国勢調査のボックスをチェックしているだけで、私たちがほとんど共通点を持たない多様な人々であるのに、Metaのシステムがすべての『アジア人』が同じに見えると仮定するのは意外ではないのかもしれない」と結論づけました。

Perplexityの成長がSEOの懸念を浮き彫りにし、Googleの優位性の弱点を明らかにする

OpenAIがChatGPT内でAI画像の直接編集機能を導入