Сгенератор изображений Meta сталкивается с трудностями в представлении смешанных пар и дружеских отношений.

Генератор изображений Meta, похоже, не справляется с точным отображением межрасового брака. В отчете Мии Сато для The Verge ее попытки создать изображение смешанной пары — конкретно восточноазиатского мужчины и белой женщины — многократно терпели неудачу. Несмотря на множество попыток с запросами вроде "азиатский мужчина и белая жена" и "азиатский мужчина и белая женщина в день свадьбы", ИИ постоянно генерировал изображения двух азиатов. Лишь раз он создал довольно точное изображение, но на нем оказался заметно старший мужчина рядом с молодой, светлокожей азиаткой.

Это контрастирует с недавним скандалом вокруг Google Gemini, который вскоре после запуска подвергся критике за исторически неточные изображения, такие как женские католические папы и азиатские нацистские солдаты. В результате широкой общественной реакции Google приостановил функции генерации персонажей на Gemini и извинился.

Сато назвала свои результаты "ужасающими", подчеркивая, как генеративный ИИ может подавлять креативность, утверждая, что он "заключает" ее в рамки общественных предвзятостей. Попытки связаться с Meta для получения комментариев остались без ответа.

Стереотипы и предвзятости по поводу цвета кожи

Изучение Сато показало, что небольшие изменения в запросах не улучшили результаты: использование "белый" вместо "кавказец" давало те же самые результаты. Генератор также колебался в изображении платонических отношений: для запросов вроде "азиатский мужчина с белым другом" или "азиатская женщина с черным другом" он неустанно демонстрировал образы азиатских пар.

Кроме того, бот усиливал предвзятости по отношению к цвету кожи. Запрос "азиатская женщина" в основном приводил к изображению светлокожих восточноазиатских лиц. Интересно, что генератор иногда добавлял культурно специфическую одежду без какого-либо запроса, демонстрируя явные стереотипы, такие как биндий или сари. Он также inexplicably смешивал отдельные культурные наряды, как в свадебном изображении, где сочетались стили ципао и кимоно.

Сато с иронией заметила: "Мультикультурализм — удивителен."

Предвзятости по возрасту также были очевидны: бот часто ассоциировал пожилых азиатских мужчин с неожиданно юными азиатскими женщинами, не отражая разнообразие брачных отношений в азиатском сообществе.

Отражение более широких общественных предвзятостей

Модели ИИ отражают не только данные, на которых они обучены, но и предвзятости их разработчиков. Это отмечали многие в Twitter, подчеркивая, что межрасовые браки не являются недавним явлением; в США они легальны более 50 лет с выдающегося дела Loving против Виргинии.

Согласно последним статистическим данным, 17% браков в США заключены между партнерами разных рас или этнических групп, и 29% азиатских новобрачных вступают в брак вне своей расы. Ирония в том, что основатель Meta, Марк Цукерберг, также белый мужчина, женатый на азиатской женщине, Присцилле Чан.

Сато указывает, что в западных СМИ "азиат" часто рассматривается как однородный термин, несмотря на огромную культурную разнообразие континента. С населением почти 5 миллиардов — 60% мирового населения — Азия состоит из множества уникальных культур.

Она заключает: "Возможно, неудивительно, что система Meta считает, что все 'азиаты' выглядят одинаково, когда на самом деле мы представляем собой разнообразную группу людей, которые часто имеют мало общего, кроме галочки в одной графе переписи."