По мере приближения ко дню двухлетия ChatGPT и стремительного роста приложений генеративного ИИ, становится очевидным, что сосуществует две реальности: преобразующий потенциал этой технологии неоспорим, но риски, связанные с присущими моделям предвзятостями, значительны.
За менее чем два года ИИ прошел путь от помощи в повседневных задачах — таких как вызов такси и рекомендации покупок — до влияния на критические решения в таких сферах, как страхование, жилье, кредитование и социальные выплаты. Ранее незначительные предвзятости, как, например, рекомендация использовать клей для пиццы, становятся серьезной проблемой, когда речь идет о таких жизненно важных услугах.
Снижение предвзятости ИИ: Призыв к разнообразию
Встает вопрос: как эффективно снизить предвзятость ИИ, если обучающие данные сами по себе являются испорченными? Эта задача усложняется, когда создатели моделей не осознают предвзятость в ее различных формах. Решение заключается в увеличении разнообразия в командах ИИ — в частности, необходимо больше женщин, меньшинств и людей старшего поколения.
Ранняя подготовка и вовлеченность
Продвижение разнообразия в ИИ не должно вызывать споров. Тем не менее, за 30 лет работы в STEM я зачастую чувствовал себя в меньшинстве. Несмотря на значительный прогресс в технологической сфере, разнообразие в рабочей силе — особенно в области данных и аналитики — остается на прежнем уровне. Всемирный экономический форум сообщает, что женщины составляют лишь 29% работников STEM, при этом представляя почти половину (49%) общей рабочей силы в не-STEM областях. В математике и информатике чернокожие специалисты составляют всего 9%. Эти цифры остаются неизменными уже два десятилетия, и лишь 12% женщин достигают руководящих позиций.
Для исправления ситуации нам нужны комплексные стратегии, чтобы сделать STEM привлекательным для женщин и меньшинств, начиная с начальной школы. Яркий пример этому демонстрирует видео от Mattel, где девочки выбирают традиционные игрушки. После знакомства с вдохновляющими фигурами, такими как Эви Росквист, первая женщина-победительница Аргентинского Гран-при, их взгляды меняются. Это подчеркивает важность представительства для пробуждения интереса к STEM.
Мы должны целенаправленно передавать положительные сигналы о STEM юным девушкам, обеспечивая равные возможности для изучения. Сотрудничество с НКО, такими как Data Science for All и AI-курсы от фонда Marka Cubana, имеет ключевое значение. Нам также необходимо отмечать выдающихся женщин в этой области — таких как генеральный директор AMD Лиза Су, технический директор OpenAI Мира Мурати и Джой Булармвини из Альянса алгоритмической справедливости — чтобы показать, что STEM не является исключительно мужской сферой.
Данные и ИИ будут основой множества будущих профессий — от спортсменов до кинематографистов. Важно устранить барьеры, ограничивающие доступ меньшинств к STEM-образованию, и показать, что базовые знания в STEM открывают двери к различным карьерным путям.
Признание и решение предвзятости
Предвзятость ИИ проявляется двумя основными способами: через наборы данных, используемые для обучения, и через предвзятости людей, их создающих. Чтобы снизить предвзятость, мы сначала должны признать ее существование и понять, что все данные содержат врожденные предвзятости, часто усугубляемые бессознательными предрассудками.
Например, популярные генераторы изображений, такие как MidJourney, DALL-E и Stable Diffusion, когда получают запрос на "красивую женщину", в основном показывают молодых, стройных и белых людей, и лишь 2% показывают видимые возрастные изменения, а всего 9% изображают людей с темной кожей. Эти результаты отражают резкий разрыв с истинным разнообразием женственности.
Существуют и более тонкие предвзятости. Например, в начале своей карьеры в Цюрихе в конце 1980-х я не смогла открыть банковский счет как замужняя женщина, несмотря на то, что была основным кормильцем. Если ИИ-модели обучаются на исторических кредитных данных, представляющих женщин недостаточно, они могут не учитывать важные факторы, такие как декретные отпуска или перерывы на детский уход. Решение этих проблем может включать использование синтетических данных, созданных ИИ, но только если создатели осознают эти предвзятости.
Таким образом, крайне важно, чтобы разнообразные голоса — особенно женщин — принимали участие на каждом этапе разработки ИИ. Нельзя полностью доверять эту ответственность небольшой группе технологов, не отражающей богатое разнообразие глобального населения.
Сторонники разнообразия в ИИ
Хотя полное устранение предвзятости в ИИ может быть нереалистичной целью, игнорировать эту проблему также неприемлемо. Увеличение разнообразия в STEM и в командах разработки ИИ имеет решающее значение для создания более точных и инклюзивных моделей, которые приносят пользу всем.
Рейтинг
