«Мы, народ», должны взять на себя управление ИИ, а не технологические корпорации или политические элиты. Недавние неудачи Google с его системой ИИ Gemini подчеркивают эту неотложность. Gemini не точно оценивает исторические фигуры, утверждая, что Гитлер не хуже твитов Илоны Маска. Она уклоняется от составления политических документов, поддерживающих использование ископаемых видов топлива. Более того, она генерирует изображения, неправильно изображающие отцов-основателей США в других расах и полах, нежели они были на самом деле.
Эти примеры могут показаться абсурдными, но они сигнализируют о надвигающейся дистопии, где непредставительные бюрократы в частных ИИ-компаниях диктуют, какие идеи и ценности могут быть выражены. Это неприемлемо для всех, независимо от идеологии.
Запрашивание вмешательства правительства для регулирования речи ИИ также несет в себе риски. Хотя регулирование крайне важно для безопасности ИИ и его справедливости, свободное общество должно противостоять попыткам государственных структур диктовать, какие идеи можно озвучивать или подавлять.
Очевидно, что ни корпорации, ни государственные учреждения не должны принимать такие решения. Тем не менее, когда пользователи обращаются к ИИ-инструментам для получения информации и генерации контента, они будут иметь разнообразные ожидания относительно ценностей, которые эти инструменты должны отражать.
Существует жизнеспособное решение: наделить пользователей полномочиями управлять ИИ.
Стратегии наделения пользователей полномочиями в ИИ
За последние пять лет я сотрудничал с технологической отраслью как академический политолог, исследуя способы наделения пользователей полномочиями в управлении онлайн-платформами. Вот что я узнал о том, как эффективно поставить пользователей во главу ИИ.
1. Определенные пользователем ограничения: Необходимо создать рынок для разнообразных, настроенных моделей ИИ. Разные заинтересованные стороны — журналисты, религиозные группы, организации и частные лица — должны иметь возможность настраивать и выбирать версии открытых моделей, которые соответствуют их ценностям. Это снизит давление на компании в качестве «арбитров правды».
2. Централизованные ограничения: Хотя рыночный подход снижает некоторые давления, основные ограничения по-прежнему должны существовать. Определенный контент — особенно незаконные материалы или неоднозначные примеры сатиры, оскорблений или политически чувствительных изображений — требует единых стандартов для всех моделей. Пользователи должны участвовать в установлении этих минимальных централизованных ограничений.
Некоторые технологические компании уже экспериментируют с демократизацией. Например, Meta в 2022 году инициировала форум для сообщества, чтобы собрать общественное мнение о своем инструменте LlaMA, в то время как OpenAI искала «демократические идеи для ИИ», а Anthropic выпустила Конституцию ИИ, созданную пользователями.
3. Настоящая демократическая сила: Для создания надежной демократической структуры пользователи должны предлагать, обсуждать и голосовать по важным вопросам, и их решения должны быть обязательными для платформы. Хотя предложения должны быть ограничены, чтобы избежать юридических нарушений, они должны наделять пользователей полномочиями над централизованными ограничениями.
Хотя ни одна платформа еще не внедрила такой механизм голосования, эксперименты в web3 предлагают ценные идеи. Вот четыре ключевых урока, которые платформы ИИ могут принять:
- Осязаемые ставки голосования: Привязать право голоса к цифровым токенам c платформенной полезностью, например, для покупки вычислительных ресурсов ИИ.
- Делегированное голосование: Пользователи должны делегировать свои голоса проверенным экспертам, которые публично объясняют свои решения.
- Награды за участие: Поощрять активное участие в управлении, награждая пользователей дополнительными токенами за значимое взаимодействие.
- Ясная Конституция: Установить конституционную рамку, описывающую объём предложений, распределение голосов и обязательство компании отказаться от контроля над центральными ограничениями.
Создание доверия в системах ИИ
Платформы ИИ могут протестировать эту демократическую модель в малом масштабе, постепенно расширяя её влияние. Для успеха ИИ-компании должны обязаться отказаться от контроля над центральными ограничениями. Только тогда общество сможет доверять, что информация и ответы, предоставляемые этими инструментами, не манипулируются непредставительными актерами, которые не соответствуют ценностям пользователей, которым они служат.
Рейтинг
