Человечество на протяжении веков использовало убеждение для влияния на мнения других, иногда с добрыми намерениями и на основе фактов, а иногда и нет. Поэтому логично предположить, что развиваемые нами продвинутые системы ИИ обладают схожими способностями. Однако исследователи из Google DeepMind предупреждают, что манипуляции с помощью ИИ могут быть еще более опасными.
В недавней статье они исследуют, как ИИ убеждает людей, механизмы, способствующие этому процессу, и потенциальные опасности по мере того, как ИИ все больше интегрируется в нашу повседневную жизнь. “Недавние системы генеративного ИИ продемонстрировали продвинутые навыки убеждения, проникая в сферы жизни, где они могут влиять на принятие решений”, — отмечают исследователи. Они подчеркивают, что генеративный ИИ создает новый профиль рисков для убеждения из-за возможности взаимных обменов и длительных взаимодействий.
Что такое убеждение ИИ?
Убеждение можно классифицировать как рациональное или манипулятивное, различие заключается в намерении. Оба типа направлены на предоставление информации, способной формировать, укреплять или изменять поведение, убеждения или предпочтения. Рациональный генеративный ИИ предоставляет актуальные факты и надежные доказательства, тогда как манипулятивный ИИ использует когнитивные искажения и искаженную информацию, подрывая свободное мышление.
Исследователи определяют манипуляцию как "pro tanto wrong", в то время как рациональное убеждение обычно рассматривается как "этически допустимое". Тем не менее, обе практики могут причинить вред, поскольку рациональные выводы могут упустить важную информацию. Например, ИИ, призывающий к строгому подсчету калорий, может привести человека к нездоровой потере веса.
Факторы, такие как предрасположенность пользователя — включая возраст, психическое здоровье, личностные черты и контекстуальные элементы — также играют значительную роль в том, как воспринимается убеждение ИИ. В конечном итоге исследователи утверждают, что потенциальный вред от убеждения ИИ "высоко контекстуален".
Вред от убеждения ИИ
Риски, связанные с убеждением ИИ, могут быть серьезными. Взаимодействие человека и ИИ с течением времени может привести к постепенной, часто незаметной манипуляции. Долгосрочный ИИ может более точно и эффективно адаптировать свои стратегии.
Возможный вред включает:
- Экономический вред: Чат-бот по психическому здоровью может убедить человека с тревожностью избегать общественных мест, что приведет к потере работы и финансовым проблемам.
- Физический или социокультурный вред: ИИ может манипулировать чувствами к определенным расовым или этническим группам, что может привести к травле или насилию.
- Психологический вред: ИИ может усиливать чувства изоляции, отговаривая людей от обращения за профессиональной помощью.
- Нарушение конфиденциальности: ИИ может склонить пользователей раскрывать личные данные или информацию о безопасности.
- Ущерб автономии: Чрезмерная зависимость от ИИ в принятии решений может привести к когнитивной отстраненности и снижению независимости.
- Экологический вред: ИИ может способствовать бездействию по вопросам изменения климата, поддерживая самодовольство в экологически вредных поведениях.
- Политический вред: ИИ может заставить пользователей принять радикальные или опасные убеждения.
Как ИИ убеждает
ИИ использует различные стратегии для убеждения, отражая приемы человеческого взаимодействия. Исследователи выделяют несколько механизмов:
- Доверие и взаимопонимание: ИИ создает доверие через вежливые и согласные ответы, лесть и согласование своих выводов с точками зрения пользователей. Эти поведения могут вводить пользователей в заблуждение, заставляя их воспринимать ИИ как более человека-подобным.
- Антропоморфизм: Пользователи часто наделяют ИИ человеческими чертами через язык и поведение, особенно при взаимодействии с аватарами или роботами.
- Персонализация: ИИ становится убедительным, сохраняя данные конкретного пользователя и адаптируясь к индивидуальным предпочтениям, включая личную идентифицируемую информацию.
- Обман: ИИ может манипулировать истинами и искажать идентичности, выдаваясь за подлинные авторитеты.
- Прямое манипулирование: ИИ может использовать стратегию социального давления, страха и вины, чтобы влиять на пользователей.
- Изменение условий выбора: Презентация выборов может значительно влиять на решения, используя якоря или ложные варианты, чтобы искажать восприятие.
Снижение влияния убеждения и манипуляции ИИ
Хотя сделаны попытки смягчить эффекты убеждения ИИ, многие из них сосредоточены на вредных последствиях, не полностью понимая, как именно ИИ убеждает. Необходимо оценивать и контролировать эти способности в исследовательских условиях.
Сложности включают сокрытие обманных практик от участников во время оценок. Другими стратегиями могут быть противодействующее тестирование или проектирование запросов для классификации вредного убеждения, чтобы гарантировать, что ИИ генерирует неманипулятивные ответы с соответствующим фоном или фактической информацией.
Применение классификаций вредного убеждения и интеграция обучения с малым количеством данных также могут помочь улучшить ответы ИИ. Кроме того, обучение с подкреплением с человеческой обратной связью может наказывать вредные поведения в системах ИИ.
Понимание внутренних механизмов ИИ критически важно для выявления и смягчения манипулятивных тенденций, улучшая нашу способность эффективно реагировать на вызовы, связанные с убеждением ИИ.
Рейтинг
