Раскрытие агентов манипуляции: Понимание реальных рисков ИИ

Наши жизни на пороге трансформации с появлением разговорных ИИ-агентов, предназначенных помогать нам на каждом шагу. Эти интеллектуальные агенты будут предвосхищать наши желания и потребности, используя обширные личные данные о наших интересах, бэкграунде и стремлениях для предоставления индивидуальной информации и выполнения значимых задач. Главная цель — повысить удобство в нашей повседневной жизни.

На этой неделе OpenAI представила GPT-4o, их последний чат-бот, способный распознавать человеческие эмоции. Эта передовая технология может анализировать не только тональность вашего текста, но и нюансы вашего голоса и выражений лица во время видеовзаимодействий.

Google недавно анонсировала Project Astra, целью которого является развертывание вспомогательного ИИ, который ведет общение и понимает окружающую обстановку. Эта способность позволит ему обеспечивать интерактивное руководство и помощь в реальном времени.

Сэм Олтман из OpenAI поделился с MIT Technology Review, что будущее ИИ заключается в персонализированных вспомогательных агентах, которых можно охарактеризовать как "суперкомпетентных коллег", управляющих всем: от вашей почты до разговоров в нашей жизни, тем самым принимая проактивные меры от нашего имени.

Однако эта утопическая картина вызывает опасения. Как я обсуждал в предыдущей статье, существует значительный риск, что ИИ-агенты могут подорвать человеческую автономию, особенно через целенаправленную манипуляцию. Поскольку эти агенты интегрируются в наши мобильные устройства — шлюз в нашу цифровую жизнь — они будут накапливать огромные объемы данных о нас, влияя на информацию, которую мы потребляем, и контролируя наши взаимодействия.

Любая система, наблюдающая за нашей жизнью и курирующая информацию, которую мы получаем, представляет собой риск манипуляции. Оснащенные камерами и микрофонами, эти ИИ-агенты будут воспринимать окружающую среду в реальном времени, реагируя на стимулы без наших явных запросов. Хотя такая функциональность обещает удобство — напоминая о делах или предоставляя социальное обучение — это также несет риск глубокого уровня наблюдения и вмешательства, что многим может показаться неуютным. Тем не менее, я ожидаю, что многие примут эту технологию, движимые улучшениями, которые она предлагает в повседневной жизни.

Эта тенденция вызовет "гонку вооружений" среди технологических компаний за предоставление самых мощных ментальных дополнений. Поскольку такие функции станут повсеместными, пользователи, которые не желают их использовать, будут оказываться в невыгодном положении, превращая то, что когда-то казалось выбором, в необходимость. Я предсказываю быструю интеграцию этих технологий к 2030 году.

Тем не менее, мы должны признать присущие риски. Как обсуждается в моей книге "Наша следующая реальность", хотя вспомогательные агенты могут предоставить нам невероятные когнитивные способности, они в конечном итоге являются продуктами, ориентированными на прибыль. Используя их, мы приглашаем корпорации направлять и влиять на наши мысли, что делает эту технологию одновременно ресурсом, наделяющим силой, и потенциальным инструментом эксплуатации.

Это приводит к проблеме "манипуляции ИИ": повышенная эффективность целенаправленного влияния через разговорных агентов по сравнению с традиционными методами рекламы. Умелые продавцы понимают, что вовлечение людей в диалог намного более убедительно, чем статическая реклама. Поскольку ИИ-агенты становятся искусными в использовании психологических тактик и обладают обширными знаниями о наших предпочтениях, их способность манипулировать превосходит возможности любого человека.

Эти агенты могут существенно повлиять на наши решения, используя непрерывную обратную связь для уточнения своих стратегий влияния в реальном времени — как тепловые управляемые ракеты, корректирующие свою траекторию для достижения цели. Без регулирования разговорные агенты рискуют использовать эту способность для распространения дезинформации, что делает контроль над ними необходимым.

Инновации от компаний, таких как Meta, Google и Apple, дают понять, что разговорные агенты вскоре станут неотъемлемой частью нашей жизни. Недавние очки Ray-Ban от Meta и достижения Apple в области мультимодального ИИ подчеркивают стремительное продвижение к технологиям, которые будут предлагать постоянное руководство. Как только эти продукты станут доступны потребителям, их распространение существенно вырастет.

Хотя существует множество полезных применений этих технологий, потенциал для манипуляции нельзя игнорировать. Чтобы защитить публичные интересы, я настоятельно призываю регуляторов действовать быстро, введя строгие ограничения на интерактивную разговорную рекламу — начало распространения неправдивой информации.