Будущее ИИ-ассистентов: Потенциально Трансформирующий Сдвиг
В ближайшем будущем ИИ-ассистенты, встроенные в носимые устройства, интегрируются в нашу повседневную жизнь, предоставляя своевременные рекомендации в различных ситуациях — от покупок в загруженных магазинах до визитов к педиатру. Эта технология будет активно участвовать во всех аспектах нашего существования, влияя на наше общение с друзьями, семьей, коллегами и даже незнакомцами.
Тем не менее, концепция "влияния" вызывает опасения по поводу конфиденциальности и автономии. Хотя многие могут испытывать дискомфорт от такого повсеместного присутствия, общество, скорее всего, примет эти технологии, извлекая выгоду из их способности предлагать своевременные и обоснованные советы, которые кажутся незаменимыми.
Понимание Контекстуальных ИИ-ассистентов
Когда мы говорим о "ИИ-ассистентах", мы часто думаем о простых инструментах, таких как Siri или Alexa, которые реагируют на простые голосовые команды. ИИ-ассистенты следующего поколения будут значительно более сложными благодаря своей способности понимать контекст — они смогут воспринимать и реагировать на окружающие нас звуки и изображения через современные камеры и микрофоны, встроенные в носимую технологию.
Ожидается, что к 2024 году эти контекстно-осведомленные ИИ-ассистенты смогут предоставлять информацию, соответствующую нашим текущим занятиям. Они будут ощущаться почти как суперсила — предоставляя подсказки о товарах в магазинах, помогая идентифицировать растения во время прогулок или предлагая рецепты на основе имеющихся у нас ингредиентов. Однако существует риск, что эти ассистенты будут слишком навязчивыми, потенциально манипулируя пользователями в процессе помощи им в повседневных задачах, особенно если они будут использованы корпорациями для таргетированной рекламы.
Рост Мульти-Модальных Больших Языковых Моделей (LLMs)
Чтобы снизить риски манипуляции, связанные с ИИ, политические деятели должны сосредоточиться на этом критически важном вопросе, особенно поскольку технологии контекстно-осведомленных ассистентов только начали развиваться. Мульти-модальные LLM, способные обрабатывать текстовые, визуальные, аудио и видео данные, представляют собой значительный технологический прорыв, позволяющий ИИ-системам интерпретировать и реагировать на наше окружение в реальном времени.
Например, ChatGPT-4 от OpenAI, выпущенный в марте 2023 года, является одним из первых массовых мульти-модальных моделей, за которым следует LLM Gemini от Google. Заметим, что модель AnyMAL от Meta идет еще дальше, включая сигналы движения, что позволяет ИИ-ассистенту учитывать как визуальные данные, так и движение пользователя.
Носимые Технологии в Лидерах
С развитием ИИ-технологий, доступных для массового использования, компании активно разрабатывают устройства, оснащенные камерами, микрофонами и датчиками движения для предоставления контекстуально-осведомленной помощи. Носимые очки, например, являются оптимальной платформой для этой технологии, позволяя камерам фиксировать взгляд пользователя, а стереомикрофоны обеспечивают пространственное восприятие окружающих звуков.
Meta выделяется с обновленными умными очками Ray-Ban, созданными для поддержки продвинутых ИИ-возможностей. С 12 декабря они начали внедрять функции ИИ, предлагая практическую помощь, такую как рекомендации по одежде на основе предпочтений пользователя.
Компания Humane, другой ключевой игрок, разработала носимую булавку с аналогичными функциями, которая поступит в продажу в начале 2024 года. Хотя оба подхода многообещающие, я считаю, что очки обеспечивают более эффективную интеграцию, соответствующую линии взгляда пользователя и улучшая опыт смешанной реальности.
Независимо от того, в каких устройствах будет встроена эта технология — в очках, наушниках или других гаджетах, контекстуально-осведомленные ИИ-ассистенты вскоре станут повседневной реальностью. Они обещают мощные функции, включая перевод в реальном времени, исторический контекст и персонализированную помощь в социальных взаимодействиях, улучшая наши навыки общения и социальное восприятие в целом.
Навигация по Рискам Влияния ИИ
Как многолетний исследователь ИИ и смешанной реальности, я давно беспокоюсь о том, что ИИ может манипулировать человеческими взаимодействиями. В своем рассказе "Углеродное свидание" я иллюстрировал эту опасность, проводя историю, где взаимодействия пожилой пары полностью определяются советами ИИ, подчеркивая утрату подлинной связи. Эта предостережная история позже была адаптирована в фильм "Метавселенная 2030" Управлением по защите данных Великобритании (ODPA).
Наиболее серьезные риски связаны с тем, что корпоративные и государственные структуры могут навязывать свои повестки через разговорное влияние, позволяя настраивать контент для индивидуальных пользователей. Чтобы повысить осведомленность об этих опасностях, Альянс Ответственной Метавселенной выпустил короткометражный фильм "Потеря конфиденциальности", решающий эти манипулятивные аспекты ИИ.
Выбор за Нами — Пока
Многие люди находят концепцию ИИ, шепчущего советы, тревожной. Однако, по мере того как ИИ-коучинг становится частью общественных норм, те, кто сопротивляется, могут оказаться в невыгодном положении, поскольку важная информация может автоматически предоставляться другим во время разговоров. Этот сдвиг может создать новую социальную динамику, в которой запросы о личной информации станут избыточными, так как она будет доступна через ИИ.
Я называю этот феномен "усиленной ментальностью", неизбежным трендом, при котором инструменты ИИ улучшают наши когнитивные и социальные способности. Недавние достижения, такие как контекстно-осведомленные LLM, устранили прежние технические барьеры, сигнализируя о грядущем изменении в том, как мы взаимодействуем с ИИ.
Поскольку крупные технологические компании стремятся доминировать на этом новом рынке, может возникнуть цифровой разрыв между теми, кто может позволить себе ИИ-инструменты, и теми, кто не может. Последствия влияния ИИ на разговоры могут привести к нарушениям конфиденциальности и утрате личной автономии.
Необходимость Строгого Регулирования
Мы на грани реальности, в которой корпорации могут влиять на наши мысли и действия через ИИ-ассистентов. Эта проблема манипуляции вызывает тревогу и требует строгого регулирования для защиты индивидуальной автономии, особенно в отношении контекстуально-осведомленных ИИ.
К сожалению, недавние законодательные инициативы, такие как Указ о ИИ и AI ACT в ЕС, недостаточно эффективно решают эти проблемы. По мере приближения 2024 года необходимо, чтобы политические деятели приоритизировали регулирование разговорного влияния,powered by AI, чтобы обеспечить пользователям преимущества от ИИ-советов, не попадая в опасное будущее.
Время действовать — сейчас.
Рейтинг
