Verizon использует генеративные AI-приложения для улучшения поддержки клиентов и предоставления услуг более чем 100 миллионам абонентов, одновременно расширяя команду ответственного AI для снижения рисков.
Майкл Радж, вице-президент по AI в Verizon, рассказал о нескольких мерах, которые компания принимает в рамках этой инициативы. В их число входит обязательная регистрация AI-моделей учеными данных в центральной команде для осуществления проверок безопасности, а также повышенный контроль над крупными языковыми моделями (LLM), используемыми в приложениях Verizon, с целью минимизировать предвзятости и предотвратить токсичный язык.
Аудит AI: Дикий Запад
Радж выступил на мероприятии Media AI Impact в Нью-Йорке, где обсуждал сложности аудита генеративных AI-приложений, поскольку LLM часто могут давать непредсказуемые результаты. Он отметил, что область аудита AI находится на ранних стадиях развития, и компаниям необходимо ускорить свои усилия, особенно в условиях отсутствия четких регуляторных рекомендаций.
Недавние крупные ошибки в службах поддержки клиентов AI в различных отраслях — включая инциденты с Chevy, Air Canada и ведущими провайдерами LLM, такими как Google — подчеркнули настоятельную необходимость повышения надежности AI-систем.
Государственные регуляторы выпускают лишь общие рекомендации, оставляя частным компаниям определять конкретные действия, согласно словам Джастина Гринбергера, старшего вице-президента UiPath, компании, помогающей крупным предприятиям в автоматизации. «Это похоже на Дикий Запад», — добавила Ребекка Цянь, соучредитель Patronus AI, фирмы, специализирующейся на аудите проектов LLM.
Большинство компаний сейчас занимаются первым этапом управления AI — разработкой правил использования генеративного AI. Следующий этап включает аудиты для обеспечения соблюдения этих политик, но немногие имеют необходимые ресурсы, согласны эксперты.
Недавний отчет Accenture показал, что, хотя 96% организаций поддерживают какую-либо форму регулирования AI, только 2% полностью внедрили практики ответственного AI.
Силы агентов с помощью AI
Verizon стремится занять лидирующие позиции в применении AI, оснастив сотрудников передовой линии интеллектуальными разговорными помощниками для улучшения взаимодействия с клиентами. Эти агенты часто сталкиваются с огромным объемом информации, но генеративный AI может облегчить эту задачу, мгновенно предоставляя персонализированные данные о клиентах и обрабатывая 80% рутинных задач. Это позволяет агентам сосредоточиться на 20% вопросов, требующих человеческого вмешательства, что позволяет давать персонализированные рекомендации.
Кроме того, Verizon использует генеративный AI и технологии глубокого обучения для улучшения взаимодействия с клиентами в своей сети и на сайте, а также для улучшения своих продуктов и услуг. Радж упомянул, что компания разработала модели для прогнозирования оттока клиентов среди своей обширной пользовательской базы.
Централизованное управление AI для безопасности
Verizon активно инвестирует в управление AI, сосредоточив усилия на отслеживании отклонений моделей и предвзятости. Эта инициатива привела к консолидации всех функций управления в одну организацию «AI и данные», которая включает подразделение «Ответственный AI». Радж подчеркнул, что это подразделение крайне важно для безопасности AI, работая в тесном сотрудничестве с офисом CISO и руководителями закупок. В начале этого года Verizon опубликовала свой дорожную карту ответственного AI в партнерстве с Университетом Нортиистерн.
Чтобы эффективно управлять моделями AI, Verizon сделала наборы данных доступными для разработчиков и инженеров, обеспечивая использование одобренных инструментов.
Ожидается, что тенденция регистрации AI-моделей приобретет популярность и среди других компаний B2C, согласно мнению Гринбергера из UiPath, который предложил, чтобы модели были «контролируемыми по версиям и подлежали аудиту», аналогично фармацевтическим нормативам. Он также отметил, что компаниям следует часто оценива их рисковые профили из-за быстрого развития технологий, а законодательные меры по регистрации моделей рассматриваются в США и других странах.
Появляющиеся единицы управления AI
Согласно Гринбергеру, многие продвинутые компании создают централизованные команды AI, подобные Verizon, и появление подразделений «Управление AI» растет. Сотрудничество с третьими сторонами-поставщиками LLM побуждает предприятия пересматривать свои стратегии, поскольку каждый поставщик предлагает несколько моделей с разными возможностями.
Учитывая непредсказуемую природу генеративных AI-приложений, законодательство по процессу аудита создает уникальные проблемы. Как отметила Цянь из Patronus AI, потенциальные сбои, связанные с безопасностью, предвзятостью и дезинформацией, требуют отраслевых регулирований, особенно в критически важных секторах, таких как транспорт и здравоохранение.
Прозрачность в аудите AI остается значительной преградой, поскольку традиционный AI проще для понимания по сравнению со сложностями генеративного AI. В настоящее время только около 5% компаний завершили пилотные проекты, сосредоточенные на предвзятости и ответственном AI, по данным Гринбергера.
Поскольку ландшафт AI быстро меняется, приверженность Verizon к ответственному AI служит эталоном для отрасли, подчеркивая настоятельную необходимость лучшего управления, прозрачности и этических стандартов в использовании этих технологий.
Рейтинг
