Система ASPIRE от Google: как искусственный интеллект принимает «Я не знаю» для повышения прозрачности.

Исследователи Google меняют ландшафт искусственного интеллекта, обучая его отвечать фразой "Я не знаю". Этот революционный подход, известный как ASPIRE, может изменить наше взаимодействие с цифровыми помощниками, побуждая их выражать неопределенность, когда у них нет точного ответа.

Представленный на конференции EMNLP 2023, ASPIRE — это аббревиатура от "Адаптация с самооценкой для улучшения выборочного прогнозирования в больших языковых моделях" — работает как внутренний метр уверенности для ИИ. Эта инновация позволяет искусственному интеллекту оценивать свои ответы перед их представлением.

Представьте, что вы спрашиваете свой смартфон о совете по вопросам здоровья. Вместо того чтобы потенциально предоставить неверную информацию, ИИ может ответить: "Я не уверена", благодаря ASPIRE. Этот подход обучает ИИ присваивать уровень доверия своим ответам, помогая пользователям лучше ориентироваться в том, насколько они могут им доверять.

Исследовательская группа, включая Дзифэна Чена и Джинсуна Ён из Google, возглавляет движение к более надежному цифровому принятию решений. Они подчеркивают важность того, чтобы ИИ признавал свои ограничения, особенно при предоставлении критически важной информации.

"Большие языковые модели теперь способны понимать и генерировать язык на беспрецедентном уровне, но их использование в ситуациях с высокими stakes ограничено, потому что они иногда делают ошибки с высокой уверенностью", — объясняет Чен, исследователь из Университета Висконсин-Мэдисон и соавтор исследования.

Их выводы показывают, что даже небольшие модели ИИ, оснащенные ASPIRE, могут превосходить более крупные модели, у которых нет этой функции самооценки. Фреймворк ASPIRE способствует созданию более осторожного и, иронично, более надежного ИИ, который способен распознавать, когда лучше обратиться к человеку за ответом.

Ставя честность выше предположений, ASPIRE нацелена на улучшение доверия к взаимодействиям с ИИ. Это открывает путь к будущему, в котором ваш ИИ-помощник будет выступать в роли вдумчивого советника, принимая силу фразы "Я не знаю" как признак истинного интеллекта.