谷歌ASPIRE系统：赋能人工智能接纳'我不知道'以提升透明度

Home AI News CN 谷歌ASPIRE系统：赋能人工智能接纳'我不知道'以提升透明度

谷歌研究人员正在通过教导人工智能以“我不知道”来回应，来变革AI领域。这种被称为ASPIRE的突破性方法可能会改变我们与数字助手的互动方式，促使它们在没有明确答案时表达不确定性。

在2023年EMNLP会议上发布的ASPIRE——“自我评估适应性以提高大型语言模型选择性预测”（Adaptation with Self-Evaluation to Improve Selective Prediction in LLMs）的缩写，充当AI的内部信心评估器。这项创新使人工智能能够在展示响应之前先评估其回答的可靠性。

想象一下，你向智能手机咨询健康问题。得益于ASPIRE，AI可能会回答：“我不确定”，而不是潜在地提供错误的信息。通过这种方式，AI得以为其回答指定信心分数，帮助用户判断可以在多大程度上相信其回应。

谷歌的研究团队，包括来自威斯康星大学麦迪逊分校的Jiefeng Chen和Jinsung Yoon，正在推动数字决策更加可靠化的进程。他们强调，人工智能承认其局限性的重要性，特别是在传递关键信息时。

“虽然大型语言模型的理解和生成语言能力达到了前所未有的水平，但在高风险应用中的使用仍然受限，因为它们有时以高度自信的方式犯错，”研究合著者Chen解释道。

研究发现，即使是配备ASPIRE的小型AI模型，其表现也能超过缺乏这种自我评估功能的大型模型。ASPIRE框架培养了一种更加谨慎和可靠的AI，能够识别何时人类可能更适合提供答案。

通过优先考虑诚实而非推测，ASPIRE旨在增强AI互动的可信度。这为未来铺平了道路，届时你的AI助手将成为一个深思熟虑的顾问，以“我不知道”的能力为真正智能的标志。

Anthropic回应音乐出版商AI版权诉讼，指控其存在“故意行为”

超越聊天机器人：深入探索嵌入技术的广阔宇宙

Most people like

mixart.ai

14.1K

立即体验Mixart.ai的先进人工智能工具，轻松转换和生成令人惊叹的照片。

其他文字转图片工具

AHelp

91.4K

AI工具的使用正在不断提升写作效率和学术表现。无论是学术论文、博客文章还是其他写作形式，AI技术能够帮助用户更快地构思、编辑和优化内容，从而实现更高质量的创作。

人工智能工具 AI检测器

Intapp

94.3K

人工智能软件解决方案，专为金融服务公司设计，旨在提升运营效率。

AI解决方案 AI CRM助手

https://ai-signals.com

106K

AI-Signals是一个先进的人工智能交易指标平台，专为股票、外汇和加密货币市场提供实时交易信号。

AI驱动的指标 AI交易机器人助手

Find AI tools in YBX