真正危险：谷歌不准确的人工智能概述引发嘲讽与担忧

Home AI News CN 真正危险：谷歌不准确的人工智能概述引发嘲讽与担忧

是否应该在比萨上加胶水？盯着太阳看30分钟？吃石头？用冰块治疗蛇咬伤？

根据谷歌的新“AI概述”功能，这些危险的建议在用户搜索信息时常常出现在顶部结果中。

什么是谷歌AI概述？

2023年5月，谷歌推出了“搜索生成体验”，旨在与OpenAI的ChatGPT竞争。这个基于AI的关键信息摘要会显著显示在搜索栏下方，紧贴传统的蓝色链接列表。从一开始的自愿参与，到在近期的I/O大会上变更为“AI概述”，该功能已成为所有美国用户的默认体验。用户仍然可以通过切换到“网页”选项卡来退出使用。

为什么谷歌AI概述引发争议？

自推出以来，许多人在X（前身为Twitter）上强调AI概述生成的不准确且令人担忧的结果。一些误导性结果甚至可能造成伤害或引发激烈反应，受到名人和用户的批评。AI生成内容的低质量引发了许多恶搞和玩笑，嘲讽谷歌的可靠性。

为应对这些问题，谷歌将AI概述功能标记为“实验性”，表示结果的准确性可能有所不同。公司强调用户反馈和人工审核将为系统改进提供指导。

谷歌会删除AI概述吗？

呼吁谷歌重新考虑AI概述功能的声音不断增多，尤其是在谷歌曾因其AI工具生成问题结果而暂停服务的事件后。一位公司发言人表示，网友们分享的最具争议性的例子涉及“非常罕见的查询”，并回应了个别事件，通过完善该功能来解决。然而，一些用户对此表示质疑，认为该系统的公信力值得怀疑，因为它依赖于生成来自之前索引的内容，包括虚假信息和讽刺作品。

结论

虽然尚不清楚有多少搜索结果会产生不准确信息，但AI概述似乎比传统谷歌搜索更容易受到不可靠来源的影响。用户在根据这些AI生成的结果采取行动之前，必须谨慎并核实来自可靠资源的信息。像Perplexity这样的替代工具在提供可信信息方面表现更为准确，这对于作为现代生成AI技术先锋的谷歌而言，显得颇具讽刺意味。

金融分析的未来：GPT-4如何根据最新研究洞察改变行业格局

McKesson和默克投资阿特罗波斯健康3300万美元融资，助力人工智能药物开发