OpenAI SearchGPT 官方演示暴露漏洞：揭示源代码和搜索机制背后的秘密

Home AI News CN OpenAI SearchGPT 官方演示暴露漏洞：揭示源代码和搜索机制背后的秘密

Title: SearchGPT面临的挑战：幻觉与现实的碰撞

在SearchGPT发布仅两天后，用户Kesku创建的演示引发了广泛关注，主要因为它的输出结果惊人快速。然而，OpenAI发布的一项官方演示在《大西洋月刊》的报告中受到挑战，揭示出一些重大不准确性。当被询问“关于北卡罗来纳州布恩的音乐节，时间在八月”时，SearchGPT意外地给出了错误的日期，这引发了对其可靠性的担忧。

OpenAI的发言人凯拉·伍德向《大西洋月刊》确认了这个错误，表示这是初始原型，正在进行改进。这一事件与谷歌的Bard发生的重大失误相似，Bard在发布时因不准确性而受到批评。在2023年2月，Bard错误地声称詹姆斯·韦布太空望远镜捕捉到了第一张外星行星的图像，但实际上这一成就由欧洲南方天文台的VLT实现。这一错误导致Alphabet的股价下跌9%，蒸发了1000亿美元的市值。

相比之下，OpenAI选择了更谨慎的策略，通过限制内部测试的访问权来吸取谷歌的教训。在广泛访问的背景下，即使OpenAI能够将SearchGPT中的幻觉情况降到最低，1%的错误率也可能导致每天出现数百万条不准确的响应。此外，目前尚无可靠的方法可以完全消除大型语言模型（LLM）中的幻觉和错误。

安德烈·卡帕斯基在推特上指出，幻觉并非简单的错误，而是LLM的独特特征。他将LLM比作“梦机器”，在提示下，生成的内容虽然常常有用，但有时会无意间出现事实错误，导致“幻觉”。这种机制与传统搜索引擎截然不同，后者从数据库中返回最相关的文档，而不会生成全新响应。

卡帕斯基认为，基于LLM的当前AI搜索模型无法保证100%的准确性。这引发了一个有趣的问题：在搜索引擎的变革中，LLM的创造性能否与传统搜索方法的可靠性共存，还是最终将彼此取而代之？这个问题值得我们深入思考。

95后人工智能天才获近10亿美元融资，使Cohere估值升至55亿美元

Meta推出Llama 3.1：一款强大的开源模型，挑战OpenAI的市场主导地位

Most people like

AIHumanize

281K

将AI文本转化为自然内容，为您的内容创作带来革命性的改变。随着人工智能的快速发展，越来越多的企业和创作者开始利用AI生成文本。然而，这些文本往往缺乏自然流畅的感觉和人性化的表达。在本文中，我们将探讨如何有效地将AI生成的文本转换为更自然、更具吸引力的内容，以提升读者的阅读体验和参与度。通过掌握这一技巧，您将能够在创作中融合AI的效率与人类的情感，从而制作出令人印象深刻的作品。

AI人性化工具 AI检测器

EarnBetter

623.8K

免费人工智能求职助手 - 在这个竞争激烈的职场中，我们的免费人工智能求职助手将全力支持您的求职之旅。无论您是刚踏入职场的新手，还是寻求职业发展的专业人士，我们的工具将帮助您获得最新的求职技巧、简历优化建议和面试准备指导。利用先进的AI技术，打造符合您个性和需求的求职策略，助您顺利获得梦寐以求的职位。

AI职位搜索助手简历制作工具

Pl@ntNet

识别植物对于理解和保护植物生物多样性至关重要。通过准确识别植物，我们不仅能增强对生态系统的认识，还有助于科学研究和环境保护。

植物识别 AI 图像识别

Copymate

123.4K

利用Copymate的AI驱动内容生成器，您可以迅速创作出高质量且经过SEO优化的文章，提升您的在线可见性。

人工智能驱动 AI 内容生成器

Find AI tools in YBX