谷歌揭露OpenAI的GPT-3.5机密：核心信息泄露指控！

Home AI News CN 谷歌揭露OpenAI的GPT-3.5机密：核心信息泄露指控！

最近，谷歌的研究在科技界引起了广泛关注。研究团队宣称，他们通过简单的API调用，成功提取了OpenAI大型语言模型（LLMs）的关键参数，费用约为150人民币（约合22美元）。

该研究专注于OpenAI的GPT系列模型。谷歌团队利用精准的API查询，从模型的嵌入投影层收集了重要数据。这个最后一层在将隐藏维度映射到logits向量方面起着至关重要的作用，这些向量是模型输出的基础。

研究人员表示，通过发送特定的查询并分析模型的响应，他们能够推测出隐藏维度的大小。这项技术不仅适用于基础模型，如Ada和Babbage，还适用于更先进的版本，如GPT-3.5和GPT-4。

值得注意的是，谷歌是在OpenAI的允许下进行这项研究的，并在完成后确认了其方法的有效性，同时确保删除了所有与研究相关的数据。尽管通过API调用获得了一些关键模型参数，这一发现仍然震惊了行业，揭示了即使在严格安全措施下的模型也存在潜在的脆弱性。

对此，OpenAI已经采取了防御措施，包括调整其模型API和隐藏维度。尽管如此，这一事件引发了关于大型语言模型的安全性和开放性的重新讨论。

谷歌的发现不仅揭示了LLMs潜在的安全弱点，也为未来的安全研究打开了新的思路。随着AI技术的不断进步，确保模型的安全性和隐私性仍然是行业面临的重要挑战。

此次事件为OpenAI敲响了警钟，提醒他们优先考虑模型安全，采纳更严格的保护措施。与行业合作伙伴的协作也将对于促进AI技术的健康发展至关重要。

总之，谷歌的研究为大型语言模型的安全问题提供了新的视角。我们期待更多的研究和创新，为人工智能技术的持续进步和发展做出贡献。

Uizard：轻松设计应用程序和网页的人工智能工具。

用户界面系统 AI网站构建器

126.3K

一个易于使用、完全免费的开源AI图像生成工具。

AI 图像生成器 AI艺术生成器

7.7K

探索人工智能生成的音乐的创作与发现旅程

人工智能音乐 AI 设计生成器

297.3K

全球身份验证平台，专注于提供无缝的KYC（了解您的客户）和AML（反洗钱）检查服务。通过我们的解决方案，企业能够有效提升合规性，同时简化用户身份验证流程。

KYC验证 AI广告助手

Find AI tools in YBX