谷歌揭露 OpenAI 的 GPT-3.5 祕密：指控核心資訊洩漏！

Home AI新聞谷歌揭露 OpenAI 的 GPT-3.5 祕密：指控核心資訊洩漏！

最近，Google的研究引起了科技社群的廣泛關注。研究團隊聲稱透過簡單的API調用，成功從OpenAI的大型語言模型（LLMs）中提取了關鍵參數，成本約為150人民幣（約22美元）。

該研究集中於OpenAI的GPT系列模型。Google團隊通過精確的API查詢，成功收集了來自模型嵌入投影層的關鍵數據。這個最終層扮演著重要角色，將隱藏維度映射到基於邏輯的向量，這對模型的輸出至關重要。

研究人員指出，通過發送特定查詢並分析模型的回應，他們能推斷隱藏維度的大小。這一技術不僅適用於基礎模型，如Ada和Babbage，還適用於進階版本，如GPT-3.5和GPT-4。

值得注意的是，Google在OpenAI的許可下進行此研究，並在完成後確認其方法的有效性，同時確保刪除所有與研究相關的數據。雖然通過API調用獲得了一些關鍵模型參數，但這一發現震驚了業界，凸顯了即使在嚴格安全措施下的模型亦存在潛在脆弱性。

作為應對，OpenAI已採取防禦策略，包括對模型API和隱藏維度進行調整。儘管如此，此事件重新引發了有關大型語言模型安全性和開放性的討論。

Google的發現不僅揭示了LLMs的潛在安全弱點，也為未來的安全研究鋪平了道路。隨著AI技術的進步，確保模型的安全性和隱私仍然是業界面臨的重要挑戰。

此事件提醒OpenAI應將模型安全置於首位，並採取更嚴格的保護措施。與業界夥伴的合作對推動AI技術的健康發展也至關重要。

總之，Google的研究為大型語言模型的安全問題提供了新的視角。我們期待更多的研究與創新，促進人工智慧技術的持續進步與發展。

5.4M

SciSpace 是一款創新的人工智慧工具，旨在幫助使用者更好地理解和評估科學研究論文。無論您是學生、研究者還是專業人士，SciSpace 將複雜的信息轉化為易於理解的洞察，使您更容易在學術文獻的世界中探索。

人工智慧驅動工具 Papers

17.8K

探索人工智慧如何變革內容創作，透過生成無臉視頻來適應各種平台。在這個不斷演變的數位環境中，這些創新工具為創作者提供了一種令人興奮的方式來吸引觀眾，同時保持隱私和匿名性。發掘以人工智慧驅動的無臉視頻在提升您在社交媒體、市場行銷等領域的線上存在感的潛力。

人工智慧驅動的視頻生成 AI Content Generator

2.6M

輕鬆加速您的下一個專案建置的對齊。

協作 AI Mind Mapping

50.1K

輕鬆將文字轉換為語音，使用我們先進的 AI 語音生成器。體驗自然音質的音頻，立即提升您的內容！

AI 語音生成器 Text-to-Speech

Find AI tools in YBX