是否可能存在一種準確的 ChatGPT 水印工具？OpenAI 隱瞞此工具的原因解析

Home AI新聞是否可能存在一種準確的 ChatGPT 水印工具？OpenAI 隱瞞此工具的原因解析

ChatGPT抄襲者們注意：OpenAI已開發出一種工具，能以驚人的99.99%準確率檢測GPT-4的寫作產出。不過，該公司考慮這項工具是否公開已超過一年。根據TechCrunch報導，OpenAI採取了“深思熟慮的方式”，因為這項工具可能對整體生態系統帶來複雜的影響與後果。OpenAI的發言人指出：“我們正在開發的文本水印方法在技術上顯示出潛力，但我們也在評估重大風險，包括惡意行為者繞過該工具的潛在可能及對非英語使用者等群體的過度影響。”

這套文本水印系統會將特定模式嵌入模型的輸出中，讓OpenAI工具能檢測到，但用戶不可見。雖然該系統能有效識別由GPT-4引擎生成的文本，但無法區分其他AI模型如Gemini或Claude的輸出。此外，透過將文本翻譯成另一種語言再回翻譯回原文，水印也可輕易被抹去。

這並不是OpenAI首次嘗試開發文本檢測工具。去年，由於檢測率不理想且誤報率高，OpenAI靜悄悄地終止了一個類似的項目。於2023年1月發布的早期工具，要求用戶至少輸入1,000個字符的樣本文本進行分析，但其準確率僅為26%，還錯誤將9%的人類寫作內容標註為AI生成。這甚至導致一位德州農工大學教授因涉嫌在期末作業中使用ChatGPT而錯誤地讓整班學生不及格。此外，OpenAI也擔心用戶的反彈；根據《華爾街日報》，69%的ChatGPT用戶認為這類工具不可靠，擔心可能導致錯誤指控作弊，另有30%表示如果OpenAI發布這項功能，他們會轉向其他模型。

開發者也擔心可能會反向工程水印，以創造對應工具。隨著OpenAI繼續權衡推出水印系統的利與弊，其他AI初創公司如GPTZero、ZeroGPT、Scribbr和Writer AI Content Detector也在競相推出文本檢測工具。然而，這些工具整體上缺乏準確性，使人類的眼睛依然是識別AI生成內容的最可靠方法，這一點無疑令人感到不安。

ChatGPT 高級語音模式：發布日期、兼容性、功能及更多資訊

探索人們運用ChatGPT全新語音模式的創意方式