能否存在准确的ChatGPT水印工具？OpenAI拒绝发布的原因揭秘

Home AI News CN 能否存在准确的ChatGPT水印工具？OpenAI拒绝发布的原因揭秘

聊天生成模型的抄袭者请注意：OpenAI开发了一种工具，能以99.99%的精准度检测GPT-4生成的文本。然而，该公司在是否将其公开方面已考虑超过一年。据TechCrunch报道，OpenAI采取“小心翼翼”的态度，因为这一工具的复杂性及其对更广泛生态系统的潜在影响。OpenAI发言人强调：“我们正在开发的文本水印方法在技术上具有前景，但我们也在权衡重大风险。这些风险包括恶意行为者可能的规避及其对非英语使用者等群体的影响。”

该文本水印系统将特定模式嵌入模型输出中，使其可以被OpenAI的工具检测，但用户看不见。虽然它可以有效识别由GPT-4引擎生成的文本，却无法区分来自其他AI模型（如Gemini或Claude）的输出。此外，通过将文本翻译成其他语言后再返回原文，水印也可以轻易地被抹去。

这并非OpenAI首次开发文本检测工具。去年，该公司因检测率不理想和误报过多而悄然终止了一项类似项目。2023年1月发布的早期工具要求用户输入至少1000个字符的样本文本进行分析，然而其准确率仅为26%，并错误地将9%的人工撰写文本标记为AI生成。这甚至导致一位德克萨斯农工大学教授因涉嫌在期末作业中使用ChatGPT而错误地让整个班级不及格。此外，OpenAI对用户的反弹表示担忧；《华尔街日报》指出，69%的ChatGPT用户认为该工具不可靠，担心可能导致错误的作弊指控。还有30%的用户表示，如果OpenAI发布该功能，他们将转向其他模型。

与此同时，其他AI初创公司迅速推出文本检测工具，包括GPTZero、ZeroGPT、Scribbr和Writer AI Content Detector。然而，这些工具普遍缺乏准确性，使得人眼依然是识别AI生成内容的最可靠方法，这一现状令人不安。

ChatGPT高级语音模式：发布日期、兼容性、功能及更多信息

探索人们如何创意使用ChatGPT的新语音模式