OpenAI 探索文本水印技术，以识别学生作弊行为的 ChatGPT 解决方案

Home AI News CN OpenAI 探索文本水印技术，以识别学生作弊行为的 ChatGPT 解决方案

针对《华尔街日报》报道称OpenAI开发了一种能够准确识别ChatGPT生成论文的工具，OpenAI近期分享了其文本水印研究的进展。该报告提到，关于工具发布的讨论已经推迟了其公开发布，尽管该工具据称已经“准备就绪”。

OpenAI表示：“我们的团队研发了一种文本水印方法，并继续评估该方法，同时探索其他替代方案。”该公司解释说，水印仅是多种方法中的一种，此外还包括分类器和元数据，这些都是其对文本来源进行深入研究的一部分。

尽管OpenAI声称其水印方法在某些情况下的准确性很高，但在应对特定的操作时仍面临挑战，例如使用翻译系统、用不同的生成模型进行重新表述，或在词间插入和删除特殊字符。此外，OpenAI还强调了水印可能对某些用户群体产生不成比例影响的担忧，并指出：“例如，它可能会给使用AI作为非英语母语者写作工具的用户带来污名。”

在其博客中，OpenAI强调将仔细考虑这些潜在风险。该公司还优先考虑发布视听内容的认证工具。一位OpenAI发言人进一步澄清，由于其中涉及的复杂性及其对更广泛生态系统的潜在影响，公司正在采用一种“谨慎的方法”来处理文本来源问题。

NVIDIA AI团队被指未经同意抓取YouTube和Netflix视频

谷歌取消奥运广告：儿童利用人工智能撰写粉丝信件