OpenAI 认可开发 ChatGPT 文本水印技术,克服重大挑战

OpenAI研发文本水印技术以识别ChatGPT生成内容

根据《华尔街日报》的报道,OpenAI确认正在开发一种高精度工具,以识别ChatGPT生成的文本,尽管该工具尚未正式发布。公司承认,尽管文本水印技术的开发面临许多挑战,但他们仍致力于这一创新的研究。

文本水印的关键在于能精准检测到ChatGPT生成的内容,而非其他模型产生的文本。OpenAI计划通过微调ChatGPT生成的词汇,嵌入隐形水印,从而使其能够通过专门工具进行检测。

OpenAI表示,文本水印只是他们探索的多种解决方案之一,此外还有分类器和元数据,以确定文本的来源。然而,在翻译、改写或插入特殊字符的情况下,文本水印的有效性可能会显著降低。此外,这项技术可能对某些群体,尤其是英语非母语人士产生不成比例的影响。

鉴于这些复杂性及其对更广泛生态系统的潜在影响,OpenAI表示将谨慎推进文本追踪技术的开发,优先完善音频和视频内容的验证工具。

Most people like

Find AI tools in YBX