OpenAI 探索文本水印技術，以協助 ChatGPT 辨識學生作弊行為

Home AI新聞 OpenAI 探索文本水印技術，以協助 ChatGPT 辨識學生作弊行為

針對《華爾街日報》報導中提到OpenAI開發了一種能準確識別ChatGPT生成的文章的工具，OpenAI對其文字水印研究提供了見解。報導指出，關於該工具發布的討論延遲了其公開推出，儘管它據稱"已經準備好"。

OpenAI表示：“我們的團隊已經開發出一種文字水印方法，並將持續評估此方法，同時探索其他替代方案。”該公司解釋，水印技術只是其在文本來源研究中檢視的多種方法之一，還包括分類器和元資料等。

儘管OpenAI聲稱這種水印技術在某些場景中顯示出高準確率，但在特定操作下仍面臨挑戰，例如使用翻譯系統、用不同生成模型重新表述，或在單詞之間插入及移除特殊字符。此外，OpenAI強調了水印可能對某些用戶群體造成不成比例影響的擔憂，指出：“例如，它可能會對非母語英語使用者使用AI作為寫作工具產生污名化。”

在其部落格中，OpenAI強調正在仔細考量這些潛在風險。該公司還優先考慮針對視聽內容的驗證工具的發布。一位OpenAI發言人進一步澄清，因涉及複雜性及其運作之外對整個生態系統的潛在影響，公司對文本來源持“謹慎的方式”。

NVIDIA的人工智慧團隊據報導在未經同意的情況下擷取了YouTube和Netflix的視頻內容。

Google 取消了以兒童利用人工智慧寫粉絲信的奧運廣告。