OpenAIがChatGPT生成コンテンツを特定するためのテキスト透かし技術を開発中
ウォール・ストリート・ジャーナルの報道によると、OpenAIはChatGPTによって生成されたテキストを特定する高精度ツールの開発に取り組んでいることを確認しましたが、まだ正式には公開されていません。OpenAIは、テキスト透かし技術の開発には多くの課題があることを認識しながらも、この新しい技術の研究に引き続き取り組む意向を示しています。
テキスト透かしの本質は、ChatGPTに特有のテキストを識別できる能力にあります。OpenAIは、ChatGPTが生成する言葉の選択を微調整することで目に見えない透かしを埋め込み、特別なツールで後から検出できるようにする計画です。
OpenAIは、テキスト透かしがテキストの起源を判断するためのいくつかのソリューションの一つであると説明しています。他には、分類器やMetaデータも検討中です。しかし、翻訳や書き直し、特殊文字の挿入が行われると、テキスト透かしの効果が大幅に低下する可能性があります。特に、非ネイティブの英語話者にとって、この技術が不均等な影響を及ぼすことも懸念されています。
こうした複雑さや広範な影響を考慮し、OpenAIはテキスト追跡技術の開発を慎重に進める方針を明らかにし、視聴覚コンテンツの検証ツールの向上を優先しています。