OpenAIがコンテンツの出所と信頼性に関する連合（C2PA）に参加
OpenAIは、2021年2月にMicrosoftやAdobeが設立したコンテンツの出所と信頼性に関する連合（C2PA）の運営委員会に加わったことを発表しました。C2PAは、ArmやBBC、Intel、Truepicなど多くの著名な企業も参加しています。
C2PAへの参加目的
OpenAIの目的は、デジタルコンテンツの作成または編集に使用されるツールの検証を支援し、自社ツールによって生成されたコンテンツを識別する技術の開発です。この業界の他の企業、競合他社との協力によって、AI生成の画像、動画、その他のメディアに関するラベル付けのリソースを作成し、視聴者がコンテンツの出所を追跡できるようにします。
C2PAの役割
C2PAは非営利のJoint Development Foundationの下で運営されており、「コンテンツの出所と信頼性に関する技術仕様の確立」に注力しています。設立以来、Googleを含む他のテクノロジー企業も委員会に参加しています。C2PAは、AI生成コンテンツの出所を明確にするためのいくつかのオープンソース標準を策定しました。主な標準には、暗号的に検証可能な情報の保存とアクセスを可能にするC2PAアーキテクチャが含まれています。これにより、ユーザーは信頼モデルに基づいてコンテンツの信頼性を評価できます。
コンテンツのクレデンシャルの実装
C2PAのメンバーは、そのアーキテクチャを利用して「コンテンツクレデンシャル」を作成しました。この小さな「CR」ウォーターマークは、画像の作成者や使用されたツールを識別するのに役立ちます。この機能により、カーソルオーバーやタップで詳細情報を提供することができます。また、C2PAのアーキテクチャはデジタルメディアファイルのMetaデータに統合でき、オフラインでもアクセス可能です。OpenAIは2023年2月から、DALL-E 3モデルで生成された画像にこの標準を適用しています。MetaもC2PA標準を使用してAI生成画像のラベリングを開始しました。
業界協力に関する声明
OpenAIのグローバル affairs部門のVP、アンナ・マカンジュは、C2PAのプレスリリースでデジタル出所に関する共有標準を育成するC2PAの役割を強調しました。消費者がオンラインで直面するデジタルコンテンツに対する信頼を構築するためには、これらの取り組みに貢献することが重要であると述べています。
Soraによる今後の展開
まだ公開されていませんが、OpenAIの高度な動画生成AIモデルSoraは、信頼できるパートナーに提供される際にC2PAMetaデータを実装し、出力結果をAI生成としてラベル付けします。
DALL-E検出分類プログラム
OpenAIはまた、DALL-E 3モデルから派生した画像かどうかを予測するバイナリ分類器を特徴とするDALL-E検出分類研究者アクセスプログラムを開始しました。OpenAIは、研究機関やジャーナリズムの非営利団体の参加を2023年7月31日まで受け付けています。
社会的レジリエンスファンドの設立
OpenAIはMicrosoftと協力して、AI教育を高齢者やテクノロジーに不慣れな人々に向けて強化するための200万ドルの社会的レジリエンスファンドを設立しています。このイニシアチブは、AARPやInternational IDEA、Partnership on AIなどの組織と連携しています。
これらの発表は、FacebookなどのソーシャルメディアプラットフォームでAI生成画像がユーザーを誤解させる懸念の高まりと一致しています。OpenAIは、コンテンツ生成と教育の両方に対処する二本立てのアプローチを目指しています。
オープンソースAIツールの普及と画像編集の容易さにより、AI生成コンテンツを確実にラベル付けすることは依然として課題です。それでも、OpenAIの先進的な取り組みは、デジタルコンテンツの進化する環境において社会的責任を果たすという意志を示しています。
ランキング
