過去24-48時間以内に、かつてTwitterとして知られていたソーシャルメディアプラットフォームXをチェックした方は、テイラー・スウィフトのAI生成のディープフェイク画像や動画に遭遇したかもしれません。これらの明示的な画像は、彼女のボーイフレンドでNFL選手トラビス・ケルシー（カンザスシティ・チーフス所属）のファンとの非合意のシナリオを描写していました。スウィフトのファンたちはこの非合意的な画像に激怒し、#ProtectTaylorSwiftというハッシュタグが「Taylor Swift AI」とともにトレンド入りしました。世界中のメディアがこの事件を報じる中、Xはコンテンツの削除や再投稿の防止に苦慮しており、まるで「モグラ叩き」のような状況です。
この事態は、急速に進展する生成AI市場の規制について、アメリカの議員たちの議論を再燃させました。しかし、イノベーションを抑制せず、パロディやファンアートなどの表現を保護するための第一修正権を侵害することなく、規制をどのように実施するかに関しては重要な疑問が残っています。
AIディープフェイクの生成に使用されたツールとは？
具体的にどのAIツールがスウィフトのディープフェイクを生成したのかは明らかではありません。MidjourneyやOpenAIのDALL-E 3などの主なプラットフォームは、明示的または示唆的なコンテンツの生成を厳しく禁止しています。Newsweekによると、Xのアカウント@Zvbearは、いくつかのディープフェイクを投稿した責任を主張したものの、その後プライベートにしました。
独立系テクノロジーメディア404 Mediaの調査では、これらの画像は「MicrosoftのAIツール」を使用していたとされるTelegramグループに遡ることが分かりました。具体的には、DALL-E 3と同様のコンテンツ制限のあるMicrosoftのDesignerが関与しています。厳しいポリシーにもかかわらず、Stability AIのオープンソースAIモデルStable Diffusionは、ユーザーが多様なコンテンツ、特に性的なものを作成できる柔軟性を持っています。このような柔軟性は懸念を招き、Civitaiのようなプラットフォームは非合意のAI画像の生成を助長しているとして警告されています。Civitaiはこの悪用との戦いの取り組みを発表していますが、スウィフトのディープフェイクとは関連付けられていません。
ClipdropでのStable Diffusionの実装では、明示的なコンテンツを禁止しています。それにもかかわらず、ユーザーたちはこの保護策を回避する方法を見つけ続け、スウィフトのディープフェイク画像が急増する結果となりました。
HBOの『トゥルー・ディテクティブ: ナイト・カントリー』のような合意に基づくクリエイティブプロジェクトに対するAIの受容が高まる中、害を及ぼす目的での技術の悪用は、その公的イメージを損ね、より厳しい規制を招く恐れがあります。
可能な法的措置
デイリーメイルの報道によると、テイラー・スウィフトはこの露骨な画像の配布に「激怒」しており、法的措置を検討中とのことです。この措置が、画像をホストしたプラットフォームCeleb Jihad、生成を助けたAIツール、またはその作成者を対象とするかは未確定です。
この事件は、実在の人物を描写する有害な画像を生成する可能性がある生成AIツールに関する懸念を高め、アメリカの議員たちによるより厳しい規制の要求を加速させています。ニュージャージー州の共和党議員トム・キーン・ジュニアは最近、AIラベリング法案と親密画像のディープフェイク防止法案の2つを提案しました。両方の法案は、AI分野の規制を強化することを目的としています。
AIラベリング法案では、AI生成コンテンツにその人工的な生成を示す明確な通知を含めることを義務付けますが、このようなラベリングが露骨なコンテンツの流通を防ぐ効果は疑問視されています。MetaとOpenAIは、AI生成の画像に関するユーザーへの通知を実施しています。
第二の法案は、民主党のジョー・モレルが共同スポンサーとして提案しており、女性に対する暴力防止法を改正する内容です。非合意のディープフェイクの被害者がクリエイターやプラットフォームに対して法的措置を取ることを可能にし、損害賠償として150,000ドル、違反者には最大10年の懲役が科せられる可能性があります。
これらの法案はスウィフトのケースに直接的な助けを提供するものではありませんが、将来のAI生成ディープフェイクの被害者に対する保護を強化するための道筋を開く可能性があります。双方の法案が法律として成立するためには、関連する委員会を通過し、下院全体の投票を受け、上院で対応する法案を通過させる必要があります。現在、両法案はいずれも導入段階にあります。
キーン議員の声明
このディープフェイク事件に対してキーン議員は、「AI技術は必要なガードレールよりも早く進化しています。被害者がテイラー・スウィフトであろうと、我が国の若者であろうと、この驚くべきトレンドに対抗するための保護策を強化する必要があります。私の提案するAIラベリング法案は、重要な一歩です」と語りました。
この事件は、AI生成コンテンツに関する懸念や、プライバシー及び個人の安全への影響に対する法的措置の緊急性を浮き彫りにしています。
ランキング
