UCバークレー教授が選挙ディープフェイクを分析: デジタル時代における誤情報対策

近年、社会に対する技術の脅威としてディープフェイクほど深刻なものはありません。このAI生成の操作的コンテンツは、すでに政治に悪用され、今後のアメリカ大統領選挙や上院、下院選挙で大きな影響を及ぼすと予測されています。規制当局がこの技術の抑制に苦慮する中、非常にリアルなディープフェイクが候補者を中傷し、世論に影響を与え、投票率を操作するために使われています。一方で、いくつかの候補者は、生成AIを活用してキャンペーンを強化しようとしたものの、結果は散々なものになっています。

カリフォルニア大学バークレー校情報学部のハニー・ファリッド教授は、2024年の大統領選挙に向けてディープフェイクを監視するプロジェクトを開始しました。「このコンテンツを明るみに出すことで、メディアや一般市民の認識を高め、これを作成する者に対して我々が注視していることを示すことを願っています」とファリッドは語ります。

彼のサイトには、軍服を着たジョー・バイデン大統領の画像が示されており、そこには不自然なコンピューターマウスの配置や捻じれた天井デザインといった不一致が強調されています。ファリッドの研究は、ニューハンプシャー州の予備選挙前にバイデンを偽った悪名高いディープフェイクのロボコールにも言及しています。この電話では「今度の火曜日に投票することは、共和党がドナルド・トランプ元大統領を再選させるための助けとなる」と主張し、発信元は不明ですが音声の質は低く、奇妙なものでした。

別の投稿では、ロン・デサンティスのディープフェイクが「トランプ大統領に挑戦すべきではなかった」と虚偽の発言をしています。また、ファリッドのサイトは、トランプと元首席医療顧問アントニー・ファウチのモンタージュを批判し、意味不明なホワイトハウスのロゴや歪んだアメリカの国旗など、目立つ不一致を指摘しています。

ファリッドは、特に重要な接戦州では、有権者の感情のわずかな変化でも選挙を左右する可能性があると指摘しています。ディープフェイクの影響力は拡大しており、トランプを逮捕シーンで描写したり、ウクライナのゼレンスキー大統領が兵士に降伏を呼びかけたり、カマラ・ハリス副大統領が公の場で酔っているかのように描かれたりしています。これらの操作的なツールは、トルコやバングラデシュの選挙にも影響を与えてきた一方、ミネソタ州のディーン・フィリップス議員やマイアミ市のフランシス・スアレス市長など、一部の政治家は有権者を引きつける手段としてディープフェイクを利用しています。

「私はディープフェイクの高度化と悪用の増加を観察しています。今年は、全世界で数十億人が投票の準備をしており、技術が急速に進化していることで、転換点にあるように感じます」とファリッドは述べています。

ディープフェイクの危険性は、有権者の操作を超えて、違法または不適切な行動の口実ともなり得ます。この現象は「嘘の利益」（Liar’s Dividend）と呼ばれ、トランプやElon Muskといった人物によっても既に利用されています。「何でも偽装できる世界では、何も本物である必要はない」とファリッドは強調します。

研究によれば、人々はディープフェイクの動画を53%の確率で識別でき、偽の音声は73%の確率で見破ることができるとされています。技術が非常にリアルになりつつある中、SNS上での改ざんコンテンツの拡散は、迅速な誤情報の拡散を引き起こす恐れがあります。「1年前、ディープフェイクは主に画像ベースで明らかに不自然でしたが、今日では洗練された音声や動画のディープフェイクが登場し、視聴者を容易に誤解させることができるようになっています」とファリッドは振り返ります。

一貫した警告サインを特定するのは難しいですが、ファリッドはニュースのためにSNSを利用することを避けるように助言しています。「どうしてもSNSを使う場合は、行動をゆっくりとし、共有する前に批判的に考え、自分のバイアスを認識することが重要です。虚偽の情報を広めることは、問題を悪化させるだけです」。

実用的なアドバイスを求めている方には、ノースウェスタン大学のDetect Fakesプロジェクトが識別スキルを試すテストを提供しており、MITメディアラボは以下のガイダンスを提案しています：

- 顔に注目し、高品質の操作はほとんど常に顔の変形を伴います。

- 肌の不一致に注意し、異常に滑らかまたはシワが目立つ頬や額が、髪の毛や目の質感と不調和であることを確認します。

- 物理法則に合わない影や照明効果に注意を払います。

- 動きに応じて変わらない、誇張されたメガネの光沢をチェックします。

- 顔の毛に不自然な追加や削除がないかを分析します。

- まばたきパターンや唇の動きに注目し、多くのディープフェイクがリップシンクに依存しています。

アメリカの選挙に関連するディープフェイクの疑いがある場合は、ファリッドに連絡してさらなる調査を依頼することを検討してください。