2024年のアメリカ大選挙におけるAIに関する誤情報の懸念が高まる中、AI音声クローンのスタートアップ企業が政治分野に進出しています。例えば、ボカラトンに本社を構えるInstreamaticは、2021年に610万ドルのSiriーズA資金を調達したAIオーディオ/ビデオ広告プラットフォームであり、政治広告にも進出しています。
Instreamaticのソリューションは、候補者キャンペーンがリアルタイムのイベントや場所に応じて迅速に高精度のAI生成の動画や音声広告を作成できることを特徴としています。デモでは、候補者の声をスタジオ再録音せずに複製することで、音声や動画の政治広告を変更する方法が示されました。昨年3月から、Instreamaticはブランドや代理店に対して生成音声AI製品を提供しており、1つの完成広告から無限のバリエーションを生成することが可能です。これにより、視聴者の所在や時間、広告を受け取るプラットフォーム、地域の店舗などに合わせた変更が可能になります。
しかし、2024年の選挙キャンペーンでのAIの導入は、誤情報のリスクを伴います。最近のABCニュースの報告によると、フロリダ州知事ロン・デサンティス氏が元大統領ドナルド・トランプのAI生成画像や音声を使用しており、生成AIの影響について懸念が広がっています。アレンAI研究所の機械学習研究者、ナサン・ランバート氏は、規制がない場合、AIが2024年の選挙を混乱に陥れる可能性があると警告しています。
Instreamaticは、音声使用に対して明示的な許可を求めることで、コンプライアンスを確保しています。CEOのスタス・トゥシンスキー氏は、クライアントの承認を確認し、政治広告サービスはすべての応募者に提供されるわけではないと述べました。「単にサインアップするだけではありません」と彼は説明しました。「キャンペーン作成に関与することで、プラットフォームの意図しない誤用を避けます」と強調し、問題のあるコンテンツは迅速に削除され、必要に応じて公に対処されるとしています。
トゥシンスキー氏は、Instreamaticが政治広告を新たに創造するのではなく、既存の手間のかかるプロセスを自動化していると明言しました。候補者は通常、広告を録音するために数時間をスタジオで費やしており、その後もアップロードやエラー確認の手順が必要です。Instreamaticの技術は、このタイムラインを数週間から数分に短縮し、広告作成プロセスを効率化します。
専門家は、AIの不正使用の可能性を考慮すると、政治広告の環境が危険であると警告しています。現在、政治キャンペーンにおけるAI生成コンテンツの使用について、連邦規制は存在しません。スタンフォード大学人間中心AI研究所の政策ディレクター、ラッセル・ウォルド氏は、十分な監視がないままキャンペーンが進行しているため、ルールの欠如を指摘しました。
トゥシンスキー氏は、Instreamaticが生産性と効果を高めることを目指していると再度強調し、誤情報を生成することは目的ではないと述べました。「もし私たちが誤情報を作成する立場にあったなら、このプロセスに関わりたくはありません」と彼は断言し、同社の技術の不正使用を阻止し、そのような行為を公開することへのコミットメントを強調しました。