FTC、ボイスクローンAI技術の危険に立ち向かう挑戦を開始

音声クローン技術:リスクと規制対応

音声クローン技術は、他者の声を非常にリアルに再現することができる能力であり、今年特に人気を博しています。著名なミュージシャンのドレイクやザ・ウィークエンドのボイスクローンを使用したバイラルソングを含む、さまざまなAIスタートアップと技術が登場しています。しかし、この革新には消費者の安全、特に詐欺に関する重大な懸念が伴います。連邦取引委員会(FTC)は、消費者保護と公正な市場競争の促進を担当しており、音声クローン技術を深刻なリスクと見なしています。例えば、あなたの母親から緊急の5,000ドルの送金を求める電話を受け取ったと想像してください。または、誰かがあなたの声を使ってカスタマーサービスホットラインからあなたの銀行口座にアクセスすることも考えられます。

これに対処するため、FTCは11月16日の次回会議で「音声クローンチャレンジ」を発表する予定です。この取り組みは、技術者や一般の人々に対し、AIによる音声クローンの潜在的な害、特に詐欺やバイオメトリックデータの悪用に立ち向かうための多分野にわたるソリューションの開発を促すことを目的としています。

音声クローン技術の急速な進展

音声クローン技術は急速に進化しており、投資も集まっています。たとえば、ある映画製作者は、アメリカの政策を批判するディープフェイクビデオを、ファーストレディのジル・バイデンを使用して作成しました。このビデオは、AIスタートアップのElevenLabsを使ってわずか1週間で制作され、AIが説得力のあるナラティブを作り出す可能性を示しています。元軍事および企業情報会社の従業員によって設立されたElevenLabsは、投資家からの関心を集めており、今年、3回目の資金調達で10億ドルを目指していると報じられています。この急成長は音声クローンの収益性を示していますが、同時にオープンソースの解決策も増加しています。

しかし、この急速な進展には悪用のリスクも伴います。規制当局は、FTCチャレンジのような積極的な取り組みを通じて潜在的な問題に先手を打とうとしています。

音声クローンのリスクについて

音声クローンの主な懸念は、数分の音声からリアルに聞こえる発話を生成できる点です。この能力は、視聴者を誤解させるような音声や映像コンテンツの作成を可能にします。専門家は、詐欺、深層偽造を用いた公的な恥辱、政治プロセスを混乱させるような合成プロパガンダの可能性について警告しています。

現在の対策は主に自主的な業界慣行に依存していますが、これでは不十分かもしれません。FTCのチャレンジは、技術的、法的および政策的な解決策を協力して開発するための戦略的アプローチを示しています。

提案は、ディープフェイクの検出手法の向上や合成メディアの出所に関する基準の確立を含むかもしれません。これらの解決策は、安全性と責任を確保しつつ、革新を促進することを目指しています。

消費者保護へのFTCの取り組み

FTCは、生成的AIのリスクに懐疑的であることを米国著作権局へのコメントで表明しています。委員会は、AIが「許可なく著作権侵害されたコンテンツ」に基づいて訓練されることに関する懸念を示し、音声クローンツールが個人の音声サンプルを使用するための許可を十分に確保しているかどうかについて議論しています。音声クローンチャレンジは、個人データを責任を持って収集・管理するためのベストプラクティスの確立を目指しています。

さらに、FTCはAIによるなりすましによる消費者の欺瞞のリスクを指摘しています。このチャレンジは、合成音声を正確に特定し、誤解を招くディープフェイクの発生を減らす技術の開発を促進することを目的としています。

このイニシアティブの立ち上げにより、FTCは音声クローンや他の生成技術の方向性に積極的な影響を与え、消費者及び競争に関する懸念に効果的に対処する解決策を導くことを目指しています。

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles