聯邦貿易委員會（FTC）啟動挑戰，應對語音克隆人工智慧技術的危險性

Home AI新聞聯邦貿易委員會（FTC）啟動挑戰，應對語音克隆人工智慧技術的危險性

Updated on 十一月 12 2023

聲音複製：風險與監管回應

今年，聲音複製技術的熱潮席捲而來，讓人能夠逼真地重現他人的聲音。隨著多家人工智慧新創公司和技術的出現，包括一首病毒式流行歌曲，使用了音樂偶像Drake和The Weeknd的聲音複製，這項創新引發了人們對消費者安全的重大擔憂，尤其是在詐騙方面。美國聯邦貿易委員會（FTC）負責防止消費者受害及促進公平市場競爭，認為聲音複製是重大風險。想像一下，你接到一通似乎是母親打來的電話，要求緊急轉帳5,000美元，或者有人用你的聲音透過客服熱線存取你的銀行帳戶。

作為回應，FTC計劃在11月16日的會議上宣布探索性的聲音複製挑戰。此舉旨在激勵技術人員與公眾聯手，開發多學科解決方案，以應對AI驅動聲音複製潛在的危害，例如詐騙及生物識別數據的濫用。

聲音複製技術的快速進展

聲音複製技術不僅迅速進步，還吸引了大量投資。例如，最近有一名電影製作人利用深度偽造技術製作了一段批評美國對巴勒斯坦政策的視頻，該視頻在僅一週內完成，使用的正是領先的新創公司ElevenLabs的技術，顯示出AI有能力創造出可信的敘事。

ElevenLabs由一群曾在有爭議的軍事與企業情報公司工作的前員工創辦，並引起了大量投資者的關注，據《商業內幕》報導，今年該公司正在尋求10億美元的第三輪融資。這一快速增長突顯了聲音複製的潛在利潤，伴隨著開源解決方案的日益可用。

然而，隨著這一迅猛的進展，濫用的風險也在增加，監管機構正在通過FTC的挑戰等主動舉措，努力預防潛在的問題。

應對聲音複製的風險

聲音複製的一項主要擔憂是其能夠僅以幾分鐘的音頻生成聽起來真實的語音。這種能力為創造欺騙性的音視頻內容打開了大門，可能操控和誤導觀眾。專家警告，詐騙的潛在風險、利用深度偽造進行的公眾羞辱以及可能擾亂政治過程的合成宣傳，都是值得關注的議題。

目前的應對措施主要依賴於自願的行業實踐，但這可能不足以應對問題。FTC的挑戰代表了一種協同作法，鼓勵利益相關者共同開發技術、法律和政策解決方案，以提高問責能力並保護消費者。提案可能包括改善深度偽造的檢測方法，以及建立合成媒體來源的標準，這些解決方案旨在促進創新，同時確保安全與責任。

FTC對消費者保護的承諾

FTC對生成性AI風險的懷疑也在美國版權局的意見中表達。該機構對於AI是否在「未獲得同意的情況下訓練於盜版內容」表示擔憂，並涉及到聲音複製工具是否足夠保障使用個人語音樣本的許可。聲音複製挑戰旨在建立負責任收集和管理個人數據的最佳實踐。此外，FTC還強調了AI冒充可能導致消費者誤導的風險。此挑戰旨在鼓勵開發能準確識別合成語音的技術，以減少誤導性深度偽造的發生。

通過啟動這一舉措，FTC希望在聲音複製及其他生成技術的發展方向上起到主動影響的作用，引導其朝著有效解決消費者和競爭問題的方案邁進。

生成式人工智慧如何塑造身份與存取管理的未來

Cerebras 與 Core42 推出全球最大 AI 超級電腦項目的第二階段

Most people like

QuizRise.com

49K

輕鬆設計並分發引人入勝的測驗，運用人工智慧技術。

測驗生成 AI Quizzes

Vidnoz AI Tools

10.3M

透過我們免費的 AI 驅動工具，提升您的視頻創作體驗，實現輕鬆自動化。

影片創作 AI Avatar Generator

Gulf Picasso

588.8K

發現人工智慧與阿拉伯語在統一生態系統中的協同效應。隨著人工智慧持續重塑全球各行各業，與阿拉伯語的整合帶來了獨特的機遇和挑戰。這一動態交匯不僅增強了交流與可及性，還促進了從教育到商業等各個領域的創新。探索人工智慧如何改變阿拉伯語言的格局，並推動阿拉伯世界的成長。

人工智慧 AI Photo & Image Generator

AI Image Extender

11.3K

在當今的視覺驅動世界中，對高品質影像的需求從未如此迫切。AI 相片擴展工具應運而生——這是一種創新的技術，可以提升和放大您的影像，同時保持令人驚豔的細節和清晰度。無論您是需要提升個人照片還是改善專業用途的影像，這款變革性工具利用先進的人工智慧演算法來呈現驚人的效果。探索 AI 相片擴展工具如何徹底改變我們創造和分享視覺內容的方式，讓提升影像變得比以往更簡單。

AI 圖像擴展器 AI Photo & Image Generator

Find AI tools in YBX