聲音複製技術即將推動2024年政治廣告,面對日益嚴重的假資訊問題

隨著2024年美國大選的臆測不實問題日益嚴重,AI語音克隆初創公司卻積極進入政治領域。以博卡拉頓的Instreamatic為例,這個2021年成功籌集610萬美元的AI音頻/視頻廣告平台,現正擴展至政治廣告領域。Instreamatic的解決方案使候選人競選能夠迅速創建高精度的AI生成視頻和音頻廣告,利用聲音代替傳統的談話式視頻,並能根據即時事件或地點進行調整。

一個演示展示了Instreamatic如何通過複製候選人的聲音來修改音頻或視頻廣告,而無需在錄音室重新錄製。自去年三月以來,Instreamatic已將其生成語音AI產品提供給品牌和代理機構,能夠根據觀眾位置、時間、廣告投放平台或當地商店等因素,從一個已完成的廣告生成無限變體。

然而,在2024年選舉中引入AI也帶來潛在的假信息風險。根據最近的ABC新聞報導,佛羅里達州州長羅恩·德桑蒂斯使用了AI生成的前總統唐納德·特朗普的圖片和音頻,這引發了對生成AI影響的擔憂。艾倫人工智慧研究所的機器學習研究員內森·蘭伯特警告,若無監管,AI可能使2024年選舉陷入混亂。

Instreamatic為了確保合規性,要求明確的語音使用授權。首席執行官斯塔斯·圖辛斯基表示,他們會驗證客戶授權,並指出他們的政治廣告服務不會提供給所有申請者。他解釋說:「你不能隨便註冊。 我們參與競選廣告的創建,以避免我們平台的不當使用。」他強調,如發現不當內容會迅速刪除並進行必要的公開處理。

圖辛斯基明確指出,Instreamatic並不是在重新定義政治廣告,而是在自動化一個繁瑣的過程。傳統上,候選人需要在錄音室花費數小時來錄製廣告,而後還需進行上傳和檢查等步驟。Instreamatic的技術將這一流程的時間從數周縮短至數分鐘,簡化了廣告創建過程。

專家們警告,考量到潛在的AI誤用,政治廣告的領域依然險峻。目前,尚無聯邦法規規範AI生成內容在政治活動中的使用。斯坦福大學人性化AI研究所的政策主任拉塞爾·沃爾德強調,由於缺乏規則,競選活動在無足夠監督的情況下繼續推進。

圖辛斯基重申,Instreamatic的目的是提高生產力和效果,而非製造假信息。他強調:「如果我們是製造假信息的人,我不想參與這個過程。」他表示,該公司致力於阻止其技術的不道德使用,並有可能揭露這些行為。

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles