在近期歷史中，深度偽造技術對社會所構成的威脅未曾如此之大。這種操控性的人工智能生成內容已在政治中被武器化，並預計將主導即將到來的美國總統選舉，以及參議院和眾議院的競選。儘管監管機構正在努力限制這項技術，極為真實的深度偽造影像正在被用來抹黑候選人、影響公眾輿論以及操控投票率。而一些候選人則試圖利用生成式人工智能來增強他們的選舉活動，卻經常導致災難性的結果。
加州大學伯克利分校信息學院的哈尼·法里德教授已開始行動。他啟動了一項專案，旨在在2024年總統競選期間監測深度偽造內容。「我的希望是，通過聚焦這些內容，提高媒體和公眾的警覺，並向創造這些內容的人發出信息：我們在關注你們，我們會找到你們。」法里德表示。
在一個顯著的例子中，法里德的網站展示了喬·拜登總統穿著軍事制服在指揮中心的影像。該網站突顯出不一致之處，如錯位的電腦滑鼠和扭曲的天花板設計，揭示了這些影像是經過操控的。法里德的研究還針對著名的深度偽造自動電話，這些電話在新罕布許爾州初選前冒充拜登，呼籲市民不要投票，聲稱「這個星期二的投票只會幫助共和黨人再次選出前總統唐納德·特朗普。」這些電話的來源仍不明，但聲音質量聽起來低劣且奇怪。
在另一個帖子中，一個深度偽造的羅恩·德桑蒂斯虛假聲稱：「我不應該挑戰特朗普總統，因為他是我一生中最偉大的總統。」該網站還批評了一段特朗普與前醫療首席顧問安東尼·福奇的剪輯，指出其中明顯的不一致之處，如不合邏輯的白宮標誌和扭曲的美國國旗元素。
法里德觀察到，即使是輕微的選民情緒變化也能左右選舉，特別是在關鍵的搖擺州。深度偽造的影響在擴大，越來越複雜的例子中，特朗普被描繪成被逮捕的情景，烏克蘭總統澤倫斯基督促士兵投降，副總統卡馬拉·哈里斯在公共活動中看起來醉醺醺的。這些操控工具在土耳其和孟加拉國等國家中的選舉中已經產生影響，而一些政治人物，如明尼蘇達州的眾議員迪恩·菲利普斯和邁阿密市市長弗朗西斯·蘇亞雷斯，也利用深度偽造來吸引選民。
「我注意到深度偽造的複雜性和濫用情況均有上升。」法里德指出。「今年感覺像是一個轉折點，數十億人準備參加全球投票，而技術也在迅速發展。」這一危險不僅限於操控選民，深度偽造還可以作為不法或不當行為的藉口。這種現象稱為「說謊者的紅利」，已經被特朗普和伊隆·馬斯克等人物利用。
「當任何東西都可以被偽造時，就沒有任何東西必須是真實的。」法里德強調。
研究表明，人類僅能以超過50%的概率識別出深度偽造視頻，而識別假音頻的準確率達73%。隨著技術變得極為真實，在社交媒體上篡改內容的擴散可以迅速引發錯誤信息。「一年前，深度偽造主要是基於圖像且相對明顯。」法里德回憶道。「如今，我們看到成熟的音頻和視頻深度偽造，能輕易誤導觀眾。」
雖然識別一致的警告信號頗具挑戰性，法里德建議不要依賴社交媒體獲取新聞。「如果必須使用社交媒體，請放慢速度，在分享前批判性思考，並辨識自身的偏見。分享虛假信息只會加劇問題。」
對於尋求實用建議的人，西北大學的Detect Fakes專案提供了一個測試來評估辨別技巧，麻省理工學院媒體實驗室也提供指導，包括：
- 聚焦於臉部，因為高質量的篡改幾乎總是涉及面部變更。
- 留意皮膚的不一致，如過於光滑或皺紋的臉頰和額頭，可能與頭髮和眼睛的質地不協調。
- 注意陰影和光線效果與物理學不一致。
- 檢查眼鏡上的反光是否在運動中不改變。
- 分析鬍鬚是否有不自然的增減。
- 監控眨眼模式和嘴唇運動，因為許多深度偽造依賴口型同步。
如果您懷疑與美國選舉相關的深度偽造，可以考慮與法里德聯繫以進一步調查。
排行榜
