分析选举深度伪造的加州大学伯克利分校教授：在数字时代抵制错误信息

Home AI News CN 分析选举深度伪造的加州大学伯克利分校教授：在数字时代抵制错误信息

在近期历史上，没有任何技术对社会构成的威胁超过深度伪造技术（deepfakes）。这种操控性很强的人工智能生成内容已经在政治中被武器化，并预计将在即将到来的美国总统大选以及参议院和众议院选举中占据主导地位。尽管监管者努力限制这一技术，极其逼真的深度伪造内容正在被用来抹黑候选人、影响公众舆论和操纵选民投票率。与此相对，一些候选人试图利用生成式人工智能提升他们的竞选活动，结果往往不尽如人意。

加州大学伯克利分校信息学院的哈尼·法里德教授对此采取了行动，启动了一项项目，以监测2024年总统竞选中的深度伪造内容。他表示：“我希望通过揭示这种内容，提升媒体和公众的意识，并向那些创建这些内容的人发出信号：我们正在监视你，我们会找到你。”

法里德的网站展示了总统乔·拜登穿军装的图片，并强调了，例如，计算机鼠标摆放不当和扭曲的天花板设计等不一致性，从而揭示这些图像是被操控的。他的研究同样关注在新罕布什尔州初选前，冒充拜登的深度伪造机器人电话。这些电话劝告公民不要投票，称“这周二投票只能帮助共和党人再次选举特朗普”。这些电话的来源尚不清楚，但其音质显得低劣且奇怪。

在另一篇文章中，一则深度伪造的罗恩·德桑蒂斯声称：“我不应该挑战特朗普，总统是我一生中最伟大的总统。”该网站还批评了特朗普与前首席医疗顾问安东尼·福奇的剪辑，指出诸如白宫标志不合逻辑和美国国旗上扭曲元素等明显的不一致性。

法里德注意到，选民情绪的轻微变化可能会影响选举结果，尤其是在关键的摇摆州。深度伪造的影响力正在扩大，越来越复杂的示例包括展示特朗普被逮捕的场景、乌克兰总统泽连斯基呼吁士兵投降，以及副总统卡马拉·哈里斯在公众活动中显得醉酒的影像。这些操控工具曾影响过土耳其和孟加拉国的选举，而一些政治家，例如明尼苏达州的迪恩·菲利普斯众议员和迈阿密市市长弗朗西斯·苏亚雷斯，也利用深度伪造来吸引选民。

法里德指出：“我观察到深度伪造的复杂性和误用正在上升。今年似乎是一个转折点，全球数十亿人即将投票，而技术快速进步。”

这一危险超越了选民操控，因为深度伪造可以作为进行非法或不当行为的借口。这一现象被称为“说谎者的红利”，已经被特朗普和埃隆·马斯克等人所利用。法里德强调：“当任何东西都可以被伪造时，没有什么是真实的。”

研究表明，人们在识别深度伪造视频时，准确率略超过50%，而识别伪造音频的准确率为73%。随着技术变得极为真实，篡改内容在社交媒体上的传播迅速可能引发错误信息的泛滥。法里德回忆道：“一年前，深度伪造主要是以图像为基础且相当明显。今天，我们看到复杂的音频和视频深度伪造，能轻易误导观众。”

虽然识别一致的警示信号具有挑战性，法里德建议不要依赖社交媒体获取新闻。他表示：“如果你必须使用社交媒体，放慢脚步，在分享之前进行批判性思考，并意识到自己的偏见。传播虚假信息只会加剧问题。”

对于寻求实用建议的人来说，西北大学的“Detect Fakes”项目提供了识别能力的测试，麻省理工学院媒体实验室提供了一些指导，包括：

- 关注面部，因为高质量的操控几乎总是涉及面部变化。

- 注意皮肤的一致性，例如过于光滑或皱缩的脸颊和额头，这些可能与头发和眼睛纹理不匹配。

- 观察阴影和光线效果，是否与物理规律不符。

- 检查眼镜上的眩光是否随运动而变化。

- 分析胡须是否有不自然的增减。

- 监测眨眼模式和唇部动作，因为许多深度伪造依赖于唇动同步。

如果你怀疑与美国选举相关的深度伪造，考虑联系法里德进行进一步调查。