美国联邦通讯委员会(FCC)对政治顾问史蒂夫·克雷默(Steve Kramer)处以600万美元的重罚,因为他在新罕布什尔州初选期间使用深度伪造人工智能技术和来电显示冒充,进行非法自动拨号电话。克雷默必须在30天内支付罚款,否则司法部将启动追讨程序。
克雷默的行为违反了2009年颁布的《来电显示真实性法案》,该法案禁止故意传输误导性来电识别信息,以图谋取利益或造成危害。尽管该法律早于人工智能的兴起,但FCC在今年2月一致投票决定将其适用于深度伪造技术。
这些欺诈性自动拨号电话使用了模仿拜登总统的深度伪造音频,误导新罕布什尔州选民,导致他们在初选临近时做出不当决策。虚假信息劝说选民不要参与投票,称:“你的投票在11月才重要,而不是这个星期二。”此外,来电显示被伪造,仿佛是来自新罕布什尔州民主党前主席。
克雷默聘请了新奥尔良的魔术师保罗·卡彭特(Paul Carpenter)制作这些虚假录音。卡彭特向NBC新闻演示了他如何使用人工智能语音生成器ElevenLabs,在大约20分钟内制作出深度伪造音频。他表示,他通过Venmo收取报酬,并相信该项目得到了拜登竞选团队的批准。ElevenLabs已经关闭了卡彭特的账户。
克雷默声称,他进行这些自动拨号电话的目的是为了突出这种技术可能造成的危险和滥用。尽管他的项目花费仅为500美元,但他认为其曝光量相当于“500万美元的宣传价值”。他补充说:“我让自己保持匿名,因此所有的法规能够自然发挥作用。我不需要成名。我想要的是产生影响。”
除了面临FCC的巨额罚款,克雷默还面临法律后果。新罕布什尔州检察长约翰·M·福梅拉(John M. Formella)去年5月宣布,克雷默被指控13项妨碍投票的重罪和13项冒充候选人的轻罪。