AI技术在表达或误传历史和当代人物观点方面的应用越来越广泛。一个显著的例子是拜登总统的声音在一则针对新罕布什尔州选民的机器人电话中被克隆。随着AI技术的迅猛发展,AI生成的角色作为政治候选人出现的可能性也已不再遥不可及。尽管这个想法看似不切实际,但创造虚拟政治人物的技术已基本成熟。
许多实例彰显了这一潜力。互动技术使历史人物和概念重现生机,促进了一个更加知情和参与的社会。例如,“Hello History”应用程序允许用户与代表如马尔库斯·奥勒留斯和马丁·路德·金的聊天机器人互动,既增强了对历史事件的理解,又增加了趣味性。同样,巴黎奥赛博物馆的梵高展览中也有一位数字化的艺术家形象,访客可以通过聊天机器人提问,回答基于他800多封信件的信息。此外,在二战博物馆与军人退伍军人的AI互动也是一个例子。
然而,深度伪造技术的兴起引发了重大的伦理问题。这项技术利用AI操纵音频和视觉内容,使人们越来越难以分辨真实与虚假的材料。尽管这一技术在教育和娱乐领域有其正当用途,但它也被用于冒充公众人物,可能会影响公众舆论和选举结果。
近期事件突显了深度伪造技术的政治影响。例如,巴基斯坦前总理伊姆兰·汗在监狱中利用AI生成的声音模拟演讲进行竞选,显著影响了选民投票率。在印尼,一个政党制作了一段关于前总统苏哈托的深度伪造视频,鼓励选民支持一位军方支持的候选人。在选举前,这段视频获得了500万次观看,充分展示了AI在影响公众情绪方面的威力。在印度,即使玛·卡鲁南迪在2018年去世,他的数字形象仍在公共活动中展出,进一步证明了AI在政治中潜在的操控性。
AI驱动的深度伪造技术已成为现实。这项技术使得创建高度逼真的数字角色成为可能,从而模拟与历史人物的对话或打造全新的数字候选人。想象一个由AI生成的角色“牛奶机器人”,代表哈维·米尔克的理想,在市长选举中进行写入投票竞选。利用社交媒体进行宣传和公众参与,这样新颖的候选人可能会获得大量选民支持,甚至超越传统候选人。
如果一个数字角色的写入票数超过任何官方候选人,这一结果可能会引发法律挑战,并重新定义什么构成合法的候选人。在选举中的代表性、问责制和AI伦理使用等方面,这将产生深远的影响,并提出当前政治环境中已经存在的关键问题。
探讨数字角色在政治评论中的作用,可以突显公众对现有选项的不满,并鼓励围绕技术治理的讨论。这引发了关于AI生成候选人适当性和合法性的有趣伦理辩论。在技术日益融入民主过程的过程中,我们必须考虑这些发展对选举政治的影响,以及它们可能如何影响我们对民主和人类与AI互动的理解。
随着这一领域的发展,这些AI技术将如何塑造政治话语尚未可知。专家和学者应积极讨论机器人角色在领导职务中的完整性及其影响,确保在不断变化的技术环境中维护民主原则。