2024年政治广告中的语音克隆技术：应对日益严重的虚假信息挑战

Home AI News CN 2024年政治广告中的语音克隆技术：应对日益严重的虚假信息挑战

关于2024年美国选举中人工智能（AI）带来的虚假信息风险日益引发关注，同时，AI语音克隆初创公司也开始进入政治领域。例如，位于博卡拉顿的Instreamatic，是一家获得610万美元系列A融资的AI音视频广告平台，正在扩展其政治广告业务。Instreamatic的解决方案使候选人能够快速制作高度精准的AI生成视频和音频广告，这些广告使用语音配音替代传统的演讲视频，能够根据实时事件或地点进行调整。

演示中展示了Instreamatic如何在不需要重新录音的情况下，复制候选人的声音，灵活修改政治广告的音频或视频。自去年三月以来，Instreamatic已向品牌和代理机构提供其生成性语音AI产品，允许从一则完整广告生成无限多样化的版本，以适应受众位置、时间、广告接收平台或本地商店等因素。

然而，AI在2024年选举活动中的引入也存在潜在的虚假信息风险。最近的ABC新闻报道提到，佛罗里达州州长朗·德桑蒂斯使用了前总统唐纳德·特朗普的AI生成图像和音频，引发对生成性AI影响的担忧。美国艾伦人工智能研究所的机器学习研究员纳森·兰伯特警告称，若无规制，AI可能会使2024年选举变得混乱。

Instreamatic通过要求明确的声音使用许可来确保合规性。首席执行官斯塔斯·图欣斯基表示，他们将核实客户授权，且政治广告服务不会向所有申请人开放。“你无法简单注册，”他解释道。“我们参与广告制作以避免不当使用我们的平台。”他强调，任何问题内容将迅速删除，并在必要时公开处理。

图欣斯基澄清，Instreamatic并非在重新定义政治广告，而是在对已经繁琐的过程进行自动化。候选人通常需花费数小时在录音室录制广告，接下来还要进行上传和错误检查。而Instreamatic的技术则将这段时间压缩至几分钟，从而简化了广告制作流程。

专家警告称，在潜在的AI误用风险下，政治广告领域依旧危险。目前，尚无联邦法规监管政治活动中使用AI生成内容的行为。斯坦福大学人本中心AI研究所政策主任拉塞尔·瓦尔德指出，缺乏规则使得竞选活动在缺乏足够监督的情况下推进。

图欣斯基重申，Instreamatic的目标是提高生产力和效果，而非生成虚假信息。“如果我们是制造虚假信息的人，我可不想参与这个过程，”他强调，公司的承诺是防止不当使用其技术并可能揭露此类行为。

OpenAI 首席执行官山姆·奧特曼对科技行业中的巴勒斯坦人和穆斯林表示支持

Databricks研究证实Intel Gaudi在AI加速器价格性能比中优于Nvidia

Most people like

Homework AI

71.2K

即时逐步指导助手，助您高效完成任务。

AI 作业助手作业帮助工具

Friday Email

Friday Email.ai 是一款基于人工智能的自动化电子邮件工具，旨在通过自动生成和优化邮件内容，帮助个人和团队提高工作进展报告和项目更新的沟通效率。

电子邮件写作 AI 邮件撰写

Andi - 寻找下一代搜索引擎

1.1M

Andi 是一个利用人工智能技术直接响应用户查询的网站。

AI搜索 AI 内容生成器

Gunbot

35.9K

优化多交易所用户体验的友好型加密货币交易机器人

加密交易机器人 AI交易机器人助手

Find AI tools in YBX