美国联邦贸易委员会发起挑战以应对语音克隆人工智能技术的风险

Home AI News CN 美国联邦贸易委员会发起挑战以应对语音克隆人工智能技术的风险

Updated on 十一月 12 2023

语音克隆：风险与监管回应

语音克隆技术能够如此真实地复制他人的声音，以至于听起来毫无违和感，今年受到了广泛关注。众多AI初创公司与技术应运而生，其中包括一首涉及音乐偶像德雷克（Drake）和维肯（The Weeknd）语音克隆的病毒歌曲。

然而，这项创新带来了显著的消费者安全隐患，尤其是与欺诈相关的问题。负责保护消费者权益和促进公平市场竞争的联邦贸易委员会（FTC）认为，语音克隆构成重大风险。试想一下，您接到一通看似是您母亲打来的电话，请求您紧急转账5000美元，或者有人利用您自己的声音通过客服热线访问您的银行账户。

为此，FTC计划在11月16日的即将召开的会议上宣布一项探索性语音克隆挑战赛。此举旨在激励技术开发者和公众共同提出跨学科的解决方案，以遏制AI语音克隆可能带来的危害，包括欺诈和生物特征数据滥用。

语音克隆技术的快速发展

语音克隆技术不仅发展迅速，还吸引了大量投资。例如，一位电影制片人最近制作了一段深度伪造视频，批评美国在巴勒斯坦政策上的立场。该视频仅用一周时间在ElevenLabs（这一领域的领先初创公司之一）制作而成，展示了AI伪造可信叙事的潜力。

ElevenLabs由前一家备受争议的军事和企业情报公司的员工创立，吸引了大量投资者的关注，报道称该公司今年第三轮融资目标为10亿美元，反映出语音克隆的丰厚商业潜力，开放源码解决方案的日益普及也为其助力。

然而，迅速的技术进步同时带来了滥用风险，监管机构正在通过FTC的挑战赛等主动举措努力应对潜在问题。

应对语音克隆的风险

语音克隆的主要担忧在于它可以通过几分钟的音频生成逼真的语音，这为制造误导性音频和视频内容打开了大门，可能会操控和误导观众。专家警告，欺诈、利用深度伪造进行公共羞辱，以及可能干扰政治过程的合成宣传都有可能发生。

目前的风险缓解措施主要依赖于行业自愿实践，但可能不足以应对挑战。FTC的挑战赛代表了一种协调机制，鼓励利益相关者合作，开发技术、法律和政策解决方案，以增强问责制和保护消费者。

可能的提议包括改进深度伪造的检测方法，并建立合成媒体的来源标准。这些解决方案旨在促进创新，同时确保安全与责任。

FTC对消费者保护的承诺

FTC对生成性AI风险的怀疑在向美国版权局提交的评论中得到了体现。该机构对AI是否在“未经同意的情况下使用盗版内容进行训练”表示担忧，涉及到有关语音克隆工具是否能够有效获得个人语音样本使用许可的讨论。语音克隆挑战赛旨在建立负责任地收集和管理个人数据的最佳实践。

此外，FTC还强调了AI模仿可能导致消费者欺诈的风险。挑战赛旨在鼓励开发技术，准确归属合成语音，从而减少误导性深度伪造的发生。

通过推出这一倡议，FTC希望积极影响语音克隆和其他生成性技术的发展方向，引导其走向有效解决消费者和竞争问题的解决方案。

使用FlexClip，这款免费的在线视频编辑器，让您轻松制作和编辑精彩视频。无论是个人项目还是商业推广，FlexClip都能帮助您快速实现创意。

视频制作工具 AI动画视频

210.5K

生成高质量的虚构人物素材照片，适用于多种创意和商业用途。

AI 人物生成器 AI头像生成器

1.1M

轻松将文本和图像转化为引人入胜的3D资产，打造独特的视觉体验。

网格 AI 3D模型生成器

195.3K

Height是一个强大的项目管理工具，旨在提升团队协作和组织效率。通过简化工作流程和增强沟通能力，Height助力团队更轻松地达成目标。

项目管理 AI 任务管理

Find AI tools in YBX

美国联邦贸易委员会发起挑战 以应对语音克隆人工智能技术的风险