白宫获得AI公司自愿承诺，共同打击深度伪造色情内容

Home AI News CN 白宫获得AI公司自愿承诺，共同打击深度伪造色情内容

白宫关于打击基于人工智能的图像滥用的声明

今天，白宫宣布了主要人工智能公司的承诺，旨在减少图像性虐待的生成和传播。参与的公司包括Adobe、Anthropic、Cohere、Common Crawl、Microsoft和OpenAI，他们已提出各自的策略，以防止其平台生成非自愿的亲密图像（NCII）并打击儿童性侵材料（CSAM）。

这些公司承诺：

- “负责任地获取数据集，并保护其免受图像性虐待。”

此外，除了Common Crawl，其他公司还将：

- “在开发流程中纳入反馈机制和迭代压力测试，以防止AI模型产生图像性虐待内容。”

- “在适当情况下，从AI训练数据集中移除裸体图像。”

虽然这一承诺是自愿的，不会对违反者施加新的要求或处罚，但这标志着解决这一重大问题的积极进展。

值得注意的是，白宫公告中未提及苹果、亚马逊、谷歌和Meta等主要科技公司。然而，许多科技和人工智能公司正在独立增强对非自愿亲密图像受害者的支持，努力遏制深度伪造图像和视频的传播。像StopNCII这样的倡议正与多家公司合作，以统一的方式消除这种有害内容，同时许多企业正在开发专有工具，用于在其平台上举报基于AI生成的图像性虐待。

如果您怀疑自己是非自愿亲密图像分享的受害者，可以在[此处]向StopNCII提交申诉。如果您未满18岁，可以在[此处]向国家失踪与被虐待儿童中心（NCMEC）报告。

探索谷歌如何帮助您识别 AI 生成的图像

Adobe推出即将发布的AI视频工具，预计年内上线