Updated on 二月 5 2024
在今天的一则帖子中，Meta宣布计划在Facebook、Instagram和Threads上识别并标记AI生成的内容，但警告称“目前尚无法识别所有AI生成的内容”。这一举措是在泰勒·斯威夫特的色情AI深度伪造图像在Twitter上引发广泛关注之后推出的，这一事件引发了粉丝、立法者和全球媒体的强烈反响。此时，Meta面临着越来越多的审查，必须在即将到来的2024年美国大选之前有效管理AI生成的图像和处理过的视频。
Meta全球事务总裁尼克·克莱格表示：“AI生成内容的传播仍处于初期阶段。”他指出，随着AI使用的增加，“社会将展开有关如何识别合成和非合成内容的辩论。”克莱格强调，Meta将继续监测发展，与行业同仁合作，并与政府和民间社会进行对话。
Meta的举措与行业最佳实践相符，例如与AI合作伙伴关系（PAI）建立AI生成内容识别标准。该平台计划在检测到AI生成的标准指示后，对用户上传的图像进行标记。自其AI图像服务推出以来，用Meta AI生成的逼真图像已被标记为“使用AI构思”。
克莱格指出，Meta当前的方法代表了技术能力的前沿。“我们正在努力开发分类器，以自动检测AI生成的内容，即使没有隐形标记，”他补充道，同时还致力于确保隐形水印不被去除或篡改。
此项公告是Meta更广泛努力的一部分，旨在有效识别和标记AI生成的内容，利用隐形水印等技术。2023年7月，七家科技公司承诺采取具体措施以增强AI安全，包括水印技术。同时，谷歌DeepMind推出了SynthID的beta版本，将不可察觉的数字水印直接嵌入图像中。
然而，专家警告说，无论是可见的还是隐藏的数字水印都并非万无一失。马里兰大学的一位计算机科学教授指出：“目前我们没有可靠的水印技术——我们已经破解了所有水印。”费兹和他的团队展示了不法分子如何轻松去除水印或错误地将水印添加到人工创建的图像中，从而引发错误标记的内容。
Hugging Face首席伦理科学家玛格丽特·米切尔强调，虽然隐形水印并不是识别AI生成内容的终极解决方案，但它们为合法创作者提供了“营养标签”，帮助他们理解内容的来源。她强调了解内容来源的重要性：“知道内容的来源及其演变对追踪同意、信用和补偿至关重要。”
米切尔对于水印技术的潜力表示乐观，承认虽然AI技术存在不足，但整体技术仍具有希望。“在最近关于AI能力的讨论中，认清大局至关重要，”她总结道。
Find AI tools in YBX
微软通过引入新功能，增强企业创建智能助手的能力，推出Copilot Studio以设计个性化助手。Copilot代理能自动化复杂流程并根据反馈学习。微软的灵活性超越其他公司，Copilot扩展尚在预览中，未来将提供对话分析和信任平台。
排行榜
