OpenAI与Meta合作为AI生成图像贴上透明标签

Home AI News CN OpenAI与Meta合作为AI生成图像贴上透明标签

OpenAI 最近宣布对其旗舰应用 ChatGPT 进行了更新，此次更新还包含集成的 AI 图像生成器 DALL-E 3。该更新引入了新的元数据标签，使用户和组织能够识别 AI 生成的图像。

这一声明紧随 Meta 的类似举措，该公司旨在为其不同的图像生成器 Imagine 生成的 AI 图像进行标记，此功能将在 Instagram、Facebook 和 Threads 等平台上提供。

根据 OpenAI 的说法，新元数据基于 C2PA 规范，将使内容平台和分发者能够识别其产品生成的图像。该更新已在网页用户中上线，并预计将在 2 月 12 日之前向所有移动用户推送。

此外，OpenAI 还推出了一个名为 Content Credentials 的网站，用户可以在该网站上上传图像以验证其 AI 生成状态，但此功能仅适用于今日之后生成的图像，之前生成的图像不包含新元数据。

什么是 C2PA？

内容来源与真实性联盟（C2PA）是一个于 2021 年 2 月成立的合作倡议，旨在开发技术标准，以认证媒体内容的来源和历史。该倡议得到 Adobe、Microsoft 和《纽约时报》等知名公司的资助，使命是打击虚假信息和在线内容欺诈。2022 年 1 月，C2PA 发布了嵌入 AI 生成图像元数据的初步技术标准，以在特定情况下揭示其来源。

最近，涉及名人和社交媒体用户的非自愿深度伪造内容的传播，强调了 C2PA 工作的紧迫性。OpenAI 今年早些时候承诺将在 2024 年选举之前应用 C2PA 标准，以减少虚假信息的传播。

OpenAI 如何实施 C2PA

OpenAI 正在将元数据以电子“签名”的形式嵌入 AI 生成的图像文件中。然而，该公司在其帮助网站上指出，这些元数据可能会被无意或故意删除。例如，大多数社交媒体平台会从上传的图像中去除元数据，而截屏等操作也可能消除这些数据。因此，元数据的缺失并不能明确指示图像是否由 ChatGPT 或 DALL-E 3 创建。

此外，用户在未访问文件描述的情况下无法看到这些元数据。相比之下，Meta 正在开发一个面向公众的 AI 标记方案，包含视觉标识，如星星表情，以明确标示 AI 生成的图像。Meta 的这一功能仍在设计中，预计将在未来几个月推出，依赖 C2PA 标准以及 IPTC 照片元数据标准。

这一举措突显了两家公司对 AI 生成内容透明度和真实性的承诺，反映了对虚假信息和数字完整性的日益关注。

介绍“Smaug-72B”：开源人工智能解决方案的冠军之选

苹果发布“MGIE”：颠覆性的AI模型，革新基于指令的图像编辑体验