OpenAI 加入内容来源与真实性联盟
OpenAI 最近宣布,成为内容来源与真实性联盟(C2PA)指导委员会的成员。该联盟是由微软与 Adobe 于2021年2月共同成立的贸易组织,成员包括 Arm、BBC、Intel 和 Truepic 等知名公司。
加入 C2PA 的目的
OpenAI 希望帮助用户验证数字内容的创建和编辑工具,并开发识别其工具生成内容的技术。与其他行业参与者,包括竞争者的合作,旨在为 AI 生成的图像、视频和其他媒体建立标识资源,使观众能够追溯内容来源,并区分真实影像和照片。
C2PA 的作用
C2PA 在非营利的联合开发基金会下运作,致力于建立“内容来源与真实性的技术规范”。自成立以来,该组织已经欢迎了包括谷歌在内的其他科技巨头加入其委员会。C2PA 开发了多个开源标准,使开发者和公司能够明确 AI 生成内容的来源。
关键标准包括 C2PA 架构,可以存储和访问加密可验证的信息,帮助用户根据特定的信任模型评估内容的可信度。
内容凭证的实施
C2PA 成员通过其架构创建了“内容凭证”,这是一个小型的“CR”水印,帮助用户识别图像的创作者及使用的工具。此功能支持悬停或点击交互,以提供更详细的信息。
C2PA 架构还可以集成到数字媒体文件的元数据中,确保即使在离线状态下也能访问。自2023年2月以来,OpenAI 已开始将此标准应用于其 DALL-E 3 模型生成的图像。而 Meta 也已开始使用 C2PA 标准为 AI 生成的图像打标签。
行业合作的声明
OpenAI 全球事务副总裁安娜·马坎久在 C2PA 的新闻稿中强调,该组织在促进数字来源共享标准方面的重要作用。她指出,参与这些努力对于建立消费者对在线数字内容的信任至关重要。
未来与 Sora 的发展
虽然尚未公开发布,但 OpenAI 高级视频生成 AI 模型 Sora 将在向信任的合作伙伴和公众发布时,使用 C2PA 元数据为其输出标记为 AI 生成。
DALL-E 检测分类器计划
OpenAI 还推出了 DALL-E 检测分类器研究者参与计划,提供一个二元分类器,用于预测图像是否来源于其 DALL-E 3 模型。OpenAI 邀请研究机构和新闻非营利组织申请参与,截止日期为7月31日。
启动社会韧性基金
OpenAI 与微软共同设立了200万美元的社会韧性基金,旨在增强老年人及不熟悉技术的群体的 AI 教育。此倡议与 AARP、国际 IDEA 和人工智能合作伙伴关系等组织合作。
这些公告出现在人们对 AI 生成图像在社交媒体平台上误导用户的担忧日益加剧之际。OpenAI 采取的双重措施旨在同时解决内容生成和教育问题。
然而,由于开源 AI 工具的普遍存在和图像修改的能力,可靠地标记 AI 生成内容依然面临挑战。尽管如此,OpenAI 的主动措施表明其在不断变化的数字内容领域中致力于成为一个负责任的社会实体。