OpenAI Lidera el Grupo C2PA para la Autenticación de Contenidos y Etiqueta los Videos de Sora como Generados por IA

OpenAI se Une a la Coalición por la Procedencia y Autenticidad del Contenido

OpenAI ha anunciado su incorporación al comité directivo de la Coalición por la Procedencia y Autenticidad del Contenido (C2PA), un grupo comercial fundado en febrero de 2021 por Microsoft y Adobe, junto a otros miembros destacados como Arm, BBC, Intel y Truepic.

Objetivo de unirse a la C2PA

El propósito de OpenAI al unirse a la C2PA es ayudar a las personas a verificar las herramientas utilizadas para crear o editar contenido digital y desarrollar tecnología que identifique el contenido generado por sus herramientas. Esta colaboración con otros actores de la industria, incluyendo competidores, busca crear recursos para etiquetar imágenes, videos y otros medios generados por IA. Esto permitirá a los espectadores rastrear el contenido hasta su fuente y distinguirlo de material auténtico.

¿Qué Hace la C2PA?

Operando bajo la Fundación de Desarrollo Conjunto sin fines de lucro, la C2PA se centra en establecer "especificaciones técnicas para la procedencia y autenticidad del contenido." Desde su creación, la organización ha dado la bienvenida a otros gigantes tecnológicos como Google en su comité. La C2PA ha desarrollado varios estándares de código abierto que permiten a desarrolladores y empresas clarificar el origen del contenido generado por IA.

Entre los estándares clave se incluye la arquitectura C2PA, que facilita el almacenamiento y acceso a información verificable de manera criptográfica, permitiendo a los usuarios evaluar la confianza en el contenido según un modelo de confianza definido.

Implementación de Credenciales de Contenido

Los miembros de la C2PA han utilizado su arquitectura para crear "Credenciales de Contenido," una pequeña marca de agua "CR" que ayuda a los usuarios a identificar al creador y las herramientas utilizadas para una imagen. Esta función permite interacciones mediante hover o toque para proporcionar información más detallada.

La arquitectura de la C2PA también se puede integrar en los metadatos de archivos de medios digitales, asegurando su accesibilidad incluso sin conexión. OpenAI ha estado aplicando este estándar a las imágenes generadas por su modelo DALL-E 3 desde febrero de 2023. Meta también ha comenzado a etiquetar imágenes generadas por IA utilizando los estándares de C2PA.

Declaraciones sobre la Colaboración en la Industria

Anna Makanju, VP de Asuntos Globales de OpenAI, destacó en un comunicado de prensa de la C2PA el papel de la organización en fomentar estándares compartidos sobre la procedencia digital. Subrayó que contribuir a estos esfuerzos es fundamental para generar confianza en el contenido digital que los consumidores encuentran en línea.

Desarrollos Futuros con Sora

Aunque aún no está disponible públicamente, el avanzado modelo de IA generador de videos de OpenAI, Sora, implementará metadatos de C2PA para etiquetar sus salidas como generadas por IA cuando se lance a socios de confianza y más tarde al público.

Programa de Clasificación de Detección de DALL-E

OpenAI también ha lanzado el Programa de Acceso para Investigadores del Clasificador de Detección de DALL-E, que presenta un clasificador binario para predecir si una imagen proviene de su modelo DALL-E 3. OpenAI invita a laboratorios de investigación y organizaciones periodísticas sin fines de lucro a postularse para participar hasta el 31 de julio.

Lanzamiento de un Fondo de Resiliencia Social

Junto con Microsoft, OpenAI está estableciendo un fondo de resiliencia social de 2 millones de dólares para mejorar la educación sobre IA para adultos mayores y quienes no están familiarizados con la tecnología. Esta iniciativa colabora con organizaciones como AARP, International IDEA y Partnership on AI.

Estos anuncios coinciden con el creciente temor sobre las imágenes generadas por IA que pueden engañar a los usuarios en plataformas de redes sociales como Facebook. El doble enfoque de OpenAI busca abordar tanto la generación de contenido como la educación.

Sin embargo, con la prevalencia de herramientas de IA de código abierto y la capacidad de alterar imágenes, etiquetar de manera confiable el contenido generado por IA presenta desafíos continuos. Aun así, las medidas proactivas de OpenAI indican su compromiso con la responsabilidad social en el cambiante panorama del contenido digital.