OpenAI ha anunciado una actualización para su aplicación insignia, ChatGPT, junto con el generador de imágenes AI integrado, DALL-E 3. Esta actualización presenta nuevas etiquetas de metadatos que permiten a los usuarios y organizaciones identificar imágenes generadas por IA.
Este anuncio sigue de cerca la iniciativa similar de Meta, que busca etiquetar las imágenes generadas por inteligencia artificial creadas con su generador, Imagine, disponible en plataformas como Instagram, Facebook y Threads.
Según OpenAI, los nuevos metadatos, basados en las especificaciones de C2PA, permitirán a cualquier persona—tanto plataformas de contenido como distribuidores—reconocer las imágenes producidas por sus productos. La actualización ya está disponible para usuarios web y se implementará para todos los usuarios móviles antes del 12 de febrero.
Además, OpenAI ha lanzado un sitio llamado Content Credentials, donde los usuarios pueden subir imágenes para verificar su estado de generación por IA; sin embargo, esta función solo se aplica a imágenes creadas a partir de hoy, ya que las imágenes generadas anteriormente no contendrán los nuevos metadatos.
¿Qué es C2PA?
La Coalición para la Procedencia y Autenticidad del Contenido (C2PA) es una iniciativa colaborativa establecida en febrero de 2021 para desarrollar estándares técnicos que certifiquen la fuente e historia de los contenidos multimedia. Financiada por empresas destacadas como Adobe, Microsoft y The New York Times, su misión es combatir la desinformación y el fraude en línea. En enero de 2022, C2PA lanzó sus estándares técnicos iniciales para incrustar metadatos en imágenes generadas por IA, revelando su origen bajo ciertas circunstancias.
Eventos recientes, como la difusión de contenido deepfake no consensuado que involucra a celebridades y usuarios de redes sociales, han subrayado la urgencia del trabajo de C2PA. OpenAI se comprometió este año a aplicar los estándares de C2PA para mitigar la desinformación antes de las elecciones de 2024.
¿Cómo está implementando OpenAI C2PA?
OpenAI está incrustando metadatos—en forma de una "firma" electrónica—dentro de los archivos de imágenes generadas por IA. Sin embargo, la compañía reconoce en su sitio de ayuda que este metadato puede ser eliminado de manera involuntaria o intencionada. Por ejemplo, la mayoría de las plataformas de redes sociales eliminan metadatos de las imágenes subidas, y acciones como tomar un screenshot pueden eliminarlos. Por lo tanto, la ausencia de metadatos no indica de manera definitiva si una imagen fue creada con ChatGPT o DALL-E 3.
Además, estos metadatos no son visibles para los usuarios sin acceder a la descripción del archivo. En contraste, Meta está desarrollando un esquema de etiquetado de IA de cara al público que incluye identificadores visuales, como un emoji de destellos, para marcar claramente las imágenes generadas por IA. Esta función de Meta aún está en diseño y comenzará a implementarse en los próximos meses, basándose en los estándares de C2PA junto con el Estándar de Metadatos Fotográficos IPTC.
Esta iniciativa subraya el compromiso de ambas compañías con la transparencia y autenticidad en el contenido generado por inteligencia artificial, reflejando las preocupaciones crecientes sobre la desinformación y la integridad digital.
Clasificación
