La Casa Blanca Obtiene Compromisos Voluntarios de Empresas de IA para Combatir la Pornografía Deepfake

Declaración de la Casa Blanca sobre la Lucha contra el Abuso Sexual Basado en Imágenes Generado por IA

Hoy, la Casa Blanca anunció compromisos de importantes empresas de IA para reducir la creación y distribución de abuso sexual basado en imágenes. Las empresas participantes, que incluyen Adobe, Anthropic, Cohere, Common Crawl, Microsoft y OpenAI, han delineado sus estrategias para evitar que sus plataformas generen imágenes íntimas no consensuadas (NCII) de adultos y combatir el material de abuso sexual infantil (CSAM).

Estas empresas se comprometieron a:

- "Obtener de manera responsable sus conjuntos de datos y protegerlos del abuso sexual basado en imágenes."

Además, salvo Common Crawl, las demás compañías:

- "Incorporarán ciclos de retroalimentación y pruebas iterativas en sus procesos de desarrollo para evitar que los modelos de IA produzcan abuso sexual basado en imágenes."

- "Eliminarán imágenes desnudas de los conjuntos de datos de entrenamiento de IA," cuando sea apropiado.

Aunque este compromiso es voluntario y no impone nuevos requisitos o sanciones por incumplimiento, representa un paso positivo hacia la solución de un problema significativo.

Notablemente ausentes en el anuncio de la Casa Blanca estaban grandes actores tecnológicos como Apple, Amazon, Google y Meta. Sin embargo, muchas empresas de tecnología y IA están mejorando de manera independiente el apoyo a las víctimas de NCII, buscando frenar la difusión de imágenes y videos deepfake. Iniciativas como StopNCII colaboran con varias empresas para lograr un enfoque unificado en la eliminación de este contenido dañino, mientras que muchas organizaciones desarrollan herramientas propias para reportar abuso sexual basado en imágenes generado por IA en sus plataformas.

Si sospechas que eres víctima de la difusión no consensuada de imágenes íntimas, puedes presentar un caso con StopNCII [aquí]. Si tienes menos de 18 años, puedes reportar a NCMEC [aquí].