Casa Branca Obtém Compromissos Voluntários de Empresas de IA para Combater a Pornografia Deepfake

Declaração da Casa Branca sobre o Combate ao Abuso de Imagens Relacionadas a IA

Hoje, a Casa Branca anunciou compromissos de empresas-chave de IA com o objetivo de reduzir a criação e a distribuição de abusos sexuais baseados em imagens. As empresas participantes, incluindo Adobe, Anthropic, Cohere, Common Crawl, Microsoft e OpenAI, apresentaram suas estratégias para evitar que suas plataformas gerem imagens íntimas não consensuais (NCII) de adultos e combater o material de abuso sexual infantil (CSAM).

Essas empresas se comprometeram a:

- "Obter de forma responsável seus conjuntos de dados e protegê-los contra o abuso sexual baseado em imagens."

Além disso, exceto a Common Crawl, as demais empresas irão:

- "Incorporar feedbacks e testes iterativos em seus processos de desenvolvimento para evitar que modelos de IA produzam abusos sexuais baseados em imagens."

- "Remover imagens nuas dos conjuntos de dados de treinamento de IA", quando apropriado.

Embora esse compromisso seja voluntário e não imponha novas exigências ou penalidades por não conformidade, representa um passo positivo na abordagem de uma questão significativa.

Notavelmente ausentes do anúncio da Casa Branca estavam grandes players de tecnologia, como Apple, Amazon, Google e Meta. Contudo, muitas empresas de tecnologia e IA estão, de forma independente, aprimorando o apoio a vítimas de NCII, visando conter a disseminação de imagens e vídeos de deepfake. Iniciativas como StopNCII estão colaborando com diversas empresas para uma abordagem unificada para eliminar esse conteúdo prejudicial, enquanto muitas estão desenvolvendo ferramentas exclusivas para reportar abusos sexuais baseados em imagens geradas por IA em suas plataformas.

Se você suspeita ser vítima de compartilhamento não consensual de imagens íntimas, pode abrir um caso com o StopNCII [aqui]. Se você tiver menos de 18 anos, pode denunciar ao NCMEC [aqui].