La Maison Blanche obtient des engagements volontaires d'entreprises d'IA pour lutter contre la pornographie deepfake.

Déclaration de la Maison Blanche sur la lutte contre les abus d'images liés à l'IA

Aujourd'hui, la Maison Blanche a annoncé des engagements de la part de grandes entreprises d'IA visant à réduire la création et la diffusion d'abus sexuels basés sur des images. Parmi les entreprises participantes, figurent Adobe, Anthropic, Cohere, Common Crawl, Microsoft et OpenAI, qui ont présenté leurs stratégies pour empêcher leurs plateformes de générer des images intimes non consensuelles (INCI) d'adultes et de lutter contre le matériel d'abus sexuel d'enfants (MASC).

Ces entreprises se sont engagées à :

- "Approvisionner leurs ensembles de données de manière responsable et les protéger contre les abus sexuels basés sur des images."

De plus, à l'exception de Common Crawl, les autres entreprises vont :

- "Intégrer des boucles de rétroaction et des tests de résistance itératifs dans leurs processus de développement pour éviter que les modèles d'IA ne produisent des abus sexuels basés sur des images."

- "Supprimer les images nues des ensembles de données d'entraînement d'IA" lorsque cela est approprié.

Bien que cet engagement soit volontaire et ne impose pas de nouvelles exigences ou pénalités en cas de non-conformité, il représente une avancée positive face à un problème majeur.

Notamment absent de l'annonce de la Maison Blanche, des géants de la technologie tels qu'Apple, Amazon, Google et Meta. Cependant, de nombreuses entreprises de technologie et d'IA renforcent de manière indépendante leur soutien aux victimes d'INCI, visant à freiner la diffusion d'images et de vidéos deepfake. Des initiatives comme StopNCII collaborent avec plusieurs entreprises pour une approche unifiée visant à éliminer ce contenu nuisible, tandis que de nombreuses entreprises développent des outils propriétaires pour signaler les abus sexuels basés sur des images générées par l'IA sur leurs plateformes.

Si vous suspectez être victime d'un partage d'images intimes non consensuelles, vous pouvez déposer un dossier auprès de StopNCII [ici]. Si vous avez moins de 18 ans, vous pouvez signaler à NCMEC [ici].