Cette semaine, la Federal Trade Commission (FTC) a approuvé une résolution omnibus qui renforce son autorité d'investigation sur les produits et services liés à l'intelligence artificielle (IA). Alors que l'influence de l'IA s'étend dans divers secteurs, les régulateurs concentrent de plus en plus leurs efforts sur ses implications.
Cette résolution signifie que les pratiques liées à l'IA seront soumises à un contrôle accru, la FTC étant désormais en mesure de collecter des informations via des demandes d'investigation civile (CIDs), comme indiqué dans un communiqué ce lundi.
Il est à noter que la FTC a déjà utilisé des CIDs pour lutter contre les appels automatisés illégaux dans le secteur technologique. En 2022, elle a obtenu des ordonnances d'un tribunal fédéral contre les fournisseurs VoIP XCast Labs et Deltracon pour non-respect de CIDs en cours.
Samuel Levine, directeur de la protection des consommateurs à la FTC, a souligné que les CIDs ont force de loi, et leur non-respect peut entraîner des accusations de mépris. Cela souligne l'importance de répondre de manière rapide et complète aux demandes d'informations.
Étant donné que cette résolution élargie sur l'IA reflète l'autorité de la FTC dans d'autres secteurs, les entreprises technologiques devraient se préparer en organisant leurs dossiers internes liés aux allégations sur l'IA, au développement de produits et à la surveillance des tiers. Adopter une approche proactive facilitera une réponse rapide en cas d'enquêtes.
Justifier les Allégations par des Preuves
La résolution de la FTC vise à accélérer la collecte de faits concernant l'impact de l'IA sur la protection des consommateurs et la concurrence loyale. Les affirmations marketing sur les solutions d'IA doivent être étayées par des preuves concrètes, notamment des données de formation des modèles, des études de validation, des études de cas montrant l'efficacité dans le monde réel et des rapports de suivi continus. La documentation des revues par les pairs, de la surveillance des données par des tiers et des efforts de réduction des risques renforcera également la crédibilité.
Sans documentation solide, les allégations vagues ou non étayées concernant les capacités d'un système d'IA peuvent déclencher un examen réglementaire ou des mesures d'exécution.
Aborder l'Équité, les Biais et la Conformité par Design
L'équité algorithmique et l'atténuation des biais resteront essentielles à mesure que l'IA devient intégrante aux processus décisionnels majeurs. La FTC s'attend à ce que les entreprises s'attaquent de manière proactive à ces enjeux tout au long du cycle de vie du développement de produits. Une documentation efficace des processus de conception, des évaluations d'impact, des protocoles de gestion des risques et des stratégies de réponse peut démontrer la diligence raisonnable.
Pour les organisations déjà utilisateurs de l'IA, les programmes de conformité doivent montrer une surveillance continue et un engagement à résoudre les problèmes émergents. Même en cas de problèmes techniques, des mesures correctives transparentes peuvent favoriser de bonnes relations avec les régulateurs, tandis qu'une posture proactive est recommandée à mesure que le contrôle s'intensifie.
Gérer les Relations avec les Tiers
La collaboration est cruciale pour le progrès, mais la nouvelle résolution de la FTC élargit la surveillance au-delà des équipes internes. Les organisations qui dépendent de tiers pour des données, la formation de modèles ou d'autres aspects des solutions d'IA doivent garantir l'accès à l'information pertinente.
De solides protections contractuelles favorisant la transparence, la vérification des allégations et la diligence raisonnable sont essentielles. Des audits réguliers des opérations des tiers protègent l'organisation et ses utilisateurs. Cela reconnaît l'élargissement du cadre réglementaire face à la banalisation des partenariats technologiques ; l'externalisation n'élimine pas les responsabilités de conformité.
Le Rôle Actif de la FTC dans la Réglementation de l'IA
En plus d'élargir ses pouvoirs d'investigation, la FTC prévoit de lancer un Challenge de Clonage Vocal en novembre. Cette initiative vise à développer des solutions techniques et politiques pour protéger les utilisateurs contre la fraude financière et les violations de la vie privée liées aux voix synthétiques.
La FTC reconnaît qu'avec l'émergence de nouvelles technologies, des mesures de protection doivent également être mises en œuvre pour prévenir les abus, tels que l'usurpation de voix pour des arnaques. Ce challenge encourage la collaboration entre les parties prenantes pour faire face à ces défis.
De plus, lors de l'enquête du Bureau du droit d'auteur des États-Unis sur l'IA générative, la FTC a souligné sa compétence sur les questions de protection des consommateurs et de concurrence connexes. Bien que les questions de droits d'auteur relèvent généralement d'une surveillance différente, la FTC a soutenu que certaines utilisations de contenus générés par l'IA pourraient entraîner des tromperies ou des pratiques déloyales, ce qui pourrait violer ses règlements. Ce point de vue a suscité des critiques de ceux qui estiment qu'il dépasse les principes juridiques existants tels que l'usage équitable.
Néanmoins, alors que les nouvelles technologies continuent de défier les cadres réglementaires traditionnels, il est probable que la défense par la FTC de son mandat se renforce. En fin de compte, l'agence vise à équilibrer l'innovation avec une supervision responsable grâce à une combinaison d'initiatives de conseil et de stratégies d'exécution traditionnelles.
Classement
