Esta semana, la Comisión Federal de Comercio (FTC) aprobó una resolución integral que amplía su autoridad investigativa sobre productos y servicios de inteligencia artificial (IA). A medida que la influencia de la IA crece en diversas industrias, los reguladores se centran cada vez más en sus implicaciones.
Esta resolución implica que las prácticas relacionadas con la IA estarán sujetas a un mayor escrutinio, y la FTC podrá recopilar información a través de demandas investigativas civiles (CID), según se indicó en un comunicado del lunes. Cabe destacar que la FTC ha utilizado previamente CIDs para abordar llamadas robóticas ilegales en el sector tecnológico. En 2022, obtuvo órdenes judiciales federales contra los proveedores de VoIP XCast Labs y Deltracon por no cumplir con CIDs pendientes.
Samuel Levine, director de protección al consumidor de la FTC, subrayó que las CIDs tienen fuerza legal y que el incumplimiento puede resultar en cargos por desacato. Esto resalta la importancia de responder de manera oportuna y completa a las solicitudes de datos.
Dado que esta resolución ampliada sobre la IA refleja la autoridad de la FTC en otros sectores, las empresas tecnológicas deben prepararse organizando registros internos relacionados con las afirmaciones sobre IA, el desarrollo de productos y la supervisión de terceros. Ser proactivos facilitará una respuesta ágil en caso de investigaciones.
Sustentación de Afirmaciones con Evidencia
La resolución de la FTC busca acelerar la recopilación de hechos sobre el impacto de la IA en la protección al consumidor y la competencia leal. Las afirmaciones de marketing sobre soluciones de IA deben sustentarse con evidencia concreta, incluyendo datos de entrenamiento de modelos, estudios de validación, casos que demuestren efectividad en el mundo real y reportes de monitoreo continuo. La documentación de revisiones por pares, supervisión de datos de terceros y esfuerzos de mitigación de riesgos también mejorará la credibilidad.
Sin una sólida documentación, las afirmaciones vagas o no respaldadas sobre las capacidades de un sistema de IA pueden activar el escrutinio regulatorio o acciones de cumplimiento.
Abordando la Equidad, el Sesgo y la Compliance por Diseño
La equidad algorítmica y la mitigación del sesgo seguirán siendo cruciales a medida que la IA se integre en procesos de toma de decisiones significativos. La FTC espera que las empresas aborden proactivamente estos temas a lo largo del ciclo de vida del desarrollo de productos. Una documentación efectiva de los procesos de diseño, evaluaciones de impacto, protocolos de gestión de riesgos y estrategias de respuesta puede demostrar la debida diligencia.
Para organizaciones que ya emplean IA, los programas de cumplimiento deben mostrar un monitoreo continuo y un compromiso para resolver problemas emergentes. Aunque surjan problemas técnicos, las medidas correctivas transparentes pueden fomentar la buena voluntad con los reguladores, mientras que una postura proactiva es recomendable a medida que el escrutinio aumenta.
Manejo de Relaciones con Terceros
La colaboración es vital para el progreso, pero la nueva resolución de la FTC extiende la supervisión más allá de los equipos internos. Las organizaciones que dependen de terceros para datos, entrenamiento de modelos u otros aspectos de soluciones de IA deben garantizar el acceso a la información relacionada.
Es esencial contar con protecciones contractuales sólidas que aboguen por la transparencia, la verificación de afirmaciones y la debida diligencia. Auditorías rutinarias de las operaciones de terceros protegen a la organización y a sus usuarios. Esto reconoce el alcance regulatorio ampliado en un contexto donde las asociaciones tecnológicas se vuelven comunes; la subcontratación no elimina las responsabilidades de cumplimiento.
Rol Activo de la FTC en la Regulación de la IA
Además de ampliar sus poderes investigativos, la FTC planea introducir un Desafío de Clonación de Voz en noviembre. Esta iniciativa busca desarrollar soluciones técnicas y de políticas para proteger a los usuarios contra fraudes financieros y violaciones de privacidad relacionadas con voces sintéticas.
La FTC reconoce que a medida que surgen nuevas tecnologías, también deben implementarse salvaguardias adecuadas para prevenir abusos, como la suplantación de voces ajenas para estafas. El desafío fomenta la colaboración entre las partes interesadas para abordar estos problemas.
Además, durante la investigación de la Oficina de Derechos de Autor de EE. UU. sobre IA generativa, la FTC destacó su jurisdicción sobre preocupaciones relacionadas con la protección al consumidor y la competencia. Si bien los asuntos de derechos de autor generalmente caen bajo otras supervisiones, la FTC argumentó que ciertos usos de contenido generado por IA podrían llevar a engaños o prácticas desleales, lo que podría violar sus regulaciones. Este enfoque ha recibido críticas de aquellos que consideran que se extralimita respecto a principios legales existentes como el uso justo.
No obstante, a medida que las nuevas tecnologías continúan desafiando marcos regulatorios tradicionales, es probable que la defensa de la FTC por su mandato crezca. En última instancia, la agencia busca equilibrar la innovación con una supervisión responsable mediante una combinación de iniciativas asesores y estrategias de cumplimiento tradicionales.
Clasificación
