OpenAI Presenta Medidas de Seguridad para Citas de IA e Imágenes Antes de las Elecciones Globales de 2024

La semana pasada, OpenAI lanzó su GPT Store, permitiendo a creadores externos exhibir y monetizar chatbots personalizados (GPTs). Sin embargo, las innovaciones de la empresa no se detienen aquí al avanzar enero de 2024.

El lunes, OpenAI publicó un artículo en su blog detallando nuevas salvaguardias para sus herramientas de inteligencia artificial, centrándose especialmente en su modelo de generación de imágenes, DALL-E, y en las prácticas de citación en ChatGPT. Esta iniciativa busca combatir la desinformación ante las numerosas elecciones programadas a nivel global para finales de este año.

"Proteger la integridad de las elecciones requiere la colaboración de todos los rincones del proceso democrático, y queremos asegurarnos de que nuestra tecnología no se utilice de manera que pueda socavar este proceso," afirma el blog.

Entre las salvaguardias actuales se encuentra una función de "reportar," que permite a los usuarios señalar posibles violaciones relacionadas con GPTs personalizados, incluidas las que suplantan a personas o instituciones reales, lo cual infringe las políticas de uso de OpenAI.

Nuevas Medidas Anticipadas

El blog de OpenAI revela que los usuarios pronto accederán a informes de noticias en tiempo real a nivel global, con atribuciones y enlaces, mejorando la credibilidad de la información obtenida a través de ChatGPT. Esta mejora está en línea con las asociaciones de OpenAI con medios respetados como Associated Press y Axel Springer, que incluyen a Politico y Business Insider.

Cabe destacar que OpenAI implementará credenciales de imagen de la Coalición para la Proveniencia y Autenticidad del Contenido (C2PA). Esta iniciativa busca aplicar marcas de agua digitales criptográficas a contenido generado por IA, asegurando su detectabilidad en el futuro. OpenAI planea integrar las credenciales C2PA en las imágenes de DALL-E 3 a inicios de este año, aunque aún no se ha anunciado una fecha específica.

Además, OpenAI presentó su "clasificador de proveniencia", una herramienta diseñada para detectar imágenes generadas por DALL-E. Mencionada inicialmente durante el lanzamiento de DALL-E 3 en otoño de 2023, esta herramienta permitirá a los usuarios subir imágenes para determinar su origen en inteligencia artificial.

"Nuestras pruebas internas han revelado resultados alentadores, incluso con imágenes sometidas a modificaciones típicas," menciona el blog. "Planeamos implementarla para nuestro primer grupo de evaluadores—incluidos periodistas, plataformas e investigadores—para recibir retroalimentación pronto."

El Papel de la IA en las Campañas Políticas

A medida que organizaciones políticas como el Comité Nacional Republicano (RNC) en EE. UU. utilizan cada vez más la IA para su mensajería, incluyendo la suplantación de oponentes, la efectividad de las salvaguardias de OpenAI para frenar las esperadas oleadas de desinformación digital sigue siendo incierta. Sin embargo, OpenAI se posiciona claramente como un defensor de la verdad y la precisión en medio de la preocupación por el mal uso de sus herramientas.