Citrusx: Simplificando la Conformidad de la IA para Empresas
La startup de Tel Aviv, Citrusx, ha salido oficialmente del modo stealth, anunciando una ronda de financiación semilla de 4.5 millones de dólares liderada por el capital de riesgo canadiense Awz, con la participación de varios inversores ángeles.
Fundada hace dos años, Citrusx se enfoca en el sector de la IA, priorizando la explicabilidad. Su plataforma integral permite a los interesados en el negocio comprender los modelos de IA, asegurando que cumplan con las expectativas de rendimiento.
Mejorando la Conformidad y Comprensión de la IA
A medida que los países evalúan las implicaciones de la IA y persiguen medidas regulatorias, el enfoque de Citrusx descentraliza la comprensión de la IA, haciéndola accesible más allá de los equipos técnicos. Esto asegura que los interesados puedan gestionar eficazmente tanto la conformidad interna como la regulatoria.
Hoy en día, la IA es fundamental para las operaciones comerciales modernas, optimizando procesos, reduciendo costos y mejorando la experiencia del cliente. Sin embargo, implementar modelos de IA implica varios pasos, incluyendo asegurar la aprobación de interesados no técnicos, como los equipos de validación, riesgo y legal. Este vacío de conocimiento a menudo prolonga el proceso de aprobación, ocasionando retrasos en los lanzamientos que pueden variar entre seis y nueve meses, impactando así los resultados comerciales.
Noa Srebrnik, quien antes supervisó la gestión de riesgos en el Banco de Israel, reconoció este desafío mucho antes del reciente auge de la IA generativa. En 2021, fundó Citrusx para desarrollar una plataforma que facilite la validación y explicabilidad de la IA, permitiendo que todos los interesados comprendan los modelos de manera eficiente, mientras se asegura el cumplimiento regulatorio.
Una Solución Integral para el Ciclo de Vida de la IA
La plataforma de Citrusx ofrece informes concisos que detallan la funcionalidad del modelo, su rendimiento y su potencial para alcanzar los objetivos comerciales. Cubre todo el ciclo de vida de la IA, desde el desarrollo hasta la producción. En la fase de desarrollo, proporciona métricas de validación para la estabilidad y precisión del modelo, al tiempo que identifica vulnerabilidades que podrían afectar la equidad y el cumplimiento.
Durante la fase de producción, la plataforma monitorea continuamente los modelos en busca de desviaciones, explica cada nueva predicción y reporta periódicamente sobre posibles riesgos y mitigaciones recomendadas.
"Al proporcionar una plataforma unificada para toda la organización, Citrusx cierra la brecha entre modelos de ML complejos y todos los interesados de la empresa a través de la validación, monitoreo e informes", afirmó Srebrnik. "Esto agiliza la implementación y el mantenimiento, cumpliendo con los requisitos regulatorios mientras se desmitifican las decisiones del modelo para los clientes finales".
Mientras estaba en modo stealth, Citrusx comenzó a colaborar con clientes selectos, incluyendo empresas que cotizan en bolsa en sectores regulados como finanzas y seguridad. Aunque los detalles no se han divulgado, la empresa asegura que su tecnología en solicitud de patente garantiza total transparencia y acelera el tiempo hasta la producción hasta en un 82%. Esta capacidad aumenta significativamente el retorno de las inversiones en IA.
"Facilitar la colaboración entre departamentos y gestionar diversos modelos de implementación requiere una comunicación fluida, que Citrusx proporciona a través de informes en tiempo real. Estas ideas fomentan la confianza y la transparencia entre los desarrolladores de modelos y los equipos de supervisión", destacó un representante de un banco canadiense colaborador.
Una Solución Oportuna en Medio de la Regulación de la IA
A nivel mundial, los gobiernos reconocen el potencial de la IA, pero también son conscientes de sus riesgos, lo que ha llevado a una regulación proactiva. Recientemente, el presidente de EE.UU., Biden, emitió una orden ejecutiva para establecer nuevos estándares de seguridad en IA, mientras que la UE presentó una legislación innovadora sobre IA para garantizar un desarrollo de IA confiable.
En este entorno cambiante, herramientas como Citrusx serán invaluables para los equipos que navegan por marcos regulatorios mientras desarrollan IA justa y robusta. Otros actores notables en este ámbito incluyen la startup de análisis de LLM con sede en Londres, Context, respaldada por Google Ventures, y Arize AI de California, que ofrece Phoenix, una biblioteca de código abierto para monitorear modelos de lenguaje grande (LLMs) en busca de posibles alucinaciones.
Con el mercado preparado para el crecimiento, anticipamos un aumento de nuevos actores que abordarán estas necesidades críticas en conformidad y transparencia de la IA.
Clasificación
