Databricks y Credo AI Colaboran para Ofrecer Soluciones de IA Escalables y Responsables con Estándares de Cumplimiento

La startup Credo AI, con sede en Palo Alto, ha anunciado que su plataforma de gobernanza de IA ahora está disponible en la Plataforma de Inteligencia de Datos de Databricks.

Con esta integración, los clientes de Databricks pueden rastrear y gestionar de manera eficiente los riesgos y la conformidad de IA a gran escala, utilizando los datos existentes almacenados en el entorno de Databricks. Esto proporciona una mayor transparencia a lo largo del ciclo de vida del desarrollo de IA.

Credo AI, fundada en 2020 y que recaudó $12.8 millones en financiación de serie A en mayo de 2022, se integrará con MLFlow de Databricks, que supervisa el ciclo de vida del desarrollo de aprendizaje automático. Esta integración convertirá automáticamente métricas y metadatos de modelos en artefactos de gobernanza esenciales, como Model Cards y Evaluaciones de Impacto de IA.

A medida que surgen nuevas regulaciones, como la Ley de IA de la UE, se exigirá que los proveedores y desarrolladores de modelos realicen autoevaluaciones de riesgo, evalúen la conformidad, mantengan registros auditables y monitoreen el rendimiento, todo en consonancia con las obligaciones de transparencia basadas en categorías de riesgo.

“Creo que la asociación con Databricks será significativa y marcará el tono para 2024,” afirmó Navrina Singh, fundadora y CEO de Credo AI. “Esta colaboración envía un mensaje a las empresas de que la gobernanza efectiva debe considerar el contexto y las prioridades comerciales, permitiéndoles gestionar riesgos mientras llevan al mercado productos seguros y responsables.”

Roger Murff, VP de Socios Tecnológicos en Databricks, expresó su entusiasmo por la asociación, señalando que busca traer inteligencia sobre políticas de IA a la plataforma de Databricks. Destacó el papel crítico de la gobernanza para garantizar la adopción segura y conforme de la IA a gran escala, a medida que las empresas refinan sus estrategias de IA.