Databricks e Credo AI Colaboram para Oferecer Soluções de IA Escaláveis e Responsáveis com Padrões de Conformidade

A startup Credo AI, com sede em Palo Alto, anunciou que sua plataforma de governança de IA está agora disponível na Databricks Data Intelligence Platform. Com essa integração, os clientes da Databricks poderão rastrear e gerenciar com eficiência riscos e conformidade em IA em grande escala, utilizando os dados já armazenados no ambiente Databricks. Isso proporciona uma transparência aprimorada ao longo do ciclo de vida de desenvolvimento da IA.

Fundada em 2020 e com um financiamento de Série A de 12,8 milhões de dólares em maio de 2022, a Credo AI integrará o MLFlow da Databricks, que supervisiona o ciclo de vida do desenvolvimento de aprendizado de máquina. Essa integração converterá automaticamente métricas de modelos e metadados em artefatos de governança essenciais, como Model Cards e Avaliações de Impacto da IA.

Com o surgimento de novas regulamentações, como a Lei de IA da UE, os provedores de modelos e desenvolvedores serão obrigados a realizar autoavaliações de risco, avaliações de conformidade, manter registros auditáveis e monitorar desempenho, tudo alinhado às obrigações de transparência com base na categoria de risco.

“Acredito que a parceria com a Databricks será significativa e estabelecerá um novo padrão para 2024”, disse Navrina Singh, fundadora e CEO da Credo AI. “Essa colaboração sinaliza às empresas que uma governança eficaz deve considerar o contexto e as prioridades de negócios, permitindo que gerenciem riscos enquanto entregam produtos seguros e responsáveis ao mercado.”

Roger Murff, VP de Parcerias de Tecnologia na Databricks, expressou entusiasmo pela parceria, afirmando que o objetivo é trazer inteligência em política de IA para a plataforma Databricks. Ele enfatizou o papel crítico da governança para garantir a adoção segura e em conformidade da IA em grande escala, à medida que as empresas aprimoram suas estratégias de IA.