Databricks et Credo AI s'associent pour offrir des solutions d'IA évolutives et responsables, respectant les normes de conformité.

La startup Credo AI, basée à Palo Alto, a annoncé que sa plateforme de gouvernance de l'IA est désormais disponible sur la plateforme de Data Intelligence de Databricks. Grâce à cette intégration, les clients de Databricks peuvent suivre et gérer efficacement les risques et la conformité liés à l'IA à grande échelle, en utilisant les données existantes stockées dans l'environnement Databricks. Cela offre une transparence améliorée tout au long du cycle de développement de l'IA.

Fondée en 2020 et ayant levé 12,8 millions de dollars lors d'un financement de série A en mai 2022, Credo AI s'intégrera à MLFlow de Databricks, qui supervise le cycle de développement de l'apprentissage automatique. Cette intégration permettra de convertir automatiquement les métriques et les métadonnées des modèles en artefacts de gouvernance essentiels, tels que les Model Cards et les évaluations d'impact de l'IA.

Avec l'émergence de nouvelles réglementations, telles que la loi sur l'IA de l'UE, les fournisseurs et développeurs de modèles devront réaliser des auto-évaluations des risques, effectuer des évaluations de conformité, maintenir des registres auditables et surveiller les performances, le tout en respectant des obligations de transparence basées sur la catégorie de risque.

« Je crois que ce partenariat avec Databricks sera significatif pour 2024 », a déclaré Navrina Singh, fondatrice et PDG de Credo AI. « Cette collaboration envoie un message aux entreprises : la gouvernance efficace doit prendre en compte le contexte et les priorités commerciales, leur permettant de gérer les risques tout en livrant des produits sûrs et responsables sur le marché. »

Roger Murff, vice-président des Partenariats Technologiques chez Databricks, a exprimé son enthousiasme pour ce partenariat, affirmant qu'il vise à apporter une intelligence politique sur l'IA à la plateforme Databricks. Il a souligné le rôle essentiel de la gouvernance dans l'adoption sûre et conforme de l'IA à grande échelle, alors que les entreprises perfectionnent leurs stratégies d'IA.