De nos jours, de nombreuses entreprises reconnaissent que l'IA générative est désormais un élément incontournable des opérations modernes, et sa mise en œuvre responsable est cruciale pour leur réussite. Les organisations adoptent le concept de "gouvernance de l'IA", qui consiste à surveiller le déploiement de l'IA et l'utilisation des données. Collibra, un leader dans le domaine de la gouvernance des données, basé à New York et à Bruxelles, lance une nouvelle solution pour répondre à ce besoin.
"Le consensus est que l'IA devient un axe central pour presque toutes les organisations, mais il est essentiel de bien l'implémenter", a déclaré Felix Van de Maele, co-fondateur et PDG de Collibra, lors d'une interview vidéo exclusive. Aujourd'hui, Collibra a annoncé son nouveau produit, Collibra AI Governance, qui vise à transformer l'adoption de l'IA par les organisations en garantissant la sécurité, l'efficacité et la fiabilité de son déploiement.
Créer des Synergies entre Technologie et Réglementation
Intégré à la Collibra Data Intelligence Platform, Collibra AI Governance comble l'écart essentiel entre les données, l'intelligence artificielle et la conformité légale. Cette solution permet aux équipes de divers domaines de collaborer, en veillant à ce que les initiatives d'IA respectent les normes légales et de confidentialité, tout en minimisant les risques de données et en maximisant la performance des modèles et le retour sur investissement (ROI). Elle accompagne les organisations tout au long de leur parcours d’adoption de l’IA, de l’idéation au déploiement et à la surveillance continue. Van de Maele a affirmé : "Il s’agit de soutenir l’ensemble du cycle de vie de l’IA."
Collibra AI Governance est applicable à toutes les applications d’IA au sein d’une organisation, et non à une seule solution ou plateforme. Cet outil se distingue par sa gestion intuitive et son suivi des projets d’IA, protégeant les données sensibles et promouvant la transparence dans les applications d’IA. "Le plus grand défi est d'obtenir une véritable visibilité au sein de l'organisation sur qui fait quoi et comment", a expliqué Van de Maele. "Il ne s'agit pas seulement de documentation ; il faut établir des flux de travail pour garantir que tout soit exécuté correctement."
La solution s'intègre parfaitement aux outils de gestion des données existants de Collibra, notamment Collibra Data Catalog, Collibra Data Quality & Observability, Collibra Data Privacy et Collibra Protect.
Une Nouvelle Approche de la Gestion des Risques
La nécessité d'une gouvernance efficace de l'IA est soulignée par une enquête récente d'IDC, qui révèle que bien que 71 % des entreprises utilisent l'IA, le processus de mise en œuvre est riche en risques. Des problèmes comme le biais des modèles, les inexactitudes et les dilemmes juridiques peuvent avoir un impact significatif sur la réputation et la stabilité financière d'une organisation. Par exemple, Google a été critiqué pour son modèle d'IA Gemini, qui avait produit des images racialement ambiguës et des réponses maladroites, affectant ainsi sa réputation et sa valeur boursière.
La solution de gouvernance de l’IA de Collibra atténue ces risques en offrant un cadre complet pour la gouvernance de l'IA, incluant des processus de conformité simplifiés, des stratégies d'atténuation des risques et des mécanismes pour améliorer les performances des modèles et le ROI. Elle crée une plateforme unifiée pour gouverner à la fois l’IA et les données qui la sous-tendent, répondant ainsi aux préoccupations courantes liées à l’adoption de l’IA.
En tant que module complémentaire à la Collibra Data Intelligence Platform, Laura Sellers, Chief Product Officer de Collibra, a souligné le rôle de cette solution pour répondre au désir répandu au sein des organisations d’exploiter l’IA de manière responsable, malgré les préoccupations concernant son imprévisibilité et ses conséquences potentielles.
"Grâce à Collibra AI Governance, nous aidons les CIO, CDO, responsables des données et équipes juridiques en fournissant une plateforme unifiée pour gouverner l'IA et les données qui l’alimentent, avec des flux de travail et des politiques automatisés pour garantir une IA digne de confiance au sein de l'organisation", a déclaré Sellers.
Soutien des Leaders du Secteur
Dan Yu, Senior Vice President of Marketing and Solutions, Data and Analytics chez SAP SE, a salué Collibra AI Governance pour sa capacité à garantir une utilisation éthique et responsable de l'IA dans les organisations.
Collibra AI Governance sera présenté au Gartner Data & Analytics Summit à Orlando, en Floride, du 11 au 13 mars 2024. En répondant aux défis complexes associés aux projets d'IA, Collibra ne se contente pas d’offrir un produit ; elle s’engage à promouvoir une IA responsable et efficace.
Classement
