Citrusx lance Stealth Mode AI pour améliorer l'explicabilité et simplifier la conformité des entreprises.

Citrusx : Simplifier la Conformité de l'IA pour les Entreprises

La startup basée à Tel Aviv, Citrusx, sort officiellement du mode discret en annonçant une levée de fonds de 4,5 millions de dollars, menée par le VC canadien Awz, avec la participation de plusieurs investisseurs individuels.

Fondée il y a deux ans, Citrusx cible le secteur de l'IA avec un accent particulier sur l'explicabilité. Sa plateforme de bout en bout permet aux acteurs d'entreprise de mieux comprendre les modèles d'IA, garantissant qu'ils répondent aux attentes de performance.

Amélioration de la Conformité et de la Compréhension de l'IA

Alors que les pays évaluent les implications de l'IA et mettent en place des mesures réglementaires, l'approche de Citrusx décentralise la compréhension de l'IA, la rendant accessible au-delà des équipes techniques. Cela permet aux parties prenantes de gérer efficacement la conformité interne et réglementaire.

Aujourd'hui, l'IA est essentielle aux opérations commerciales modernes, optimisant les processus, réduisant les coûts et améliorant l'expérience client. Cependant, le déploiement de modèles d'IA implique plusieurs étapes, y compris l'obtention d'avis et d'approbations de la part des parties prenantes non techniques, telles que les équipes de validation, de risque et juridiques. Ce manque de compréhension prolonge souvent le processus d'approbation, entraînant des retards de lancement pouvant aller de six à neuf mois, impactant finalement les résultats commerciaux.

Noa Srebrnik, qui a précédemment supervisé la gestion des risques à la Banque d'Israël, a bien perçu ce défi avant même la récente montée en puissance de l'IA générative. En 2021, elle a fondé Citrusx pour développer une plateforme facilitant la validation et l'explicabilité de l'IA, permettant à toutes les parties prenantes de comprendre les modèles efficacement tout en garantissant la conformité réglementaire.

Une Solution Complète pour le Cycle de Vie de l'IA

La plateforme de Citrusx fournit des rapports concis détaillant la fonctionnalité et la performance des modèles ainsi que leur potentiel à atteindre les objectifs commerciaux. Elle couvre l'ensemble du cycle de vie de l'IA, du développement à la production. Lors de la phase de développement, elle offre des métriques de validation pour la stabilité et la précision des modèles, tout en identifiant les vulnérabilités qui pourraient affecter l'équité et la conformité.

Pendant la phase de production, la plateforme surveille en continu les modèles pour détecter tout écart, explique chaque nouvelle prédiction, et rend périodiquement compte des risques potentiels et des recommandations d’atténuation.

“En fournissant une plateforme unifiée pour toute l'organisation, Citrusx comble le fossé entre les modèles d'apprentissage automatique complexes et tous les acteurs de l'entreprise grâce à la validation, la surveillance et le reporting," a déclaré Srebrnik. “Cela optimise le déploiement et la maintenance, répondant aux exigences réglementaires tout en démystifiant les décisions des modèles pour les clients finaux.”

En mode discret, Citrusx a commencé à collaborer avec des clients sélectionnés, y compris des entreprises cotées en bourse dans des secteurs réglementés comme la finance et la sécurité. Bien que les détails restent confidentiels, l'entreprise affirme que sa technologie en attente de brevet garantit une transparence totale et accélère le temps de mise en production jusqu'à 82%, augmentant ainsi significativement le retour sur investissement en IA.

“Faciliter la collaboration inter-départements et gérer divers modèles de déploiement nécessite une communication fluide, que Citrusx fournit à travers des rapports en temps réel. Ces insights favorisent la confiance et la transparence entre les développeurs de modèles et les équipes de supervision,” a noté un représentant d'une banque canadienne partenaire.

Une Solution Opportun Émulation Réglementaire de l'IA

À travers le monde, les gouvernements reconnaissent le potentiel de l'IA tout en restant attentifs à ses risques, menant à une réglementation proactive. Récemment, le président américain Biden a émis un décret pour établir de nouvelles normes de sécurité pour l'IA, tandis que l'UE a dévoilé une loi sur l'IA révolutionnaire pour garantir un développement d'IA digne de confiance.

Dans ce paysage en évolution, des outils tels que Citrusx seront inestimables pour les équipes naviguant dans les cadres réglementaires tout en développant une IA équitable et robuste. D'autres acteurs notables, comme le startup londonien d'analyse LLM Context, soutenu par Google Ventures, et Arize AI en Californie, qui propose Phoenix, une bibliothèque open-source pour surveiller les modèles de langage de grande taille (LLM) face aux hallucinations potentielles, se démarquent également.

Avec un marché en pleine croissance, nous anticipons une afflux de nouveaux acteurs répondant à ces besoins critiques en matière de conformité et de transparence de l'IA.