Alors que la demande pour la technologie de l'IA explose, une nouvelle gamme d'outils destinés à améliorer son développement et son déploiement émerge. RagaAI, une startup californienne spécialisée dans le test et la correction des systèmes d'IA, vient d'annoncer son lancement suite à un tour de financement de démarrage réussi de 4,7 millions de dollars, dirigé par pi Ventures, avec la participation d'Anorak Ventures, TenOneTen Ventures, Arka Ventures, Mana Ventures et Exfinity Venture Partners.
Fondée par Gaurav Agarwal, ancien cadre de Nvidia, RagaAI prévoit d'utiliser ce financement pour approfondir la recherche et améliorer sa plateforme de test automatisé, conçue pour créer un cadre solide pour une IA sûre et fiable. Agarwal a déclaré : « Guidés par nos valeurs fondamentales, nous sommes déterminés à repousser les limites de la détection automatique des problèmes d'IA, de l'analyse des causes profondes et de la résolution des problèmes, tout en restant à la pointe des méthodologies innovantes. » RagaAI sert actuellement des entreprises du Fortune 500, s'attaquant à des défis clés tels que le biais, l'exactitude et les hallucinations dans diverses applications.
Construire et déployer efficacement l’IA est une tâche complexe. Les équipes doivent collecter des données, former des modèles et surveiller les performances pour garantir les résultats attendus, car toute négligence peut entraîner des échecs coûteux et des opportunités manquées. Agarwal a pris conscience de ce défi lors de son passage chez Nvidia et chez Ola, une entreprise indienne de mobilité, ce qui l'a conduit à développer une plateforme automatisée pour détecter, diagnostiquer et résoudre les problèmes d'IA.
Contrairement aux solutions traditionnelles qui vérifient un nombre limité de problèmes, RagaAI effectue jusqu'à 300 tests, identifiant les pièges potentiels liés aux données, aux modèles et aux opérations. Lorsqu'un problème est détecté, la plateforme aide les utilisateurs à déterminer la cause profonde, qu'il s'agisse de données d'entraînement biaisées, de mauvais étiquetages, de dérives de données ou d'autres facteurs. Elle offre ensuite des recommandations concrètes, comme l'élimination des points de données mal étiquetés ou la suggestion de réentraînement pour remédier aux incohérences des données.
Au cœur de la technologie de RagaAI se trouvent ses modèles fondamentaux RagaDNA, qui créent des embeddings de données de haute qualité — des représentations compressées et significatives de l'information. Ces embeddings sont essentiels pour détecter, diagnostiquer et remédier aux problèmes sur la plateforme.
Jigar Gupta, responsable produit chez RagaAI, explique : « RagaDNA représente des modèles fondamentaux spécifiques à chaque secteur, spécialement entraînés pour les tests. Cela permet à RagaAI d'améliorer automatiquement les workflows de testing en définissant le domaine de conception opérationnelle (ODD), en identifiant les cas limites où les modèles sous-performent, et en corrélant les résultats avec des données d'entraînement inadéquates ou de mauvaise qualité. »
Malgré son lancement récent, RagaAI impacte déjà significativement le marché, avec plusieurs entreprises du Fortune 500 utilisant sa technologie. Par exemple, une entreprise de commerce électronique a réussi à résoudre des problèmes d'hallucinations dans son chatbot, tandis qu'un client du secteur automobile a amélioré la précision de détection des véhicules dans des conditions de faible luminosité.
RagaAI estime que sa plateforme peut atténuer 90 % des risques dans le développement de l'IA tout en accélérant les délais de production de plus de trois fois. Avec ce nouveau financement, l'entreprise vise à renforcer ses efforts de R&D, à améliorer ses capacités de test, à élargir son équipe, et à promouvoir le développement d’une IA sûre et transparente.
Il est essentiel de noter que RagaAI n'est pas seul dans cette entreprise. De plus en plus d'entreprises, comme Arize avec sa bibliothèque open-source Phoenix, Context AI et Braintrust Data, s’attachent également à rationaliser le déploiement de l'IA. De plus, des fournisseurs de visibilité comme Acceldata explorent des solutions de surveillance d'IA générative pour soutenir le déploiement.
Alors que le marché de l'IA devrait atteindre 2 billions de dollars d'ici 2030, une part importante — estimée à 25 % — devrait être allouée aux outils garantissant que les systèmes d'IA sont sûrs et fiables.
Classement
