Dynatrace lance une solution d'observabilité IA pour surveiller l'ensemble de la pile LLM.

Dynatrace S'implante dans l'Observabilité de l'IA

Dynatrace, leader en surveillance et optimisation des performances d'application basé dans le Massachusetts, annonce son expansion dans le domaine de l'intelligence artificielle.

Lors de sa conférence annuelle Perform, Dynatrace a présenté ses plans pour enrichir sa plateforme d'analyse avec de nouvelles fonctionnalités visant à suivre les grands modèles d'IA et leurs applications. Cette nouvelle offre, appelée Dynatrace AI Observability, a pour but de fournir aux entreprises des outils robustes pour surveiller les systèmes d'IA générative en pleine croissance.

Le Paysage de l'Observabilité de l'IA

Alors que les organisations de divers secteurs adoptent de plus en plus l'IA générative, elles prennent conscience de son potentiel pour améliorer la productivité et stimuler l'innovation. Toutefois, cette technologie comporte également des risques, tels que les hallucinations, les biais et les vulnérabilités en matière de sécurité.

"Nous nous engageons à aider les organisations à naviguer dans les défis posés par l'IA générative, de la sécurité à la transparence, en passant par la fiabilité et la gestion des coûts. Dynatrace élargit son expertise en observabilité et en IA pour permettre à nos clients d'adopter l'IA en toute confiance, garantissant des insights inégalés sur leurs applications alimentées par l'IA générative," a déclaré Bernd Greifeneder, CTO de Dynatrace.

Les Capacités de Dynatrace AI Observability

L'IA générative est essentielle à la compétitivité des entreprises, offrant des opportunités d'amélioration de l'efficacité et de l'automatisation. Cependant, elle peut également engendrer des coûts élevés et des résultats inexactes si elle n'est pas étroitement surveillée. Pour relever ces défis, il est crucial d'identifier et de résoudre des problèmes tels que le dérive de modèle ou les incohérences de données. C'est là que Dynatrace AI Observability joue un rôle essentiel.

Comment Fonctionne Dynatrace AI Observability

En intégrant des métriques, des journaux, des traces, des analyses de problèmes et des informations sur les causes profondes, la solution d'observabilité de Dynatrace offre une surveillance de bout en bout des applications d'IA modernes. Elle couvre l'ensemble de la pile IA, des composants d'infrastructure tels que les TPU de Google et les GPU de Nvidia aux modèles fondamentaux comme GPT-4 et aux frameworks avancés utilisés dans les architectures modernes.

Cette approche complète permet aux équipes de voir le cycle de vie de l'application IA, facilitant ainsi l'identification des goulets d'étranglement de performance et des problèmes systémiques. Par exemple, la solution peut analyser l'utilisation de l'infrastructure—y compris la température, la mémoire et l'utilisation des processus—optimisant ainsi la consommation des ressources et les coûts opérationnels.

Intégration et Conformité Transparentes

Dynatrace AI Observability propose également des intégrations avec des services cloud et des modèles personnalisés, tels que les services OpenAI et Azure. Ces intégrations garantissent une surveillance robuste des modèles tout en respectant les métrologies des accords de niveau de service (SLA), y compris la latence, la disponibilité et les taux d'erreur. La solution est équipée du moteur Davis AI propriétaire de Dynatrace, améliorant son aptitude à surveiller les résultats des applications IA tout en se conformant aux réglementations en matière de confidentialité et de sécurité.

Disponibilité et Perspectives d'Avenir

Dynatrace déploie sa solution d'observabilité IA à tous ses clients à partir d'aujourd'hui, certaines entreprises comme OneStream ayant déjà accès à des tests anticipés. "Pour implémenter avec succès l'IA générative et prédictive, nous comptons sur la fiabilité et la performance de Dynatrace pour soutenir nos charges de travail critiques," a déclaré Ryan Berry, SVP ingénierie et architecture chez OneStream.

Alors que les investissements dans l'IA générative continuent de croître—le marché devrait atteindre 1,3 trillion de dollars d'ici 2032—la surveillance deviendra essentielle pour les organisations. Cependant, Dynatrace se trouve parmi de nombreux acteurs sur le marché de l'observabilité de l'IA, en concurrence avec des entreprises telles que Monte Carlo, Arize et Datadog. Les prochaines années révéleront comment les entreprises tireront parti de solutions comme Dynatrace AI Observability dans ce paysage en rapide évolution.

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles