Dynatrace、全LLMスタックを監視するAI可観測性ソリューションを発表

DynatraceがAI可観測性の分野に進出

マサチューセッツ州に本社を置くアプリケーションパフォーマンス監視と最適化のリーダー、Dynatraceが、人工知能（AI）分野への拡大を発表しました。同社は年次Performカンファレンスで、AIモデルとそのアプリケーションを追跡するための新機能を備えたコア分析プラットフォームの強化計画を発表しました。この新たな提供サービス「Dynatrace AI Observability」は、企業が生成的AIシステムの監視を強化するための強力なツールを提供することを目指しています。

AI可観測性の状況

さまざまな業界で生成的AIの導入が進む中、企業はその生産性向上とイノベーションを促進する可能性を認識しています。しかし、この技術には、ハルシネーション、バイアス、セキュリティ脆弱性といったリスクも伴います。

「私たちは、セキュリティや透明性、信頼性、コスト管理など、生成的AIがもたらす課題を企業が乗り越えられるようサポートすることに尽力しています。Dynatraceは、顧客が自信を持ってAIを活用し、生成的AIを基盤としたアプリケーションにおける並外れた洞察を得られるよう、可観測性とAIの専門知識を拡張しています」と、DynatraceのCTOであるベルント・グライフェネダーは述べました。

Dynatrace AI Observabilityの機能

生成的AIはビジネス競争力に不可欠であり、効率化や自動化の機会を提供しますが、適切に監視しないと高コストや不正確な結果を招く可能性があります。これらの課題を解決するには、モデルのドリフトやデータの不一致などの問題を特定し、対処するための注意が必要です。ここに、Dynatrace AI Observabilityが重要な役割を果たします。

Dynatrace AI Observabilityの仕組み

Dynatraceの可観測性ソリューションは、メトリクス、ログ、トレース、問題分析、根本原因情報を統合することにより、最新のAIアプリケーションのエンドツーエンド監視を提供します。このソリューションは、Google TPUsやNvidia GPUsなどのインフラコンポーネントから、GPT-4のような基盤モデルまで、AIスタック全体を網羅しています。

この包括的なアプローチにより、チームはAIアプリケーションのライフサイクルを可視化し、パフォーマンスのボトルネックやシステム上の問題を特定できます。たとえば、インフラの利用状況（温度、メモリ、プロセスの使用状況など）を分析することで、リソース消費と運用コストの最適化が図れます。

シームレスな統合とコンプライアンス

Dynatrace AI Observabilityは、OpenAIやAzureサービスなどのクラウドサービスやカスタムモデルとの統合も特徴としています。これらの統合は、レイテンシー、可用性、エラーレートを含むサービスレベル契約（SLA）のパフォーマンス指標を遵守しつつ、堅牢なモデル監視を保証します。このソリューションは、Dynatrace独自のDavis AIエンジンを搭載し、AIアプリケーションの出力監視とプライバシーおよびセキュリティ規制の遵守を強化しています。

提供開始と今後の展望

Dynatraceは、本日より全ての顧客にAI可観測性ソリューションを展開し、OneStreamのような一部企業には早期アクセスを提供しました。「生成的及び予測的AIを成功裏に実装するには、重要なワークロードのサポートにおいてDynatraceの信頼性とパフォーマンスに依存しています」と、OneStreamのエンジニアリング＆アーキテクチャ担当SVP、ライアン・ベリーは語ります。

生成的AIへの投資は引き続き増加しており、2032年までに市場は1.3兆ドルに達すると予測されています。このため、監視は企業にとって重要な要素となります。ただし、DynatraceはMonte Carlo、Arize、Datadogなどの競合他社と並ぶ、AI可観測性市場の数多くのプレイヤーの一つです。今後数年で、企業がこの急速に進化する環境で、Dynatrace AI Observabilityのようなソリューションをどのように活用していくかが明らかになるでしょう。