Dynatrace推出人工智慧可觀察解決方案，以監控完整的LLM堆疊

Home AI新聞 Dynatrace推出人工智慧可觀察解決方案，以監控完整的LLM堆疊

Dynatrace 擴展至 AI 可觀察性領域

Dynatrace，一家位於麻薩諸塞州的應用程式性能監控和優化領導者，近日宣布擴展其在人工智慧領域的業務。

在年度 Perform 會議上，Dynatrace 揭示了增強其核心分析平台的新計畫，旨在追蹤大型 AI 模型及其應用。這項新服務稱為 Dynatrace AI 可觀察性，旨在為企業提供強大的工具，以便在生成式 AI 系統逐漸普及之際進行監控。

AI 可觀察性全景

隨著各行各業越來越多地採用生成式 AI，企業認識到其提升生產力和推動創新潛力。然而，這項技術也帶來風險，如幻覺、偏見和安全漏洞。

Dynatrace 的首席技術官 Bernd Greifeneder 表示：「我們致力於幫助企業應對生成式 AI 所帶來的挑戰，包括安全性、透明度、可靠性和成本管理。Dynatrace 正在擴展其可觀察性與 AI 專業知識，以賦予客戶自信運用 AI，確保對生成式 AI 應用的無與倫比的洞察。」

Dynatrace AI 可觀察性的能力

生成式 AI 對於企業競爭力至關重要，提供提升效率和自動化的機會。然而，如果不加以密切監控，可能會導致高成本和不準確的輸出。應對這些挑戰需要謹慎，識別並解決模型漂移或數據不一致等問題，這正是 Dynatrace AI 可觀察性的核心所在。

Dynatrace AI 可觀察性如何運作

通過整合指標、日誌、追蹤、問題分析和根本原因資訊，Dynatrace 的可觀察性解決方案提供了現代 AI 應用的端到端監控。它涵蓋整個 AI 堆疊，從 Google TPU 和 Nvidia GPU 等基礎設施組件，到如 GPT-4 等基礎模型及現代架構中使用的高級框架。

這一綜合方法使團隊能夠深入了解 AI 應用的生命周期，從而識別性能瓶頸和系統性問題。例如，該解決方案可以分析基礎設施的利用率，包括溫度、內存和進程使用情況，從而優化資源消耗和運營成本。

無縫整合與合規性

Dynatrace AI 可觀察性還與雲服務和自定義模型，如 OpenAI 和 Azure 服務進行整合。這些整合確保了強大的模型監控，同時遵循服務水平協議（SLA）的性能指標，包括延遲、可用性和錯誤率。該解決方案配備了 Dynatrace 專有的 Davis AI 引擎，增強了對 AI 應用輸出的監控能力，並符合隱私和安全法規。

可用性及未來展望

Dynatrace 從今天起開始向所有客戶推出其 AI 可觀察性解決方案，部分公司如 OneStream 已經獲得早期測試訪問權。OneStream 的工程與架構高級副總裁 Ryan Berry 表示：「為了成功實施生成式和預測性 AI，我們依賴 Dynatrace 的可靠性和在支持關鍵工作負載方面的表現。」

隨著生成式 AI 的投資持續增長，預計市場到 2032 年將達到 1.3 萬億美元，監控將成為企業的關鍵。然而，Dynatrace 在 AI 可觀察性市場中仍與 Monte Carlo、Arize 和 Datadog 等公司競爭。未來幾年將揭示企業如何在這個快速變化的環境中利用 Dynatrace AI 可觀察性等解決方案。

Salesforce AI 首席執行官克拉拉·希希談人工智慧：在快速演變的環境中穩定前行

OpenAI研究揭示AI對生物威脅發展未來的意外影響