Dynatrace Расширяет Возможности AI Наблюдаемости
Dynatrace, лидер в области мониторинга и оптимизации производительности приложений из Massachusetts, объявил о своем расширении в сферу искусственного интеллекта.
На своей ежегодной конференции Perform, Dynatrace представил планы по улучшению своей аналитической платформы с новыми функциями, направленными на отслеживание крупных AI-моделей и их приложений. Это новое предложение, названное Dynatrace AI Наблюдаемость, призвано предоставить компаниям надежные инструменты для мониторинга генеративных AI-систем, которые становятся все более популярными.
Ландшафт AI Наблюдаемости
С увеличением внедрения генеративного AI в разных секторах организации осознают его потенциал для повышения производительности и стимулирования инноваций. Однако эта технология также влечет за собой риски, такие как галлюцинации, предвзятости и уязвимости в безопасности.
«Мы стремимся помочь организациям справиться с вызовами, которые приносит генеративный AI: от безопасности и прозрачности до надежности и управления затратами. Dynatrace расширяет свои компетенции в области наблюдаемости и AI, чтобы дать возможность клиентам уверенно использовать AI, обеспечивая беспрецедентныеInsights в их приложениях, основанных на генеративном AI», — заявил Бернд Грайфенедер, технический директор Dynatrace.
Возможности Dynatrace AI Наблюдаемости
Генеративный AI является ключевым элементом конкурентоспособности бизнеса, предлагая возможности для повышения эффективности и автоматизации. Однако без надлежащего мониторинга он может привести к высоким затратам и неточным результатам. Решение этих проблем требует бдительности для выявления и устранения проблем, таких как дрейф модели или несоответствие данных. Здесь незаменимой становится Dynatrace AI Наблюдаемость.
Как работает Dynatrace AI Наблюдаемость
Интегрируя метрики, логи, трассировки, аналитические данные о проблемах и информацию о коренных причинах, решение Dynatrace обеспечивает полный мониторинг современных AI-приложений. Оно охватывает весь стек AI — от инфраструктурных компонентов, таких как Google TPU и Nvidia GPU, до основных моделей, таких как GPT-4, и передовых фреймворков, используемых в современных архитектурах.
Этот комплексный подход предоставляет командам видимость жизненного цикла AI-приложений, позволяя выявлять узкие места в производительности и системные проблемы. Например, решение может анализировать использование инфраструктуры — температура, память и использование процессов — тем самым оптимизируя потребление ресурсов и операционные затраты.
Бесперебойная интеграция и соответствие требованиям
Dynatrace AI Наблюдаемость также включает интеграции с облачными сервисами и пользовательскими моделями, такими как OpenAI и Azure. Эти интеграции обеспечивают надежный мониторинг моделей, соответствуя метрикам производительности, установленным в соглашениях об уровне обслуживания (SLA), включая задержки, доступность и уровень ошибок. Решение оснащено собственным AI-движком Davis от Dynatrace, что повышает его способность контролировать выходные данные AI-приложений и соблюдать законы о конфиденциальности и безопасности.
Доступность и будущее
Dynatrace начинает внедрение своего решения для AI наблюдаемости для всех клиентов с сегодняшнего дня, при этом некоторые компании, такие как OneStream, уже получили ранний доступ для тестирования. «Для успешного внедрения генеративного и предсказательного AI мы полагаемся на надежность и производительность Dynatrace в поддержке критически важных рабочих загрузок», — отметил Райан Бери, старший вице-президент по инженерии и архитектуре в OneStream.
С увеличением инвестиций в генеративный AI — прогнозируя рынок на уровне $1.3 триллиона к 2032 году — мониторинг станет ключевым для организаций. Однако Dynatrace является одним из многочисленных игроков на рынке AI наблюдаемости, конкурируя с такими компаниями, как Monte Carlo, Arize и Datadog. Предстоящие годы покажут, как компании будут использовать решения, такие как Dynatrace AI Наблюдаемость, в этом быстро меняющемся рыночном окружении.
Рейтинг
