Dynatrace Apresenta Solução de Observabilidade com IA para Monitorar Toda a Pilha de LLM

Dynatrace Expande para a Observabilidade em IA

A Dynatrace, líder em monitoramento e otimização de desempenho de aplicativos com sede em Massachusetts, anunciou sua expansão para o espaço da inteligência artificial.

Durante sua conferência anual Perform, a Dynatrace apresentou planos para aprimorar sua plataforma de análise com novos recursos desenvolvidos para monitorar grandes modelos de IA e suas aplicações. Esta nova oferta, chamada Dynatrace AI Observability, visa fornecer às empresas ferramentas robustas para monitorar sistemas de IA generativa à medida que ganham destaque.

O Cenário da Observabilidade em IA

À medida que organizações de diversos setores adotam cada vez mais a IA generativa, elas reconhecem seu potencial para aumentar a produtividade e impulsionar a inovação. No entanto, essa tecnologia também introduz riscos, como alucinações, preconceitos e vulnerabilidades de segurança.

"Estamos comprometidos em ajudar as organizações a enfrentar os desafios impostos pela IA generativa, desde segurança e transparência até confiabilidade e gestão de custos. A Dynatrace está ampliando sua expertise em observabilidade e IA para capacitar os clientes a abraçar a IA com confiança, garantindo insights incomparáveis sobre suas aplicações impulsionadas por IA generativa", afirmou Bernd Greifeneder, CTO da Dynatrace.

Funcionalidades da Dynatrace AI Observability

A IA generativa é essencial para a competitividade empresarial, oferecendo oportunidades de melhoria de eficiência e automação. Contudo, pode resultar em altos custos e saídas imprecisas se não for monitorada de perto. Enfrentar esses desafios exige vigilância para identificar e resolver problemas como derivação de modelos ou discrepâncias de dados. É aqui que a Dynatrace AI Observability desempenha um papel crucial.

Como Funciona a Dynatrace AI Observability

Ao integrar métricas, logs, rastreamentos, análises de problemas e informações sobre as causas-raiz, a solução de observabilidade da Dynatrace proporciona monitoramento de ponta a ponta de aplicações modernas de IA. Ela abrange toda a pilha de IA—desde componentes de infraestrutura como Google TPUs e Nvidia GPUs até modelos fundamentais como o GPT-4 e estruturas avançadas usadas em arquiteturas modernas.

Essa abordagem abrangente oferece às equipes visibilidade sobre o ciclo de vida da aplicação de IA, permitindo a identificação de gargalos de desempenho e problemas sistêmicos. Por exemplo, a solução pode analisar a utilização da infraestrutura—que inclui temperatura, memória e uso de processos—otimizando assim o consumo de recursos e os custos operacionais.

Integração e Conformidade Sem Costura

A Dynatrace AI Observability também oferece integrações com serviços de nuvem e modelos personalizados, como OpenAI e Azure. Essas integrações garantem um robusto monitoramento de modelos, respeitando as métricas de desempenho do acordo de nível de serviço (SLA), incluindo latência, disponibilidade e taxas de erro. A solução é equipada com o motor Davis AI, propriedade da Dynatrace, que melhora sua capacidade de monitorar saídas de aplicativos de IA e se alinhar com regulamentos de privacidade e segurança.

Disponibilidade e Perspectivas Futuras

A Dynatrace está lançando sua solução de observabilidade em IA para todos os clientes a partir de hoje, com empresas selecionadas como a OneStream tendo recebido acesso antecipado para testes. "Para implementar com sucesso a IA generativa e preditiva, confiamos na Dynatrace pela sua confiabilidade e performance no suporte a cargas de trabalho críticas", comentou Ryan Berry, SVP de engenharia e arquitetura da OneStream.

À medida que os investimentos em IA generativa continuam a crescer—com previsão de que o mercado atinja US$ 1,3 trilhão até 2032—o monitoramento se tornará crucial para as organizações. No entanto, a Dynatrace é apenas um dos vários players no mercado de observabilidade em IA, competindo com empresas como Monte Carlo, Arize e Datadog. Os próximos anos revelarão como as empresas aproveitarão soluções como a Dynatrace AI Observability nesse panorama em rápida evolução.

Most people like

Find AI tools in YBX

Related Articles
Refresh Articles