Dynatrace presenta una solución de observabilidad con inteligencia artificial para monitorear toda la pila de LLM.

Dynatrace Se Expande en Observabilidad de IA

Dynatrace, líder en monitoreo y optimización del rendimiento de aplicaciones con sede en Massachusetts, ha anunciado su expansión en el ámbito de la inteligencia artificial.

Durante su conferencia anual Perform, Dynatrace presentó planes para mejorar su plataforma de análisis con nuevas funcionalidades diseñadas para rastrear grandes modelos de IA y sus aplicaciones. Esta nueva oferta, denominada Dynatrace AI Observability, tiene como objetivo proporcionar a las empresas herramientas robustas para monitorear sistemas de IA generativa a medida que ganan popularidad.

El Panorama de Observabilidad de IA

A medida que organizaciones de diversos sectores adoptan cada vez más la IA generativa, reconocen su potencial para mejorar la productividad y fomentar la innovación. Sin embargo, esta tecnología también conlleva riesgos, como alucinaciones, sesgos y vulnerabilidades de seguridad.

"Estamos comprometidos a ayudar a las organizaciones a enfrentar los desafíos que plantea la IA generativa, desde la seguridad y transparencia hasta la fiabilidad y gestión de costos. Dynatrace está ampliando su observabilidad y experiencia en IA para capacitar a los clientes a adoptar la IA con confianza, asegurando percepciones inigualables sobre sus aplicaciones impulsadas por IA generativa", afirmó Bernd Greifeneder, CTO de Dynatrace.

Capacidades de Dynatrace AI Observability

La IA generativa es esencial para la competitividad empresarial, ofreciendo oportunidades para mejorar la eficiencia y la automatización. No obstante, también puede resultar en altos costos y resultados inexactos si no se monitorea de cerca. Abordar estos desafíos requiere vigilancia para identificar y resolver problemas como el desvío de modelos o discrepancias en los datos. Aquí es donde Dynatrace AI Observability desempeña un papel crucial.

Cómo Funciona Dynatrace AI Observability

Integrando métricas, registros, trazas, análisis de problemas e información sobre la causa raíz, la solución de observabilidad de Dynatrace proporciona monitoreo de extremo a extremo de aplicaciones de IA modernas. Cubre toda la pila de IA, desde componentes de infraestructura como Google TPUs y GPUs de NVIDIA hasta modelos fundamentales como GPT-4 y marcos avanzados utilizados en arquitecturas modernas.

Este enfoque integral otorga a los equipos visibilidad sobre el ciclo de vida de la aplicación de IA, permitiendo identificar cuellos de botella en el rendimiento y problemas sistémicos. Por ejemplo, la solución puede analizar la utilización de infraestructura, que abarca temperatura, memoria y uso de procesos, optimizando así el consumo de recursos y los costos operativos.

Integración Sin Problemas y Cumplimiento

Dynatrace AI Observability también cuenta con integraciones con servicios en la nube y modelos personalizados, como OpenAI y Azure. Estas integraciones aseguran un monitoreo robusto de modelos mientras se adhieren a las métricas de rendimiento del acuerdo de nivel de servicio (SLA), incluyendo latencia, disponibilidad y tasas de error. La solución está equipada con el motor de IA propio de Dynatrace, Davis, que mejora su capacidad para monitorear los resultados de aplicaciones de IA y alinearse con las regulaciones de privacidad y seguridad.

Disponibilidad y Perspectivas Futuras

Dynatrace está implementando su solución de observabilidad de IA para todos los clientes a partir de hoy, con empresas seleccionadas como OneStream que han recibido acceso anticipado para pruebas. "Para implementar con éxito la IA generativa y predictiva, confiamos en Dynatrace por su fiabilidad y rendimiento en el soporte de cargas críticas", comentó Ryan Berry, SVP de ingeniería y arquitectura en OneStream.

A medida que las inversiones en IA generativa continúan creciendo—con proyecciones de que el mercado alcance los $1.3 billones para 2032—el monitoreo se volverá fundamental para las organizaciones. Sin embargo, Dynatrace se encuentra entre numerosos jugadores en el mercado de observabilidad de IA, compitiendo con empresas como Monte Carlo, Arize y Datadog. Los próximos años revelarán cómo las empresas aprovechan soluciones como Dynatrace AI Observability en este panorama en rápida evolución.