Dell y Hugging Face se Unen para Optimizar el Despliegue de Modelos de Lenguaje de Gran Tamaño

Casi todas las empresas hoy en día están explorando los beneficios de los modelos de lenguaje grandes (LLMs) y la inteligencia artificial generativa para sus operaciones comerciales. Sin embargo, persisten muchas preocupaciones, similares a las de los inicios de la computación en la nube y el análisis de big data: ¿Cómo comienzan la implementación? ¿Cómo pueden proteger su información sensible y propietaria? ¿Y cómo gestionan el intensivo proceso de ajuste fino?

Hoy, Dell y Hugging Face se han unido para abordar estos desafíos, simplificando el despliegue en las instalaciones de LLMs personalizados para que las empresas maximicen las ventajas de esta tecnología en evolución. Matt Baker, vicepresidente de estrategia de inteligencia artificial en Dell, enfatizó el impacto transformador de la inteligencia artificial generativa en una reciente conferencia de prensa, afirmando: “No puedes ir a ninguna parte sin discutir sobre inteligencia artificial generativa o IA”. Reconoció la complejidad abrumadora de la tecnología.

Asociación entre Dell y Hugging Face

A través de esta alianza, Dell y Hugging Face introducirán un portal dedicado en la plataforma de Hugging Face, que contará con contenedores personalizados, scripts y documentación técnica para desplegar modelos de código abierto en servidores y sistemas de almacenamiento de Dell. Inicialmente disponible para servidores Dell PowerEdge a través de la consola APEX, este servicio eventualmente se extenderá a las herramientas de estaciones de trabajo Precision y otras de Dell. El portal se actualizará regularmente con contenedores de modelos optimizados para respaldar los últimos casos de uso de inteligencia artificial generativa.

Jeff Boudier, jefe de producto en Hugging Face, declaró: “La única forma de tomar control de tu destino de IA es convertirte en un creador en lugar de ser solo un usuario. Esto solo se logra con el código abierto.” Esta alianza forma parte del compromiso continuo de Dell de establecerse como líder en inteligencia artificial generativa, incluyendo adiciones recientes como el ObjectScale XF960 a su línea de herramientas ObjectScale, diseñado específicamente para flujos de trabajo de IA y análisis.

Baker comentó humorísticamente sobre la asociación, diciendo: “Estoy tratando de evitar juegos de palabras sobre Dell y Hugging Face ‘abrazando’ a los practicantes, pero eso es exactamente lo que estamos haciendo.”

Desafíos en la adopción de IA generativa

Baker identificó varios obstáculos para la adopción de IA generativa por parte de las empresas, incluyendo la complejidad, el tiempo para obtener resultados, la fiabilidad del proveedor, el retorno de inversión y la gestión de costos. Al igual que los desafíos iniciales del big data, las empresas luchan por pasar de pruebas de concepto a la producción mientras protegen su propiedad intelectual.

“Muchas empresas se sienten abrumadas por la presión de entregar tendencias de IA generativa mientras protegen sus datos únicos”, señaló Boudier, destacando los riesgos asociados con herramientas populares como GitHub Copilot, donde la exposición del código es una preocupación. La investigación de Dell indica que el 83% de las empresas prefieren implementaciones en las instalaciones o híbridas para mejorar la seguridad en torno a su propiedad intelectual. Baker subrayó: “Desplegar en las instalaciones es vital al tratar con tus activos más valiosos.”

Modelos seleccionados para rendimiento y precisión

El portal Dell-Hugging Face ofrecerá una selección curada de modelos optimizados para rendimiento, precisión y casos de uso. Las organizaciones podrán elegir su modelo deseado y la configuración de Dell para un despliegue fácil dentro de su infraestructura. “Imagina un modelo LLama 2 afinado específicamente para tu plataforma, listo para usar”, dijo Baker, apuntando a aplicaciones potenciales como generación de contenido de marketing, chatbots y desarrollo de software.

Baker busca eliminar la complejidad para los usuarios, describiéndolo como “el botón fácil” para desplegar capacidades necesarias de Hugging Face. Lo que distingue esta iniciativa de muchas otras es la capacidad de Dell para calibrar configuraciones de manera integral, permitiendo un despliegue ágil de las mejores configuraciones de modelos sin compartir datos con modelos públicos. “Tus datos siguen siendo tuyos”, afirmó Baker, agregando: “Una vez afinado, ese modelo es tuyo.”

Verticalización en IA

El ajuste fino de modelos para un rendimiento óptimo puede llevar mucho tiempo. Muchas empresas que experimentan con IA generativa están utilizando ahora generación aumentada por recuperación (RAG) junto a LLMs estándar. Esta técnica mejora las tareas generativas al incorporar fuentes externas de conocimiento para proporcionar el contexto necesario.

Baker explicó: “RAG permite a los usuarios generar instrucciones precisas sin tener que construir un nuevo modelo desde cero.” Para agilizar aún más el proceso de ajuste fino, Dell planea introducir herramientas en contenedores que aprovechen métodos eficientes en parámetros como LoRA y QLoRA. A medida que las empresas se enfocan cada vez más en sus verticales específicas, Baker afirma: “Todas las empresas se convertirán esencialmente en entidades verticales que utilizan sus datos específicos.” Esta tendencia no solo representa modelos específicos de dominio; se trata de integrar datos propios con modelos para lograr resultados generativos a medida.

Most people like

Find AI tools in YBX