Datasaur, una startup de inteligencia artificial con sede en San Francisco, ha lanzado LLM Lab, una plataforma integral diseñada para ayudar a los equipos a crear y entrenar aplicaciones personalizadas de grandes modelos de lenguaje (LLM) similares a ChatGPT.
LLM Lab ofrece opciones de despliegue en la nube y en local, permitiendo a las empresas construir aplicaciones internas de IA generativa mientras minimizan riesgos relacionados con la privacidad de los datos y la seguridad empresarial que a menudo se asocian con servicios de terceros. Esto otorga a los equipos un mayor control sobre sus proyectos.
"Hemos creado una herramienta que aborda puntos críticos comunes, respalda las mejores prácticas en evolución y refleja nuestra filosofía de diseño para simplificar el proceso", comentó Ivan Lee, CEO y fundador de Datasaur. “Basándonos en nuestra experiencia construyendo modelos personalizados para uso interno y clientes, desarrollamos un producto LLM escalable y fácil de usar.”
Características Clave de LLM Lab de Datasaur
Desde su inicio en 2019, Datasaur ha estado avanzando en una robusta plataforma de anotación de datos para IA y procesamiento del lenguaje natural (NLP). El lanzamiento de LLM Lab marca una evolución significativa de estas ofertas.
"Esta herramienta va más allá de nuestro enfoque tradicional en procesamiento del lenguaje natural, que incluye metodologías como el reconocimiento de entidades y la clasificación de textos", explicó Lee. “Los LLM representan la próxima generación de tecnología del lenguaje, y nuestro objetivo es ser la solución líder en la industria para aplicaciones de IA en texto, documentos y audio.”
Actualmente, LLM Lab proporciona una interfaz unificada para el desarrollo de aplicaciones LLM, incluyendo la ingestión de datos internos, preparación de datos, generación aumentada por recuperación (RAG), selección de modelos integrados y optimización de respuestas de LLM. El producto está diseñado con principios de modularidad, composabilidad, simplicidad y mantenibilidad.
"Este enfoque gestiona de manera eficiente diferentes incrustaciones de texto, bases de datos vectoriales y modelos fundamentales. La naturaleza dinámica del espacio LLM requiere una plataforma independiente de tecnologías, permitiendo a los usuarios intercambiar tecnologías para obtener soluciones óptimas", agregó Lee.
Para comenzar a usar LLM Lab, los usuarios seleccionan un modelo fundamental y ajustan configuraciones asociadas, como temperatura y longitud máxima de respuesta. Los modelos soportados incluyen Llama 2 de Meta, Falcon de Abu Dhabi del Technology Innovation Institute, y Claude de Anthropic, junto con Pinecone para bases de datos vectoriales.
A continuación, los usuarios pueden seleccionar plantillas de prompts para probar su efectividad y subir documentos para RAG. Después de estas configuraciones, pueden finalizar ajustes para un rendimiento de calidad y desplegar la aplicación. Luego, pueden calificar pares de prompt/completación e incorporar retroalimentación para afinar el modelo a través de aprendizaje por refuerzo con retroalimentación humana (RLHF).
Superando Desafíos Técnicos
Aunque Lee no reveló la cantidad de empresas que están probando LLM Lab, reportó comentarios positivos de los usuarios iniciales. Michell Handaka, fundador y CEO de GLAIR.ai, un usuario de la plataforma, destacó que el Lab facilita una mejor comunicación entre equipos de ingeniería y no ingeniería, rompiendo efectivamente las barreras para el desarrollo de aplicaciones LLM.
Datasaur ya ha apoyado a industrias clave como finanzas, derecho y salud, en la transformación de datos no estructurados en valiosos conjuntos de datos para aprendizaje automático. Entre sus asociaciones notables se encuentran Qualtrics, Ontra, Consensus, LegalTech y Von Wobeser y Sierra.
"Estamos respaldando a líderes de la industria con visión de futuro y proyectamos un aumento quíntuple en los ingresos para 2024", observó Lee.
Desarrollos Futuros para Datasaur y LLM Lab
En el próximo año, Datasaur planea mejorar LLM Lab e invertir más en el desarrollo de LLM a nivel empresarial. Los usuarios podrán guardar configuraciones exitosas y compartir ideas con sus colegas. Además, el Lab incorporará nuevos modelos fundamentales emergentes.
Dada la creciente demanda de aplicaciones LLM personalizadas y centradas en la privacidad, LLM Lab está preparado para tener un impacto notable. Según el Informe de Encuesta sobre LLM 2023, casi el 62% de los encuestados utilizan aplicaciones LLM como ChatGPT y GitHub Copilot para funciones como chatbots, soporte al cliente y programación.
A la luz de las preocupaciones crecientes sobre la privacidad, muchas empresas están haciendo la transición de modelos de propósito general a soluciones internas personalizadas que cumplen con estándares de seguridad, privacidad y regulaciones.
Clasificación
