Entendiendo los Nuevos Modelos o1-Preview y o1-Mini de OpenAI: Perspectivas Clave para Desarrolladores

OpenAI sorprendió a la comunidad tecnológica al presentar ayer una nueva familia de modelos de lenguaje de razonamiento (LLMs) denominada "o1", en lugar del esperado "Strawberry" o GPT-5. Los modelos o1 están diseñados para sobresalir en tareas de ciencia, tecnología, ingeniería y matemáticas (STEM), destacándose por su alto rendimiento y precisión.

Ya están disponibles dos nuevos modelos: o1-preview y el o1-mini, que tiene menos parámetros. Estos modelos pueden ser utilizados por usuarios de ChatGPT Plus y desarrolladores que emplean la API de pago de OpenAI, permitiendo la integración en aplicaciones existentes o la creación de nuevas.

Mejoras en Capacidades de Razonamiento

Según Michelle Pokrass, líder técnica del API en OpenAI, los modelos o1 utilizan técnicas avanzadas de razonamiento. Se adaptan a estrategias, aprenden de los errores y realizan procesos cognitivos exhaustivos. En las pruebas, estos modelos se desempeñan a un nivel comparable al de estudiantes de doctorado en benchmarks desafiantes. Nikunj Handa de OpenAI destacó que los modelos o1 superan significativamente a la serie GPT en tareas relacionadas con el razonamiento.

Detalles Clave para Desarrolladores

- Salida Solo de Texto: Los modelos actualmente están limitados a entradas y salidas de texto, lo que los hace menos adecuados para tareas que requieren capacidades multimodales, como el análisis de imágenes o archivos. Para esas necesidades, GPT-4o sigue siendo la opción recomendada.

- Límite de Conocimiento: Los modelos o1 no pueden navegar por la web y dependen únicamente de sus datos de entrenamiento hasta octubre de 2023, aunque los usuarios pueden proporcionar contexto adicional a través de la entrada de texto.

- Tiempo de Respuesta: La generación de respuestas es más lenta, con algunas tomando más de un minuto, pero los primeros evaluadores han reportado un rendimiento mejorado en tareas como programación y redacción de documentos legales. OpenAI sugiere que mientras GPT-4o es ideal para tareas que requieren respuestas rápidas, los modelos o1 podrían ser preferibles para aplicaciones que necesitan razonamiento profundo.

Estructura de Precios

Acceder a los modelos o1 requiere una inversión significativa en las APIs de OpenAI, disponibles solo para usuarios de "Nivel 5" que hayan gastado al menos $1,000 y realizado pagos hace más de 30 días. El modelo o1-preview es notablemente costoso, con un precio de $15 por millón de tokens de entrada y $60 por millón de tokens de salida, mientras que o1-mini tiene un precio más accesible de $3 por millón de tokens de entrada y $12 por millón de tokens de salida. Actualmente, los modelos o1 están limitados a 20 solicitudes por minuto, y no se admite la agrupación de solicitudes.

Aplicaciones para los Modelos o1

Desde el lanzamiento de o1-preview y o1-mini, los desarrolladores han comenzado a explorar sus aplicaciones. Algunos hallazgos iniciales incluyen:

- Generación de Documentos: Los modelos pueden producir planes de acción y documentos informativos bien elaborados basados en simples indicaciones.

- Optimización Operativa: Usuarios han demostrado la capacidad de o1-preview para automatizar la programación de personal, evaluar riesgos en fusiones, diseñar almacenes eficientes y equilibrar redes eléctricas.

- Desarrollo de Aplicaciones y Juegos: El modelo o1-preview facilita la creación rápida de aplicaciones interactivas y juegos.

- Automatización de RFP: Los modelos o1 pueden ayudar a los contratistas a completar documentos de solicitud de propuesta procesando la entrada textual de los RFPs.

- Planificación Estratégica: Los desarrolladores han señalado la eficacia de o1-preview en la generación de estrategias de crecimiento detalladas, incluyendo el uso de plataformas como Reddit para la participación.

Acceso a los Modelos o1 de OpenAI

Los desarrolladores pueden acceder a los modelos o1 a través de la API pública de OpenAI, Microsoft Azure OpenAI Service, Azure AI Studio y GitHub Models. Aunque no son adecuados para todos los desarrolladores, la introducción de la familia o1 presenta oportunidades únicas para aquellos que buscan innovar en aplicaciones de IA. OpenAI se compromete a mejorar tanto la familia o1 como su serie GPT existente, ofreciendo diversas opciones para los desarrolladores.