Meta presenta 'Code Llama 70B': una potencia de código abierto lista para desafiar el desarrollo privado de IA.

Meta AI, la empresa detrás de Llama 2, ha presentado Code Llama 70B, un modelo avanzado de generación de código capaz de escribir en múltiples lenguajes de programación como Python, C++, Java y PHP, utilizando instrucciones en lenguaje natural o fragmentos de código existentes. Este nuevo modelo promete una generación de código más rápida, precisa y eficiente que nunca.

Como uno de los modelos de IA de código abierto más grandes disponibles hoy, Code Llama 70B establece un nuevo estándar en inteligencia artificial. La generación de código ha sido una búsqueda constante para los científicos informáticos, con el objetivo de agilizar el desarrollo de software y desbloquear nuevos niveles de creatividad. Con Code Llama 70B, los usuarios pueden indicar al modelo que genere código, modifique código existente sin esfuerzo o convierta código entre diferentes lenguajes.

Sin embargo, la generación de código presenta desafíos únicos. A diferencia de la naturaleza flexible del lenguaje natural, la codificación requiere precisión y adherencia a una sintaxis estricta. Además, las tareas de codificación pueden ser complejas y demandan un extenso contexto. Modelos avanzados como Code Llama 70B abordan estos obstáculos mediante un entrenamiento con grandes volúmenes de datos, un poder computacional sustancial e inteligencia sofisticada.

Code Llama 70B es un modelo de lenguaje de última generación (LLM) entrenado con 500 mil millones de tokens de datos relacionados con código. Este entrenamiento le proporciona una ventana de contexto más amplia de 100,000 tokens, permitiendo la generación y comprensión de estructuras de código complejas.

Basado en Llama 2, uno de los LLM más extensos con 175 mil millones de parámetros, Code Llama 70B ha sido ajustado para la generación de código a través de una técnica llamada auto-atención, que mejora su capacidad para discernir relaciones dentro del código.

Nuevos Estándares en Precisión y Adaptabilidad

Una característica destacada de Code Llama 70B es CodeLlama-70B-Instruct, una variante optimizada para interpretar instrucciones en lenguaje natural. Esta versión logró un puntaje de 67.8 en HumanEval—un estándar que evalúa la corrección funcional de la generación de código—superando a modelos abiertos anteriores como CodeGen-16B-Mono (29.3) y StarCoder (40.1), y acercándose a los puntajes de modelos cerrados como GPT-4 (68.2) y Gemini Pro (69.4). CodeLlama-70B-Instruct maneja eficientemente tareas como la ordenación de datos, búsqueda e implementación de algoritmos.

Además, Code Llama 70B incluye CodeLlama-70B-Python, refinado específicamente para Python, uno de los lenguajes de programación más populares en el mundo. Entrenado con 100 mil millones de tokens adicionales de código Python, esta variante destaca en tareas como scraping web, análisis de datos, aprendizaje automático y desarrollo web.

Accesible para Uso Investigativo y Comercial

Code Llama 70B está disponible para descargar de forma gratuita bajo la misma licencia que Llama 2, permitiendo a investigadores y usuarios comerciales aprovecharlo y modificarlo. El modelo se puede acceder a través de plataformas como Hugging Face, PyTorch, TensorFlow y Jupyter Notebook. Meta AI ofrece documentación y tutoriales para los usuarios que deseen adaptar el modelo a diversas aplicaciones.

Mark Zuckerberg, CEO de Meta AI, expresó su entusiasmo por este lanzamiento, afirmando: “Estamos liberando un nuevo y mejorado Code Llama con un modelo de 70B parámetros. Escribir y editar código es uno de los usos más significativos de la IA hoy en día. La capacidad de codificar es crucial para mejorar la capacidad de los modelos de IA para procesar información en diversos dominios. Espero incorporar estos avances en Llama 3 y modelos futuros.”

Code Llama 70B está preparado para influir significativamente en la generación de código y el ámbito del desarrollo de software, ofreciendo una herramienta poderosa para la codificación y el aprendizaje. Reduce las barreras para los aspirantes a programadores al proporcionar orientación en lenguaje natural, y podría abrir camino para aplicaciones innovadoras como traducción de código, resumen, documentación, análisis y depuración.

Descarga Code Llama 70B directamente desde los canales de Meta AI para más información y acceso a la documentación en GitHub y Hugging Face.