Apple вошла в сферу открытого исходного кода с запуском инновационного набора инструментов для ИИ. В центре этого релиза находится фреймворк MLX, специально разработанный для архитектуры Silicon от Apple. Доступный на GitHub, MLX оптимизирует обучение и развертывание моделей машинного обучения на оборудовании Apple.
Apple описывает принципы дизайна MLX как "вдохновленные" популярными фреймворками, такими как PyTorch, Jax и ArrayFire. Однако MLX выделяется благодаря своей унифицированной модели памяти: массивы хранятся в общей памяти, что позволяет выполнять операции на всех поддерживаемых устройствах без необходимости копирования данных. Эта функция упрощает рабочие процессы и повышает производительность.
"Фреймворк ориентирован на удобство пользователя, обеспечивая эффективное обучение и развертывание моделей. Его базовый дизайн прост, что позволяет исследователям легко расширять и улучшать MLX для быстрого освоения новых идей," — говорится в репозитории MLX.
Ключевые особенности MLX:
- Python API, похожий на NumPy: Фреймворк MLX включает Python API, который тесно сопоставим с NumPy, что облегчает переход для пользователей, знакомых с этой библиотекой. Кроме того, предоставляется C++ API и более высокоуровневые пакеты, смоделированные по аналогии с PyTorch, что позволяет разработчикам создавать более сложные модели.
- Составные функции преобразования: MLX поддерживает автоматическое дифференцирование, автоматическую векторизацию и оптимизацию вычислительных графов с помощью составных функций, что упрощает выполнение сложных вычислительных задач.
- Ленивая компиляция: Фреймворк использует ленивую компиляцию, что означает, что массивы создаются только при необходимости. Эта функция оптимизирует использование ресурсов и повышает эффективность.
- Динамическая конструкция графа: MLX строит вычислительные графы динамически. Пользователи могут изменять формы функций без задержек, связанных с долгой компиляцией, что упрощает процесс отладки и улучшает общий пользовательский опыт.
В демонстрации возможностей MLX научный сотрудник Apple по машинному обучению Ауни Ханнун представил видео с семи миллиардной версией LLaMA от Meta, работающей на чипе M2 Ultra, который устанавливается в Mac Studio и Mac Pro, ведущие вычислительные системы Apple. Среди других примечательных приложений MLX — генерация изображений с помощью Stable Diffusion, распознавание речи через Whisper от OpenAI и параметрическая тонкая настройка с помощью LoRA.
С усилением акцента на ИИ, летом этого года появились сообщения о том, что компания разрабатывает свой собственный веб-приложение-чат-бот, известное как "Apple GPT".
Лицензирование и коммерческое использование
MLX доступен под лицензией MIT, которая предоставляет обширные права на использование, включая коммерческие приложения. Однако пользователи должны соблюдать требования лицензии, включая уведомления об авторском праве и разрешениях во всех копиях программного обеспечения.
Этот подход к принципам открытого исходного кода не только подтверждает инвестиции Apple в развитие технологий ИИ, но и дает возможность разработчикам, исследователям и бизнесу инновационно использовать ее мощные инструменты в области ИИ.