Представляем AI-модель Qwen2 от Alibaba Cloud: улучшенная производительность и поддержка 128K токенов для обработки длинных контекстов.

Сегодня Alibaba Cloud объявила о модернизации своей серии моделей с открытым исходным кодом AI, известной как Qwen, которая теперь получила название Qwen2. Обновление включает пять предварительно обученных и настроенных под инструкции моделей различного размера, что значительно улучшает производительность в различных областях, включая кодирование и математические функции, а также поддерживает более длинные контекстные длины.

Серия Qwen2 включает пять моделей: Qwen2-0.5B, Qwen2-1.5B, Qwen2-7B, Qwen2-57B-A14B и Qwen2-72B. Особенно следует отметить модель Qwen2-72B-Instruct, способную обрабатывать контекстную длину до 128K токенов, что предоставляет пользователям широкие возможности для обработки текста.

Что касается учебных данных, серия Qwen2 интегрировала высококачественные данные на 27 дополнительных языках наряду с китайским и английским, значительно расширяя свои многоязычные возможности. Все модели используют технологии обучения с учетом градиентной квантизации (GQA), что ускоряет скорость вывода и снижает использование памяти, обеспечивая более эффективный и стабильный пользовательский опыт.

Результаты оценки показывают, что большие модели из серии Qwen2 продемонстрировали значительные улучшения. В частности, модель Qwen2-72B превосходит ведущие модели, такие как Llama-3-70B и Qwen1.5-110B, в понимании естественного языка, обработке знаний, кодировании, математике и многоязычных возможностях. Это достижение подчеркивает лидирующую позицию серии Qwen2 в разработке AI моделей.

В рамках обязательств Alibaba Cloud по инновациям и развитию в области AI, выход серии Qwen2 не только представляет собой продвинутые и эффективные AI модели, но и демонстрирует технологическую мощь и новаторские способности Alibaba Cloud в AI-секторе. Мы с нетерпением ожидаем будущих выпусков еще более выдающихся AI моделей и технологий от Qwen для дальнейшего содействия в прогрессе этой области.