16 августа в Шанхае прошла конференция по глобальным технологиям открытого исходного кода (GOTC2024), организованная Open Source China и Шанхайским программным парком Пудун. Чжань Цюньхуй, главный эксперт по программному обеспечению хранения данных в Huawei, поделился своими взглядами на практическое применение ModelEngine в вертикальных областях крупных моделей.
Чжань охарактеризовал ModelEngine как комплексный инструмент для обучения и вывода ИИ от Huawei в рамках Data Center Stack (DCS). Этот передовой инструмент является первым в отрасли, использующим библиотеку потокового программирования на базе ИИ, и предлагает комплексное решение для обработки данных, генерации знаний, тонкой настройки моделей, развертывания и разработки приложений с расширенной генерацией (RAG). Он обеспечивает опыт без швов для инженеров данных, инженеров моделей и разработчиков приложений.
Он подчеркнул, что основанная на ModelEngine открытая инструментальная цепочка позволяет обрабатывать данные, использовать модели и поддерживать приложения с помощью открытых операторов данных, основных моделей и операторов приложений. Платформа значительно сократила время генерации корпуса с месяцев до всего лишь нескольких дней. Кроме того, она предоставляет разработчикам единое решение для разработки, оценки, оптимизации и развертывания приложений ИИ, способствуя быстрому созданию ИИ-приложений и обеспечивая совместимость с существующими ИИ-ресурсами, такими как плагины LangChain и LlamaIndex.