С момента появления генеративного ИИ год назад технологи были очарованы возможностями больших языковых моделей (LLM), которые выдают человеческие ответы на запросы. Как и в любом технологическом прогрессе, значимые инновации со временем стираются. Мейнфреймы трансформировались в клиент-серверные модели, а ПК объединились с планшетами и смартфонами в ответ на растущий спрос на мобильные вычисления. Подобная тенденция сейчас наблюдается и в области программного обеспечения генеративного ИИ. Основной движущей силой является внедрение компактных и мощных генеративных ИИ-сервисов на более мелких устройствах, как это было с приложениями более десяти лет назад.
Тенденция к уменьшению моделей вызывает путаницу у IT-руководителей, которым нужно выбрать подходящую модель. К счастью, существует стратегическая структура для выбора малой языковой модели (SLM).
Сравнение LLM и SLM
Сначала давайте проясним различия между LLM и SLM, отметив, что нет универсального стандарта для их различия.
LLM обычно включают сотни миллиардов параметров, содержащих веса и смещения, изученные в процессе обучения. В отличие от них, SLM имеют количество параметров от сотен миллионов до десятков миллиардов.
Хотя LLM могут генерировать разнообразный контент — текст, изображения, аудио и видео, а также выполнять сложные задачи обработки естественного языка (NLP), они требуют значительных серверных мощностей, хранения и графических процессоров для работы. Высокие расходы на LLM могут отталкивать некоторые организации, особенно с учетом соблюдения экологических, социальных и управленческих норм (ESG), так как эти модели требуют значительных вычислительных ресурсов для обучения, дополнения, точной настройки и других задач.
Однако SLM потребляют меньше ресурсов, обеспечивая при этом неожиданно высокую производительность, порой сопоставимую с LLM по определенным критериям. Их настраиваемая природа позволяет организациям адаптировать SLM к определенным задачам, таким как обучение на выбранных наборах данных и улучшение результатов поиска с помощью дополненной генерации (RAG). Для многих SLM идеально подходят для локального развертывания.
Тенденция к уменьшению моделей становится все более популярной среди гиперскейлеров и стартапов, многие из которых запускают компактные модели, предназначенные для мобильных устройств — от ноутбуков до смартфонов. Среди заметных примеров — демонстрация Google в декабре своей линии Gemini с компактной моделью Nano, а также модели Mixtral 8x7b от Mistral AI и Phi-2 от Microsoft. В феврале Google представил модели Gemma.
Выбор правильной модели
Выбор между LLM и SLM зависит от количества параметров, необходимых для удовлетворения ваших потребностей, и вашего бюджета. Вот рекомендации, которые помогут определить, подходит ли SLM для вашей организации:
1. Оцените бизнес-потребности: Определите конкретные задачи, которые вы хотите решить — будь то новый чат-бот для обслуживания клиентов или улучшенное создание контента для продаж и маркетинга. Понимание ваших сценариев использования крайне важно.
2. Исследуйте рынок: Изучите различные модели, чтобы найти наилучшее решение на основе ваших текущих ресурсов, включая персонал, процессы и технологии. Учитывайте размер, показатели производительности, соответствующие вашим задачам, и качество данных для обучения и дообучения. Убедитесь, что масштабируемость и безопасность соответствуют вашим требованиям.
3. Проведите сравнительное тестирование моделей: Протестируйте предпочитаемые SLM через пилотные программы, оценив точность, обобщение, интерпретируемость и скорость моделей. Выявите сильные и слабые стороны по этим параметрам.
4. Оцените ресурсы: Проанализируйте потребности вашей организации в серверах, хранилищах и графических процессорах, а также связанные с этим расходы. Рассмотрите возможность применения наблюдаемости и AIOps для анализа выходных данных в зависимости от бизнес-результатов.
5. Разработайте стратегию развертывания: Создайте комплексную стратегию интеграции выбранной SLM в существующие системы, уделяя внимание безопасности и конфиденциальности данных, а также планированию обслуживания и поддержки. Если вы выбираете публичную модель, убедитесь в наличии надежной поддержки, а если открытый исходный код — следите за любыми изменениями.
Заключительные мысли
Ландшафт генеративного ИИ быстро развивается. Важно оставаться в курсе событий, чтобы не пропустить значительные изменения.
Существующая растущая экосистема партнеров готова помочь вам в выборе правильной модели, инфраструктуры и стратегий, адаптированных под ваш бизнес. Сотрудничая с правильным партнером, вы можете создать оптимизированные сервисы генеративного ИИ для ваших сотрудников и клиентов.
Готовы к сотрудничеству и инновациям? Узнайте, как Dell APEX для Генеративного ИИ может помочь вам без проблем интегрировать ИИ в вашу деятельность.
Рейтинг
