Cloudflare улучшает свою платформу, позволяя большему количеству разработчиков интегрировать AI-приложения от Hugging Face. Компания также делает доступным свое решение для безсерверного выполнения с использованием GPU, Workers AI.
Изначально анонсированное почти семь месяцев назад, объединение Cloudflare и Hugging Face упрощает развертывание моделей на Workers AI. Разработчики могут распределять свои модели всего в один клик. В настоящее время Cloudflare поддерживает четырнадцать отобранных моделей Hugging Face для задач, таких как генерация текста, векторные представления и определение схожести предложений.
"Недавний рост генеративного AI вызывает значительные инвестиции со стороны компаний в различных отраслях," — сказал генеральный директор Cloudflare Мэттью Принс. "Хотя демонстрации просты, переход AI в производственную среду значительно сложен. Наша цель — снизить затраты и сложности разработки приложений на базе AI."
"Workers AI выделяется как доступное и эффективное решение для выполнения запросов," — продолжил он. "В партнерстве с Hugging Face, разделяющей наше видение демократизации AI, мы предоставляем разработчикам возможность моментально выбирать модель и масштабировать свои AI-приложения по всему миру."
С помощью Hugging Face разработчики могут выбрать свою любимую открытую модель, выбрать “Развернуть на Cloudflare Workers AI” и мгновенно распределить ее. Это обеспечивает доставку в реальном времени в оптимальные локации, устраняя задержки и улучшая пользовательский опыт.
Сооснователь и технический директор Hugging Face Жюльен Шомон сказал: "Предоставление самых популярных открытых моделей с безсерверным API, поддерживаемым глобальной сетью GPU, — это революционный шаг для сообщества Hugging Face."
С помощью Workers AI разработчики могут использовать GPU, расположенные более чем в 150 городах по всему миру, включая Кейптаун, Дурбан, Йоханнесбург, Лагос, Амман, Буэнос-Айрес, Мехико, Мумбаи, Нью-Дели и Сеул. Кроме того, Cloudflare улучшает поддержку AI для подгонки весов моделей, позволяя разработчикам создавать и развертывать специализированные, ориентированные на конкретную область приложения.