DigitalOcean Se Prepara para el Acceso de IA para Pequeñas Empresas con la Asociación con Nvidia H100

La inteligencia artificial ya no es exclusiva de las grandes empresas; cada vez más, las pequeñas y medianas empresas (PYMEs) están adoptando esta tecnología. DigitalOcean está mejorando sus servicios en la nube para desarrolladores, enfocándose en las PYMEs, al introducir soporte para el acelerador de IA Nvidia H100. Tras la adquisición de Paperspace en julio de 2023, DigitalOcean busca penetrar en el mercado de IA. Paperspace ha brindado acceso a GPU y alberga una plataforma de ciencia de datos llamada Gradient.

La nueva oferta en la plataforma Paperspace permite a los desarrolladores acceder de manera escalable a las codiciadas GPUs H100 mediante virtualización, facilitando así el acceso a potentes capacidades de IA. Las GPUs H100 reducen drásticamente los tiempos de entrenamiento y mejoran los tiempos de respuesta de inferencia para modelos de IA.

A medida que la IA generativa gana impulso, la demanda de GPUs Nvidia H100 aumenta, lo que representa desafíos para las organizaciones más pequeñas que buscan acceso. "Para estas empresas, conseguir GPUs muy potentes es complicado, lo que limita su crecimiento," comentó Kanishka Roychoudhury, Director General de IA/ML en DigitalOcean.

DigitalOcean está adoptando una estrategia de virtualización para el acceso a las GPUs H100. Aunque no todas las PYMEs necesitan una H100 completa, muchas podrían beneficiarse de un acceso parcial a sus capacidades de IA. “Las startups más pequeñas vienen en todas las formas y tamaños,” explicó Roychoudhury.

La plataforma DigitalOcean Paperspace permite un acceso y rendimiento de GPU personalizado. Cada GPU física Nvidia H100 puede ser virtualizada para proporcionar hasta ocho instancias de GPU separadas, permitiendo a las organizaciones provisionar según sus necesidades, ya sea una sola instancia o todo el poder de las ocho.

Las PYMEs ya están aprovechando la plataforma DigitalOcean Paperspace para crear diversas aplicaciones de IA. Roychoudhury anticipa que el nuevo soporte para Nvidia H100 ampliará su desarrollo de aplicaciones.

Ejemplos de casos de uso incluyen una startup que desarrolla un servicio de aumento de video para traducción de videos multilingües. Roychoudhury espera que, aunque las GPUs H100 se utilizarán principalmente para el entrenamiento de modelos de IA, algunos clientes ya están empleando las menos potentes Nvidia A100 para tareas de inferencia, con planes de transición a la H100 a medida que aumente la demanda.

La integración de Paperspace en DigitalOcean está en curso, con expectativas de mejoras adicionales en los próximos meses. Actualmente, los recursos de GPU, incluida la Nvidia H100, se pueden implementar a través de Paperspace junto con los recursos de almacenamiento informático de DigitalOcean.

Los planes futuros incluyen hacer disponibles las GPUs H100 en la plataforma de ciencia de datos Gradient de Paperspace. Gradient ofrece un entorno basado en notebooks para que científicos de datos e ingenieros construyan, entrenen, prueben y desplieguen modelos de IA. Los desarrolladores pueden iniciar proyectos con recursos computacionales básicos y actualizar a opciones más potentes, como GPUs. Gradient también se integra con Hugging Face para facilitar la descarga y ajuste de modelos preentrenados.

El objetivo general de DigitalOcean es reducir las barreras para las PYMEs, haciendo que herramientas de IA de alta gama y hardware como la Nvidia H100 sean fácilmente accesibles y asequibles. "Nuestro objetivo es hacer que esta tecnología esté ampliamente disponible para las empresas más pequeñas," afirmó Roychoudhury.