Nvidia pone a disposición sus codiciadas GPU H100 a través de Lambda

La empresa de computación en la nube para GPUs, Lambda, lanzará oficialmente sus Clusters de 1 Clic, que brindarán a los clientes acceso a las GPU Nvidia H100 y a los clústeres Quantum 2 InfiniBand según demanda.

Nvidia colaboró con Lambda para ofrecer de dos a 64 nodos disponibles según la demanda. Estos clústeres permiten a las empresas acceder únicamente a la potencia de cálculo que necesitan, especialmente si no requieren que las GPUs estén funcionando las 24 horas del día.

Robert Brooks, uno de los cofundadores de Lambda y vicepresidente de ingresos, mencionó a VentureBeat que el servicio es ideal para empresas que están construyendo su propio modelo para activar la potencia de las GPU solo cuando la necesiten.

«El entrenamiento es realmente un desafío computacional desde una perspectiva de hardware y software», mencionó Brooks. «Si estás comenzando una empresa de inteligencia artificial en este momento, necesitas obtener mucho dinero para adquirir un gran clúster de GPUs y lleva tiempo ponerlo en funcionamiento».

Lambda se encarga de muchos de los problemas asociados con la contratación de GPUs, como negociar con los proveedores de GPUs para obtener un tiempo determinado en el que puedan utilizar los servidores. Brooks mencionó que Lambda descubrió una forma de hacer que el hardware, en particular los procesadores InfiniBand utilizados para investigaciones a gran escala, esté listo para proyectos de entrenamiento de nuevos modelos.

La mayoría de las empresas optan por utilizar modelos de inteligencia artificial prefabricados que ya han sido preentrenados y ajustarlos con sus propios datos y políticas de gobernanza. Una de las principales razones es el costo asociado con la construcción y el entrenamiento de modelos base. Las GPUs de Nvidia son muy costosas, y algunas empresas pueden no tener acceso a un centro de datos que pueda albergar sus GPUs.

Las empresas más pequeñas que trabajan con inteligencia artificial terminan alquilando espacio de GPU o trabajando con proveedores de servicios en la nube con la esperanza de obtener acceso a los procesadores necesarios para entrenar sus modelos. Mientras que los proveedores de servicios en la nube como AWS y Microsoft Azure ofrecen no solo acceso a modelos de inteligencia artificial, sino también a GPUs de Nvidia, Brooks mencionó que el enfoque en esos casos se centra en la inferencia, donde el modelo de inteligencia artificial realmente se despliega en lugar de aprender, en lugar de en el entrenamiento. Los contratos para utilizar clústeres de GPUs a menudo duran un año o más.

Brooks mencionó que los Clústeres de 1 Clic de Lambda están dirigidos a empresas que solo necesitan entrenar modelos por un período corto y que no pueden permitirse firmar contratos a largo plazo para GPUs que no podrían utilizar más allá de unos pocos meses.

Las empresas pueden reservar la cantidad de nodos que necesitan en el clúster de Lambda por un mínimo de dos semanas. El precio dependerá del número de nodos y del período de tiempo necesario.

Lambda, fundada en 2012, recaudó $320 millones en febrero, lo que elevó su valoración a $1.5 mil millones.