Groq consigue $640 millones para potenciar la inferencia de IA con LPUs de última generación.

La empresa Groq, líder en tecnología de inferencia de inteligencia artificial, ha logrado recaudar $640 millones en una ronda de financiamiento de la Serie D, lo que representa un importante cambio en el panorama de la infraestructura de inteligencia artificial. Esta inversión valora a la compañía en $2.8 mil millones y fue liderada por BlackRock Private Equity Partners, con la participación de Neuberger Berman, Type One Ventures y otros inversores estratégicos como Cisco, KDDI y Samsung Catalyst Fund.

Con sede en Mountain View, la empresa utilizará los fondos para escalar rápidamente su capacidad y acelerar el desarrollo de su Unidad de Procesamiento de Lenguaje (LPU) de próxima generación. Esta iniciativa aborda la necesidad urgente de la industria de inteligencia artificial de contar con capacidades de inferencia más rápidas a medida que se enfoca en la implementación en lugar del entrenamiento.

Stuart Pann, recientemente nombrado Director de Operaciones de Groq, destacó la preparación de la empresa para enfrentar esta demanda en una entrevista con VentureBeat. «Ya tenemos los pedidos en marcha con nuestros proveedores, estamos desarrollando un enfoque robusto de fabricación de racks con socios ODM, y hemos adquirido el espacio y la energía necesarios en centros de datos para construir nuestra nube», afirmó Pann.

Groq tiene previsto desplegar más de 108,000 LPUs para finales del primer trimestre de 2025, lo que le permitirá convertirse en el mayor proveedor de capacidad computacional de inferencia de IA fuera de las principales empresas tecnológicas. Esta expansión respalda la creciente base de desarrolladores de Groq, que ahora supera los 356,000 usuarios que construyen en la plataforma GroqCloud de la compañía.

La oferta de Tokens-as-a-Service (TaaS) de la empresa ha llamado la atención por su velocidad y rentabilidad. Pann le dijo a VentureBeat: «Groq ofrece Tokens-as-a-Service en su GroqCloud y no solo es el más rápido, sino el más asequible según los benchmarks independientes de Artificial Analysis. Llamamos a esto economía de inferencia».

La estrategia de cadena de suministro de Groq la distingue en una industria plagada de escasez de chips. «La LPU es una arquitectura fundamentalmente diferente que no depende de componentes con plazos de entrega extendidos», afirmó Pann. «No utiliza memoria HBM ni empaquetado CoWos y se basa en un proceso de 14 nm de GlobalFoundries que es rentable, maduro y fabricado en Estados Unidos».

Este enfoque en la fabricación nacional se alinea con las crecientes preocupaciones sobre la seguridad de la cadena de suministro en el sector tecnológico. También sitúa a Groq de manera favorable en medio de un aumento en la escrutinio gubernamental de las tecnologías de IA y sus orígenes.

La rápida adopción de la tecnología de Groq ha llevado a diversas aplicaciones. Pann destacó varios casos de uso, incluyendo «coordinación y cuidado de pacientes, precios dinámicos analizando la demanda del mercado y ajustando los precios en tiempo real, y procesamiento de un genoma completo en tiempo real para obtener pautas de medicamentos genéticos actualizadas utilizando LLMs».