Redacción - El Semanal
Simplismart impulsa el rendimiento de la Inteligencia Artificial con un motor de inferencia personalizado y optimizado por software
Las empresas apuestan por la IA. Desean que sus modelos funcionen suavemente en entornos de producción y con el mejor rendimiento posible para obtener un alto retorno de inversión. Sin embargo, a pesar de la variedad de modelos avanzados disponibles en el mercado, los equipos siguen luchando con problemas de implementación.
El año pasado, Peter Bendor-Samuel, CEO de Everest Group, estimó que el 90% de los pilotos de IA general comenzados no llegarán a producción. Incluso Gartner ha predicho que una parte significativa de los proyectos de IA generativa probablemente serán abandonados después del período de prueba para fines de 2025.
Entre los obstáculos para la adopción, el más grande es la orquestación. Los equipos simplemente no tienen los recursos para hacer todo internamente, lo que los deja dependientes de APIs de terceros rígidas y costosas. Hoy, Simplismart AI ha recaudado $7 millones en financiamiento para abordar esta brecha con su plataforma MLOps de extremo a extremo que acelera todo el esfuerzo de orquestación al encargarse de todo, desde el ajuste fino de modelos hasta la implementación y la observabilidad.
Si bien existen otras soluciones MLOps en el mercado, incluidas las de Datadog, lo que hace diferente a esta startup es su motor de inferencia personalizado y optimizado por software. Despliega modelos a una velocidad increíblemente rápida, aumentando significativamente su rendimiento y reduciendo los costos asociados.
Amritanshu Jain, ex ingeniero de Oracle y cofundador de la startup junto con el ex técnico de Google Devansh Ghatak, explica: «Sin ninguna optimización de hardware, hemos desbloqueado una capacidad de 501 tokens por segundo en el modelo Llama3.1 8B, lo que supera con creces a otros motores de inferencia. Del mismo modo, hemos obtenido mejores resultados en todas las modalidades, incluyendo texto a voz, voz a texto, texto a imagen, imagen a imagen».
La empresa ya cuenta con una cartera de 30 clientes empresariales, incluidos Invideo, Dashtoon, Dubverse y Vodex. Un mercado farmacéutico utilizó la plataforma de la compañía para implementar modelos InternVL2 para digitalizar recetas escritas a mano y logró mejorar la detección de configuración espacial, procesando 2.5 veces más imágenes a la mitad del costo.
Como próximo paso, Simplismart busca mejorar aún más el rendimiento de sus plataformas MLOps. Utilizará el nuevo financiamiento para impulsar la investigación y el desarrollo, y encontrar nuevas técnicas para aumentar la velocidad de inferencia de IA y mantenerse por delante de la competencia.
La compañía ha triplicado sus ingresos en los últimos cuatro meses para alcanzar una tasa anual de ~ $1 millón. Su objetivo es escalar a una tasa de ingresos anuales de $10 millones en los próximos 15 meses, apuntando a las 50 principales empresas orientadas a la IA y fomentando la adopción de su lenguaje de orquestación similar a Terraform de código abierto.
¡Wow, qué interesante artículo! La tecnología siempre nos sorprende con avances como este motor de inferencia optimizado de Simplismart para potenciar la inteligencia artificial. Es increíble cómo cada vez se logra mejorar la eficiencia de la IA. Me pregunto cuáles serán las aplicaciones concretas de esta tecnología en distintos campos. ¡No puedo esperar a ver cómo evoluciona todo esto!