TrueFoundry, una startup fundada por un grupo de antiguos ingenieros de Meta para ayudar a las empresas a implementar sistemas de IA a gran escala, ha recaudado $19 millones en una nueva inversión liderada por Intel Capital.
Con la llegada de GenAI tras el lanzamiento de ChatGPT en noviembre de 2022, empresas de todos los tamaños han buscado formas de adoptar la IA. Pero GenAI se basa en grandes modelos de lenguaje para ofrecer inteligencia (léase eficiencia), lo que requiere una gran potencia de cálculo. No todas las empresas tienen la ventaja de acceder a cientos o miles de GPU, por lo que la optimización de GPU es esencial. Además, las empresas necesitan experimentar con múltiples modelos para encontrar el más adecuado para su caso de uso y afinar los modelos existentes para que los sistemas de IA sean relevantes para sus operaciones.
TrueFoundry aborda todo esto con su software disponible bajo un modelo de plataforma como servicio, dirigido a científicos de datos de pila completa. Ofrece características como escalado automático, mantenimiento proactivo, controles de acceso centralizados y monitoreo en tiempo real para simplificar las implementaciones de IA de principio a fin.
Fundada en junio de 2021 por los antiguos ingenieros de Meta Nikunj Bajaj y Abhishek Choudhary junto con su compañero de clase de IIT Kharagpur Anuraag Gutgutia, TrueFoundry ofreció inicialmente un software nativo en la nube cruzada para acelerar las implementaciones de aprendizaje automático. Sin embargo, a medida que GenAI se volvió convencional en 2023, la startup modificó su sistema para admitir las capacidades de GenAI.
«Antes, los científicos de datos solo trabajaban con modelos y experimentaban con ellos, pero gran parte de la implementación era entregada a ingenieros de ML. Con nuestro sistema, lo que habilitamos es que los mismos científicos de datos puedan construir este sistema complejo completo y probarlo a escala antes de entregárselo al equipo de plataforma para implementaciones finales», dijo Gutgutia en una entrevista exclusiva.
La startup proporciona una solución de software llamada sistema de piloto automático, que utiliza IA para analizar registros y métricas y ayudar a escalar aplicaciones de IA ajustando el uso de GPU y corrigiendo los requisitos de memoria.
Usando el sistema de piloto automático, Gutgutia le dijo a TechCrunch que uno de los clientes de TrueFoundry con un equipo pequeño de dos personas manejó 10 millones de solicitudes por segundo.
Actualmente, TrueFoundry tiene 30 clientes de pago en todo el mundo junto con «muchos» usuarios que acceden a su marco de trabajo RAG de código abierto para experimentación. De estos clientes, el gigante de GPU Nvidia utiliza el software para construir y desplegar agentes que optimizan sus clústeres de GPU. La empresa de tecnología médica ResMed también utiliza la oferta de TrueFoundry para desarrollar una plataforma de IA interna. Del mismo modo, Siemens Healthineers, Automation Anywhere, Games24x7 y Whatfix se encuentran entre los clientes.
La startup ha arquitecturado su software utilizando Kubernetes, lo que lo hace compatible con múltiples nubes y compatible con todas las principales plataformas en la nube, incluidas AWS, Google Cloud Platform y Azure, entre otras. Además, las empresas pueden implementar la plataforma nativamente en las instalaciones.
Las empresas que utilizan TrueFoundry han construido y lanzado sus plataformas internas de IA en dos meses y han alcanzado su ROI en cuatro meses, a diferencia del promedio de la industria de 14 meses, afirmó Bajaj. Gutgutia agregó que la startup entregó a sus clientes alrededor de un 40-50% de reducción de costos en gastos de infraestructura, junto con una mejora de 10 veces en la velocidad de implementación, ya sea que estén trabajando en un agente, RAG, un modelo de aprendizaje profundo complejo o un modelo ajustado.
Los proveedores de nube han comenzado a ofrecer su propio software para facilitar la construcción e implementación de modelos de IA, como SageMaker de Amazon y Vertex de Google Cloud. No obstante, Gutgutia le dijo a TechCrunch que la solución de TrueFoundry sigue siendo pertinente ya que ayuda a «acelerar el uso de la computación» para los proveedores de nube, acelerar el tiempo de comercialización de aplicaciones de IA y reducir sus costos totales.
La ronda de financiación Serie A totalmente en acciones contó con la participación de Eniac Ventures, Peak XV Partners y Jump Capital, así como inversores ángeles como Gokul Rajaram, Mohit Aron y Cyan Banister.
La startup utilizará la financiación para expandir el equipo de 45 miembros con sede en India a posiciones de mercado en los EE. UU., incluidas ventas, éxito del cliente y roles de marketing de productos. También planea invertir en asociaciones, especialmente con proveedores de nube, y está en proceso de ser listado en los principales mercados de nube, comenzando con AWS Marketplace.
Además, TrueFoundry tiene como objetivo lanzar su agente de IA que ayudará a sugerir los recursos adecuados y permitirá el escalado automático, así como la resolución de problemas.
Con la nueva financiación, TrueFoundry ha recaudado más de $21 millones en total, incluidos los $2.3 millones en su ronda semilla en septiembre de 2022 liderados por Surge de Peak XV (entonces Sequoia India). La startup cuadruplicó su base de clientes el año pasado y desplegó más de 1,000 clústeres en clientes para cargas de trabajo de ML. Gutgutia también dijo a TechCrunch que está por encima de los $1.5 millones de ARR y planea duplicarse este año.
