Los creadores del proyecto de código abierto vLLM han anunciado que hicieron la transición de la well-liked herramienta a una startup respaldada por capital de riesgo, Inferact, recaudando 150 millones de dólares en financiación inicial con una valoración de 800 millones de dólares.
La ronda fue codirigida por Andreessen Horowitz y Lightspeed Enterprise Companions, lo que confirma el informe anterior de TechCrunch de que vLLM ha recaudado capital de a16z.
El debut de Inferact refleja la reciente comercialización del proyecto SGLang como RadixArk, que según las fuentes aseguró capital con una valoración de 400 millones de dólares liderada por Accel, como informamos el miércoles.
A medida que el enfoque de la IA pasa de los modelos de entrenamiento a su implementación en aplicaciones, un proceso conocido como inferencia, tecnologías como vLLM y SGLang que hacen que estas herramientas de IA funcionen más rápido y de manera más asequible están atrayendo la atención de los inversores.
Tanto vLLM como SGLang se incubaron en 2023 en el laboratorio de UC Berkeley del cofundador de Databricks, Ion Stoica.
El director ejecutivo de Inferact, Simon Mo, uno de los creadores originales del proyecto, dijo a Bloomberg que los usuarios existentes de vLLM incluyen el servicio en la nube de Amazon y la aplicación de compras.
