General Compute, una startup de nube de inferencia de IA, obtuvo un préstamo de 400 millones de dólares de la firma de inversión en tecnología Upper90. Esta podría ser la primera transacción que ofrezca un chip de inferencia dedicado como garantía. Eso significa chips construidos para ejecutar modelos de IA ya entrenados de manera rápida y eficiente, en lugar de chips costosos utilizados para construir modelos en primer lugar.
La financiación es la última señal de que el mercado está respondiendo a las preocupaciones sobre las herramientas de inteligencia artificial y los precios de los tokens centrándose en una infraestructura que ejecuta modelos de código abierto más baratos que el último LLM de Frontier Labs.
General Compute, fundada por el director ejecutivo Finn Puklowski y el director de tecnología Jason Goodison, recaudó 15 millones de dólares en una ronda inicial en mayo para construir una neonube de inferencia en torno al silicio del fabricante de chips SambaNova, respaldado por Intel. (Neocloud está diseñado específicamente para cargas de trabajo de IA, a diferencia de la infraestructura de propósito general proporcionada por hiperescaladores tradicionales como AWS y Azure).
El chip SN50 de la empresa está diseñado para realizar inferencias. Son más eficientes energéticamente y no requieren costosos sistemas de refrigeración por agua, por lo que pueden implementarse en diferentes centros de datos más rápidamente que las GPU. Según General Compute, el nuevo chip ofrece una inferencia 16 veces más rápida que las nubes basadas en GPU.
El desafío, especialmente para las empresas emergentes, es conseguir estos chips en grandes cantidades.
Billy Libby, cofundador y director ejecutivo de Upper90 y ex operador cuantitativo de Goldman Sachs, tenía una estrategia para ello. En 2021, su empresa financió la compra de una GPU por parte de Crusoe, una startup de centros de datos centrada en la energía, que, en su opinión, fue el primer préstamo que aprovechó el valor de los chips avanzados.
En ese momento, los financieros tradicionales evitaban tales transacciones debido a los riesgos e incertidumbres que rodeaban la depreciación de la GPU. Pero este tipo de financiación se ha vuelto común desde que CoreWeave convirtió los préstamos respaldados por chips en un modelo de negocio y la base para una exitosa oferta pública inicial (IPO).
«Cuando fuimos el primer grupo en financiar GPU de Nvidia, el mercado era ineficiente», dijo Libby a TechCrunch. «De hecho, pudimos construir algo como uno de los primeros participantes y obtener alguna compensación por ese riesgo».
Ahora que las GPU se conocen relativamente bien y tal vez estén sobrecompradas, Upper90 está buscando empresas como General Compute para aprovechar la próxima ola del auge de la IA. «Creemos que el modelo de código abierto va a ser importante, y el año pasado buscamos jugadores en la inferencia», dijo Libby. «No todo el mundo necesita una supercomputadora, pero sí razonamiento e inteligencia artificial».
Esa idea se fortalece a medida que empresas como OpenRouter y Fireworks, que brindan acceso a modelos abiertos, plantean nuevas rondas con valoraciones enormes. Los nuevos modelos como el K3 de Kimi han demostrado competir con los últimos lanzamientos de Anthropic y OpenAI en pruebas de codificación. Y los fabricantes de chips emergentes como Groq y Cerebras están atrayendo el interés tanto de los compradores como de los mercados públicos.
Por la misma razón, también es importante que General Compute tenga acceso a chips fuera del ecosistema de Nvidia. TensorWave, otra empresa de infraestructura de IA, está haciendo una apuesta similar en su asociación con AMD. A medida que surgen más alternativas a Nvidia, los proveedores de computación que no están sujetos a contratos con Nvidia pueden tener una ventaja al proporcionar inferencias rentables.
«Hay muchos chips que tienen un costo total de propiedad increíble y funcionan mucho más rápido que Nvidia y que están comenzando a escalar, pero no hay muchos compradores para ellos», dijo Puclovski. «Al trabajar con Upper90, esto es más que simplemente ‘una startup genial tiene dinero para comprar informática’. De manera similar, ésta es la primera señal de que el propio capital se está organizando y de que el control monopólico de NVIDIA se está fragmentando. «
Si compra a través de enlaces en nuestros artículos, es posible que ganemos una pequeña comisión. Esto no afecta la independencia editorial.
Source link
