La empresa de infraestructura de inteligencia artificial Infinity anunció el lunes una financiación de 15 millones de dólares con una valoración de 100 millones de dólares de inversores como Touring Capital, Principal VC e investigadores de empresas como OpenAI y Anthropic.
La startup crea software que facilita que los chips de IA ejecuten modelos de IA. Una de las principales razones por las que Nvidia se ha convertido en un jugador destacado no es sólo sus chips de alto rendimiento, sino también su software CUDA (Compute Unified Device Architecture), que permite que sus GPU (originalmente diseñadas para ejecutar gráficos) funcionen como CPU de procesamiento de propósito general. Los marcos de desarrollo de IA más grandes, PyTorch y TensorFlow, se basan en CUDA. Esto permite a los desarrolladores escribir aplicaciones en lenguajes populares como Python, utilizar estos marcos de IA líderes y ejecutar aplicaciones en chips Nvidia de forma predeterminada.
La mayoría de estas nuevas empresas a nivel de aplicaciones no tendrán los recursos ni el conocimiento para escribir sus propios núcleos (el software de bajo nivel que alimenta el chip) y portar sus aplicaciones a otros chips de IA. Es por eso que Infinity está intentando crear un software de kernel de reemplazo de CUDA que funcione en todo tipo de chips, incluidos SRAM, GPU, chips telefónicos y matrices sistólicas. Infinity es parte de una nueva ola de nuevas empresas que intentan debilitar el dominio del mercado de Nvidia, producto por producto.
Infinity está construyendo una biblioteca de inferencia universal que puede ejecutarse en todos los chips, permitiendo que estos chips automaticen la replicación de resultados de investigaciones de vanguardia.
Infinity fue lanzado el año pasado por Jeremy Nixon, ex investigador de Google Brain y fundador de la comunidad de redes de hackers AGI House. Nixon le dijo a TechCrunch que decidió iniciar la empresa porque estaba obsesionado con la idea de la «invención automatizada» o la creencia de que «los sistemas de inteligencia artificial pueden convertirse en metatecnología». Dijo que él mismo inventó un algoritmo de aprendizaje automático llamado Omega. Básicamente, esto creó un nuevo algoritmo de aprendizaje automático y lo evaluó automáticamente en un ciclo de retroalimentación.
Este éxito lo llevó a pensar en otros casos en los que este enfoque podría funcionar, y recurrió al hardware, creyendo que los sistemas automatizados también podrían generar el código de bajo nivel, como el kernel, necesario para ejecutar el chip de manera más eficiente.
Ignition, el agente de investigación de IA de Infinity, tiene como objetivo escribir el código de bajo nivel necesario para la inferencia de IA en los chips alternativos de Nvidia. Pruebe, depure y mida la velocidad con la que se ejecuta su código en su hardware y reescriba automáticamente su código según sea necesario para mejorar el rendimiento. El sistema se autooptimiza. Esto significa que el sistema aprende y se mejora continuamente. También se adapta a diferentes arquitecturas de chips, independientemente de su diseño único, afirmó Nixon. El resultado es lo que Infinity afirma es una pila de software de nivel CUDA.
Entre sus clientes se incluye el fabricante de chips de IA (y potencial rival de Nvidia) D-Matrix, e Infinity está en conversaciones con otras importantes empresas de chips y nube, dijo Nixon.
Sin embargo, los humanos siempre están informados y brindan instrucciones generales, mientras que los agentes hacen gran parte del tedioso trabajo duro. En un estudio de caso, la startup descubrió que los agentes trabajaban mucho más rápido que un humano solo, reduciendo procesos que podrían llevar años o meses a horas o días. Infinity no cobra tarifas de licencia por adelantado. En cambio, algunas de las ganancias de rendimiento y ahorros de costos se obtienen midiendo los cambios de token por segundo.
Infinity cuenta actualmente con 26 empleados, incluidos diseño, operaciones e ingeniería.
Si compra a través de enlaces en nuestros artículos, es posible que ganemos una pequeña comisión. Esto no afecta la independencia editorial.
Source link
