Thinking Machines Lab, la startup de inteligencia artificial fundada por la ex directora de tecnología de OpenAI, Mira Murati, lanzó su primer modelo de inteligencia artificial interno llamado Inkling el miércoles por la mañana. También es de peso abierto, a diferencia de los modelos emblemáticos de OpenAI, Anthropic y Google. Esto significa que los desarrolladores y empresas externos pueden descargarlo y modificarlo directamente.
Inkling es un sistema mixto de expertos con un total de 975 mil millones de parámetros, pero solo una fracción (alrededor de 41 mil millones) se utiliza para tareas específicas, lo que da como resultado un diseño común que permite que modelos muy grandes se ejecuten más rápido y más barato. Fue entrenado de forma nativa en 45 billones de tokens de texto, imágenes, audio y video, y los motivos de los cuatro, según los materiales de publicación de la compañía. Sin embargo, por ahora, la salida se limita a texto, incluido código, artefactos con estilo y datos estructurados.
El modelo es la primera prueba pública de Thinking Machines Labs después de pasar un año y medio construyendo su infraestructura de IA principalmente en público. Parte de ese trabajo ya era evidente en el avance de la investigación de mayo sobre “Modelos de interacción”. Es una IA diseñada para escuchar y hablar (e incluso interrumpir) en lugar de quedarse esperando como un típico chatbot. También es una prueba de la apuesta central de la startup: que la IA, que las organizaciones pueden adaptar por sí mismas, superará a los modelos genéricos que actualmente venden los laboratorios más grandes.
Inkling está diseñado para proporcionar respuestas personalizadas, como marcar incertidumbres en lugar de conjeturas, y permite a los usuarios aumentar o disminuir su «esfuerzo de pensamiento» a cambio de velocidad. En un punto de referencia, Inkling utiliza un tercio de tokens que Nemotron 3 Ultra de Nvidia (el modelo de peso abierto de última generación) para lograr el mismo rendimiento de codificación, según la compañía.
Thinking Machines no afirma que Inkling sea el mejor de su clase. En su última publicación de blog, afirma específicamente que Inkling «no es el modelo general más poderoso disponible actualmente, ni abierto ni cerrado». Lo que claramente busca es un desempeño equilibrado.
Esto plantea la pregunta: ¿a quién está realmente dirigido este producto dentro del mercado empresarial objetivo? Por ahora, Thinking Machines vende Inkling no como un producto terminado sino como un punto de partida, algo que las organizaciones pueden modificar a través de Tinker, la plataforma de personalización de modelos de la compañía. Esto también significa, por ejemplo, que el cliente, no Thinking Machines, es responsable de garantizar que sus personalizaciones sean seguras. (Los ajustes finos requieren un gran talento mecánico).
OpenAI, Anthropic y Google han adoptado enfoques muy diferentes con ChatGPT, Claude y Gemini, respectivamente. Todos estos se construyen primero para competir como chatbots de uso general, con capacidades autónomas y de agentes superpuestas.
Una publicación publicada por Thinking Machines la semana pasada tenía claramente la intención de servir de telón de fondo para este lanzamiento. En su publicación, la compañía argumentó que la IA que una empresa entrena intensivamente y luego la afianza será menos poderosa que la IA que las organizaciones crean por sí mismas porque gran parte de la experiencia es exclusiva de las personas que la poseen.
Otros argumentos en contra de los modelos cerrados también están ganando terreno. En una publicación de blog publicada el domingo, el director ejecutivo de Microsoft, Satya Nadella (cuya empresa ha invertido miles de millones de dólares tanto en OpenAI como en Anthropic) advirtió que las empresas que utilizan modelos patentados de IA efectivamente pagarán el doble. La primera es una tarifa de suscripción y la segunda es que el conocimiento empresarial integrado en las indicaciones y correcciones se puede trasladar y absorber en futuras versiones del modelo.
El director ejecutivo de HugFace, Clem DeLang, hizo una predicción similar en una conversación con TechCrunch la semana pasada. Dice que los modelos de frontera se reservarán cada vez más para la experimentación y tareas de alto valor, mientras que la mayor parte del trabajo de producción de IA se trasladará a alternativas privadas o de código abierto, como los modelos particionados precisos que está construyendo Thinking Machines.
El argumento más claro a favor del enfoque de Thinking Machines proviene de un proyecto reciente con Bridgewater Associates, el fondo de cobertura más grande del mundo (que originalmente no es un inversor en Thinking Machines). Los investigadores de ambas empresas tomaron modelos de código abierto existentes y los capacitaron aún más basándose en la experiencia financiera única de Bridgewater. Los resultados alcanzaron una puntuación del 84,7% en una prueba de razonamiento financiero, superando a los mejores modelos de IA patentados y, según se informa, su ejecución cuesta aproximadamente 14 veces menos. Sin embargo, estos resultados se basan en evaluaciones propias de las empresas, no en evaluaciones independientes.
De cualquier manera, Thinking Machines enfatiza lo rápido que llegaron aquí. OpenAI tardó unos cinco años en llevar su tecnología al mercado y mostrar rentabilidad, mientras que Anthropic tardó unos tres años. Thinking Machines dice que logró resultados similares en unos nueve meses.
Uno podría preguntarse si Inkling fue entrenado basándose en los resultados del modelo de un competidor. Esto se conoce como «destilación», y ha sido objeto de escrutinio en toda la industria. Según los propios materiales de la empresa, la respuesta breve es parte de la respuesta. Thinking Machines preentrenó a Inkling desde cero, pero dijo que utilizó otros modelos de peso abierto, incluido Kim K2.5 de Moonshot AI, para generar algunos de los datos iniciales posteriores al entrenamiento antes de que tomara el control el aprendizaje por refuerzo a gran escala. La compañía afirma que su próximo modelo utilizará un post-entrenamiento totalmente autónomo.
En cuanto a los costes, Thinking Machines es más cauteloso. La compañía se asoció con Nvidia en marzo para implementar gigavatios de potencia informática Vera Rubin y entrenar a Inkling completamente en los sistemas GB300 NVL72 de Nvidia, pero la compañía no ha dicho cómo planea cubrir esos costos y, en opinión de muchos, los ingresos no eran una prioridad. (Según los informes, se dijo que se cerraría una ronda de financiación de 50 mil millones de dólares en noviembre pasado, pero se estancó en enero. Desde entonces, la compañía se ha negado a discutir el estado de la financiación).
Una pregunta relacionada es si el gasto de Thinking Machines algún día alcanzará la escala de OpenAI o Anthropic, o si su enfoque centrado en la eficiencia significa un cambio en la economía. Dicho de otra manera, la apuesta de la compañía puede ser menor a no tener que gastar tanto como sus rivales más grandes, y menos a no tener que hacerlo. Esto se debe a que una vez que los pesos se hacen públicos, quienes los descargan no tienen la obligación de pagar a Thinking Machines para que los ejecuten, a diferencia del acceso de pago por uso que venden OpenAI y Anthropic. No es el modelo en sí, es Tinker, y los ingresos de la empresa deberían provenir de la capacitación, los ajustes y ahora parte del ecosistema de hosting construido a su alrededor.
Al menos el número de empleados parece más estable. Thinking Machines ahora tiene alrededor de 200 empleados, un aumento con respecto al nivel informado después de una serie de salidas a principios de este año, incluidos dos cofundadores que se fueron a OpenAI en enero.
Thinking Machines no parece interesada en exagerar los movimientos individuales, como lo hace gran parte de la industria. Fuentes de la empresa dicen que la cultura de la empresa, por diseño, enfatiza la continuidad en lugar de depender de personalidades específicas. Eso es natural. Si, para empezar, no te pusieron en un pedestal, es menos probable que te frustres al cambiar de equipo. También es notable que la compañía insistiera en ello, dado que gran parte de la historia de su compañía todavía está ligada al nombre de su ahora famosa cofundadora, ya sea que ella lo haya planeado o no.
Si compra a través de enlaces en nuestros artículos, es posible que ganemos una pequeña comisión. Esto no afecta la independencia editorial.
Source link
