Entre todos los debates sobre las posibles desventajas de la IA, hay una preocupación que preocupa más a los entusiastas de la IA de Silicon Valley. Su preocupación es que los grandes laboratorios de IA que venden sus propios modelos estén actuando de algún modo como caballos de Troya.
La preocupación es que a medida que las nuevas empresas y las empresas utilicen los modelos de inteligencia artificial de Labs, como OpenAI y Anthropic, los Labs tendrán cada vez más acceso a la información comercial más confidencial de esas empresas. Los fabricantes de modelos pueden utilizar ese conocimiento por sí mismos y potencialmente convertirse en competidores de sus propios clientes. Quienes emiten tales advertencias van desde capitalistas de riesgo como Jason Calacanis hasta el director ejecutivo de Palantir, Alex Karp.
Ahora, en una sorprendente publicación de blog publicada el domingo, el director ejecutivo de Microsoft, Satya Nadella, también se unió a la multitud. Nadella advierte que los usuarios de IA, o lo que él llama «compradores», están pagando el doble. Gastan dinero conscientemente en el uso de tokens de IA, pero también, sin saberlo, entregan datos valiosos en el proceso.
«Básicamente, se paga dos veces por la inteligencia: una vez en dinero y otra por algo aún más valioso: el conocimiento único que necesita descubrir para que esa inteligencia sea útil. Cuanto mejor desee que funcione su modelo, más conocimiento necesitará para alimentarlo», escribe.
El mayor peligro, sostiene, es que las empresas literalmente estén enseñando modelos sobre los matices de sus negocios.
«Los modelos aprenden de las indicaciones que la gente escribe, las herramientas que utilizan los agentes y, especialmente, las correcciones que la gente hace cuando el modelo es incorrecto. Todas las correcciones se resumen en el conocimiento organizacional», escribe.
Este es «el tipo de conocimiento que los competidores nunca podrían comprar» y, sin embargo, las empresas lo están cediendo.
Nadella sostiene que si las empresas de IA son libres de aprovechar Internet para entrenar sus modelos, es lógico que a cambio puedan estudiar o «destilar» esos modelos. La «destilación» es la práctica de utilizar el resultado del modelo en sí para aprender cómo funciona y luego entrenar un modelo nuevo (a menudo más barato) basado en esos conocimientos. En febrero, Anthropic acusó al modelo chino de código abierto de enviarle a Claude millones de mensajes como una forma de mejorar su propio modelo e instó al gobierno de Estados Unidos a tomar medidas enérgicas contra los controles de exportación.
El punto de Nadella es que los fabricantes de modelos no pueden tener ambas cosas. Es hipócrita por su parte entrenar libremente con datos de todo el mundo y al mismo tiempo impedir que otros hagan lo mismo con sus modelos.
«Necesitamos una gran innovación por parte de los proveedores de modelos que tienen derechos de uso legítimo para entrenar modelos con datos disponibles públicamente, pero me parece irónico que el status quo se haya revertido para imponer condiciones restrictivas a la destilación», escribió Nadella.
A Nadella le preocupa especialmente que los fabricantes de modelos «se reserven el derecho de aprender de los datos de interacción y uso de los clientes».
La solución de Nadella parece algo que propondría un director ejecutivo de un gran proveedor de nube. Quiere que las empresas «conserven la propiedad» de sus datos, incluidas indicaciones, comentarios, etc., y por lo tanto las alienta a construir sus propios «entornos de aprendizaje únicos» en la nube (lo que convenientemente podría significar la nube de Microsoft, Azure, donde los datos probablemente ya estén almacenados de todos modos). También quiere que las empresas construyan lo que él llama una «capa de orquestación». Esta es esencialmente una forma de cambiar fácilmente entre modelos de IA de diferentes proveedores, en lugar de limitarse a uno. Herramientas como las “puertas de enlace” de IA que permiten a las empresas hacer precisamente esto se están volviendo cada vez más populares.
Nadella nunca utiliza el término «código abierto» como una forma de conservar la propiedad, pero este es un subtexto obvio. Pero también hay otro subtexto.
Aunque muchas grandes empresas todavía tienen algunos de sus propios centros de datos además de utilizar la nube, ya han comenzado a migrar a un modelo de código abierto ubicado en sus propias instalaciones (o «on-premises» en el lenguaje de la industria). Idit Levin, fundadora y directora ejecutiva de Solo.io, que desarrolla software de seguridad y redes que ayuda a las empresas a administrar sistemas de inteligencia artificial, dice que está viendo cómo se desarrolla este cambio para sus clientes. Después de experimentar con un creador de modelos propietario, empiezan a hacerse preguntas. «¿Podemos tomar un modelo de código abierto y ejecutarlo localmente? Haría casi el 90% de lo que hacen los modelos grandes y sería mucho más barato», dijo a TechCrunch. «Ellos lo entienden y pueden controlarlo».
La tecnología de Solo.io fue seleccionada el año pasado para impulsar el proyecto Agentgateway de la Fundación Linux. Su empresa cuenta entre sus clientes con empresas como T-Mobile, ADP y SAP. Ella considera que las empresas adoptarán cada vez más un modelo de código abierto local como la próxima gran ola en el uso de la IA empresarial.
ella no está sola. Tanto Vercel (mejor conocida como plataforma para crear y alojar sitios web y recientemente agregó una herramienta de cambio de modelo de IA) como OpenRouter (una compañía que ayuda a los desarrolladores a enrutar solicitudes entre diferentes modelos de IA) están viendo un aumento en el tráfico hacia sus modelos de código abierto. De hecho, el modelo abierto representó el 29% de todo el tráfico encaminado a través de las puertas de enlace de Vercel el mes pasado.
Es probable que esta tendencia siga creciendo, ya que el director ejecutivo de Microsoft, inversor tanto en OpenAI como en Anthropic, ahora está pidiendo públicamente a las empresas que tengan cuidado con el uso de modelos propietarios. «Al consumir inteligencia, estás creando inteligencia, y lo que creas debería ser tuyo», escribe Nadella.
Si compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta la independencia editorial.
Source link
