Las impresionantes capacidades del Kim K3 del instituto de investigación chino Moonshot, el mayor modelo de lenguaje abierto a gran escala, han provocado un debate que confunde dos cosas: el potencial económico del gigante estadounidense de la IA y el futuro del LLM como tecnología.
Dean W. Ball, jefe de futuros estratégicos de OpenAI, llegó incluso a argumentar que debido a que el modelo de peso abierto necesariamente impediría que Frontier Labs hiciera inversiones de capital, el gobierno de Estados Unidos debería encontrar una excusa para crear temor, incertidumbre y desconfianza regulatoria sobre el nuevo modelo.
La gente se indignó cuando luminarias de la tecnología como Yann LeCun y Martin Casado argumentaron que el software abierto podría acelerar la innovación y coexistir con proyectos propietarios. Ball rápidamente se retractó de sus afirmaciones de que una ofensiva regulatoria era la «mejor estrategia» de la Casa Blanca y que un modelo de peso indiscriminado inevitablemente frenaría el progreso tecnológico.
Sin embargo, Axios informó que la administración Trump está considerando prohibir el K3 y otros modelos chinos avanzados a solicitud del American Frontier Research Institute. Otro informe de Politico dijo que el Departamento de Comercio no tomaría esa medida por ahora.
Los beneficios para las grandes empresas de IA son claros. Los modelos de peso abierto, que se ejecutan en infraestructura independiente o dentro de grandes empresas, brindan inteligencia a un costo menor que los modelos líderes en su clase de Anthropic y OpenAI. A medida que los usuarios gastan más fuera de los laboratorios cerrados, significa un menor retorno de su enorme inversión en capacitación de modelos.
Sus puntos de vista se extienden mucho más allá de OpenAI. «Un modelo fuerte de código abierto a nivel de frontera reducirá los márgenes y reducirá los precios para las empresas fronterizas», dijo a TechCrunch Braden Hancock, cofundador de Snorkel AI y socio de investigación del Lord Institute. «Esto no significa necesariamente que vayamos a utilizar un poco menos de IA. Obviamente, todo lo contrario».
Para aquellos que no poseen acciones de Anthropic u OpenAI, está bien. La IA seguirá proliferando. Entonces, ¿cuál es la justificación del gobierno para impedir que los estadounidenses compren algo en el mercado aparentemente libre?
Hay varios tipos de preocupaciones sobre el modelo chino. Una es proteger los datos estadounidenses del gobierno chino. Estados Unidos ha prohibido las importaciones de vehículos eléctricos chinos modernos, citando preocupaciones sobre la recopilación de datos. Pero si bien los expertos tienden a pensar que es poco probable que un modelo de peso abierto que se ejecuta en servidores estadounidenses filtre datos a China, no es imposible que algo así pueda suceder.
Otra es que el modelo puede tener un sesgo implícito contra China, pero no está claro qué significa eso para la tarea de codificación, por ejemplo.
Una tercera preocupación común es que los modelos chinos carecen de barreras de seguridad impuestas por el gobierno de Estados Unidos (a través de un proceso opaco) destinadas a impedir que los grandes LLM estadounidenses se utilicen para explotar sistemas informáticos cerrados o crear armas. Pero esas mismas barreras podrían hacer que las empresas estadounidenses sean más vulnerables. David Sachs, capitalista de riesgo y asesor del presidente Trump, ha compartido ejemplos de empresas estadounidenses que recurren a LLM chinos para llenar vacíos de seguridad cuando el modelo fronterizo estadounidense se niega a hacer el trabajo.
Pero la mayor motivación para restringir el modelo es el temor de que China pueda superar a Estados Unidos si Frontier Labs se desacelera.
Sam Bresnick, experto en China del Centro de Seguridad y Tecnologías Emergentes de Georgetown, dijo que la creciente importancia de la IA en las operaciones militares estadounidenses proporciona motivos para que Estados Unidos apoye la inversión continua en IA en los laboratorios fronterizos. Pero toda la cuestión es compleja, afirma.
«¿Por qué el peso del gobierno estadounidense se centra en proteger a estas empresas de competidores que están excluidos del mercado estadounidense debido a sus orígenes?» pregunta Bresnick.
Los defensores de la IA abierta argumentan que las empresas fronterizas están creando una falsa dicotomía entre innovación y modelos cerrados.
«El mayor impacto de traer estos modelos de código abierto desde China es que, en lugar de que China tenga una puerta trasera, China es dueña de la innovación», dijo Hancock a TechCrunch. «Lo que se obtiene es, en efecto, una fuerza laboral de modelado ampliada. PyTorch se convirtió en un estándar de la industria porque era de código abierto, por lo que toda la comunidad podía contribuir, no solo una empresa, y simplemente creció y creció. Todas las demás bibliotecas de aprendizaje profundo desaparecieron en comparación».
Hancock y otros defensores están preocupados de que los LLM en China se conviertan en centros para la investigación internacional. Los programas de posgrado de Estados Unidos ya se basan en gran medida en un modelo chino promiscuo, con la mitad de los trabajos que los estudiantes investigan provenientes de instituciones chinas, y los laboratorios fronterizos de Estados Unidos se han vuelto cada vez más reacios a compartir ampliamente sus investigaciones, dijo Hancock.
«Restringir los modelos abiertos no hace que la IA sea segura», afirmó Clem DeLang, director ejecutivo de Hugging Face, una plataforma abierta de colaboración de IA. «Simplemente oculta riesgos, concentra el poder en manos de unos pocos y dificulta que la próxima generación de constructores, investigadores, académicos, organizaciones sin fines de lucro y gobiernos participen para hacer que la IA sea más segura y beneficiosa para todos».
Bresnick dice que la verdadera forma de frenar a China es poner más énfasis en los controles de exportación de chips. Una mejor manera de mantener el liderazgo de Estados Unidos en IA es dejar de vender procesadores Nvidia H200 a China. «Esto podría sacarnos de este espinoso debate sobre la prohibición de la tecnología de código abierto, que un gran número de empresas estadounidenses quieren utilizar», afirma.
Parte del problema es la incertidumbre sobre la economía de la IA. «No entendemos los modelos de negocio abiertos y propietarios. Las empresas de inteligencia artificial están teniendo dificultades para encontrar formas de ganar dinero con sus herramientas, especialmente porque los costos de capacitación tienen que aumentar cada vez más», dijo Bresnick.
Los mismos desafíos que ocurren en Estados Unidos están ocurriendo en China, donde las empresas de IA están luchando por ganar dinero y aprovechar el poder de computación, y el gobierno parece estar alentando los lanzamientos abiertos por razones políticas, a pesar de la dificultad para aprovecharlos.
Algunas empresas estadounidenses, como Thinking Machines Lab y Nvidia, están intentando desarrollar su negocio en torno al lanzamiento de modelos abiertos. Hancock dijo que a NVIDIA «le va mejor con docenas o cientos de empresas que construyen IA que con dos o tres empresas con suficiente capital para fabricar sus propios chips», lo cual es una de las razones para invertir en Nemotron, una colección de modelos abiertos.
«La cuestión es que sería muy beneficioso para Estados Unidos tener su propio modelo abierto, muy capaz y mucho más barato», dijo Bresnick. «Simplemente entra en conflicto con el enfoque adoptado por Frontier Laboratories».
Con información adicional de Rebecca Beran.
Si compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta la independencia editorial.
Source link
