Varias empresas de IA, incluidas Hugging Face, Meta, Microsoft, Mistral y Nvidia, firmaron una carta abierta instando a los responsables políticos a no imponer «restricciones prematuras» amplias a los modelos de IA de peso abierto. La carta llega mientras Washington debate cómo debería responder Estados Unidos a las acusaciones de que los laboratorios chinos de IA están robando propiedad intelectual de los laboratorios de IA estadounidenses para mejorar sus capacidades.
La carta no menciona a China en absoluto, pero sigue informes de que la administración Trump está considerando prohibir los modelos indiscriminados fabricados en China y posibles sanciones contra las empresas chinas de IA. La Casa Blanca incluso acusó a Moonshot AI de extraer el modelo Fable de Anthropic para entrenar el modelo Kimi K3 recientemente lanzado y, según todos los informes, muy impresionante.
El documento parece tener como objetivo desalentar una prohibición total del modelo chino y garantizar que la respuesta de la administración al escándalo de la destilación china no se extienda a una regulación más amplia de tecnologías comunes como la inteligencia artificial y la destilación indiscriminadas.
Los formuladores de políticas deben tener cuidado de no confundir las técnicas legítimas de desarrollo de modelos con la apropiación indebida. La destilación, la práctica de utilizar el resultado de un modelo para ayudar a entrenar o mejorar otro, es una técnica ampliamente utilizada para mejorar, evaluar y validar modelos. Esto refleja una larga tradición de aprender, aprovechar y mejorar la tecnología existente, una tradición que ha ayudado a impulsar la innovación desde el surgimiento del movimiento del software de código abierto.
Por el contrario, los esfuerzos ilegales por extraer valor de modelos cerrados plantean preocupaciones legítimas. Estas preocupaciones deben abordarse a través de marcos legales y comerciales específicos en lugar de restricciones generales a las tecnologías que desempeñan un papel clave en la innovación en IA.
O, como dijo a TechCrunch el director ejecutivo de Replit, Amjad Massad (quien también firmó la carta), «Creo que prohibir el modelo abierto de China es tan bueno como prohibir los modelos abiertos en general». Señaló que el nuevo modelo abierto de Thinking Machines Lab, Inkling, fue entrenado con la ayuda de Kim 2.5 de Moonshot. «Este es un ecosistema y el precedente[que sentaría una prohibición]es malo».
La carta también rechaza los argumentos de la industria de que los modelos abiertos son intrínsecamente peligrosos porque amplían el acceso a modelos potentes que pueden usarse para ataques cibernéticos y otras actividades fraudulentas sin supervisión.
«La respuesta correcta a este riesgo no es prohibir los pesos abiertos. En un mundo donde los atacantes de ciberseguridad utilizan IA avanzada, los defensores necesitan acceso a modelos con capacidades comparables para poder detectar, simular y responder a amenazas emergentes», decía la carta. «Un modelo abierto amplía nuestras capacidades de defensa, aumenta la transparencia y nos permite descubrir y remediar vulnerabilidades en muchos equipos».
La semana pasada, OpenAI reveló que mientras probaba GPT-5.6 Sol y otro modelo sin nombre, uno de sus sistemas aprovechó una debilidad en el entorno de prueba para acceder al repositorio de Hugging Face que contiene soluciones para puntos de referencia de codificación. Algunos pueden argumentar que el propósito del modelo no era malicioso y que efectivamente era hacer trampa en la prueba para obtener la puntuación más alta. Pero el incidente ha provocado un debate sobre los riesgos de concentrar tecnología avanzada de IA detrás de un pequeño número de proveedores cerrados.
Hug Face dijo que no pudo protegerse del ataque porque las barreras de seguridad de su modelo Frontier AI disponible comercialmente bloquearon el ataque. El modelo cerrado de IA que se utilizó no podía diferenciar entre pedirle que creara un exploit para un atacante o un defensor que intentaba detectarlo. En cambio, la empresa tuvo que recurrir al uso de GLM 5.2, un potente modelo promiscuo de la empresa china de inteligencia artificial Z.ai, para protegerse de los ataques.
La carta destaca las divisiones en la industria de la IA. Empresas como OpenAI y Anthropic están pidiendo a la administración que aborde las acusaciones de robo de propiedad intelectual por parte de empresas chinas de IA a medida que las capacidades del modelo abierto crecen rápidamente. Los resultados podrían tener importantes implicaciones para los modelos de negocio amenazados por la proliferación de modelos de IA baratos, potentes y accesibles.
Estas empresas se destacan porque no figuran al final de esta carta, junto con otros desarrolladores de inteligencia artificial de código cerrado como Google DeepMind y SpaceX.
Los firmantes de esta carta tienen un claro interés financiero en el florecimiento de los modelos abiertos de IA. Empresas como Nvidia, Microsoft Azure y otros proveedores de infraestructura tienen un gran interés en impulsar un modelo mercantilizado. Si el modelo fuera intercambiable, la gente compraría más GPU, alquilaría más capacidad de nube y crearía más aplicaciones.
La carta alienta a los responsables políticos a ampliar el acceso a la informática para las empresas emergentes y los investigadores. Invierta en activos de capacitación compartidos, como conjuntos de datos, herramientas y marcos de evaluación. y “mantener la pluralidad fronteriza evitando restricciones prematuras a modelos abiertos que inhibirían la competencia o promoverían la innovación en el extranjero”.
Este artículo se ha actualizado con comentarios del director ejecutivo de Replit, Amjadmasad.
Si compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta la independencia editorial.
Source link
