A medida que los promiscuos modelos de IA de China crecen en capacidades y popularidad, el debate sobre qué hacer al respecto se vuelve a calentar.
Se habla de que la administración Trump podría intentar prohibirlos (aunque aún no ha actuado sobre esa idea). Mientras tanto, los fabricantes de modelos propietarios, particularmente OpenAI y Anthropic, parecen cada vez más preocupados por ellos.
Los modelos de peso abierto, como Kim K3 de Moonshot AI y Qwen de Alibaba, proporcionan inferencia a una fracción del costo simbólico de los modelos de código cerrado que ofrecen los grandes laboratorios estadounidenses. Lo aterrador es que representan algún tipo de amenaza. De hecho, amenazan los márgenes de ganancias de los grandes laboratorios privados de IA.
Pero, ¿deberían las empresas que ejecutan estos modelos en sus centros de datos sucumbir al temor de que puedan convertirse en vectores para los piratas informáticos chinos?
No, dice el CTO de Arcee, Lucas Atkins. Arcee está construyendo un modelo abierto que ofrece a las empresas estadounidenses una alternativa local al modelo chino.
Si las startups se benefician de la prohibición del modelo chino, también lo hará Arcee. Pero Atkins sostiene que el modelo abierto de China no es más peligroso que otro software de código abierto utilizado por las empresas. De hecho, afirma, también ofrecen ventajas a su empresa.
«Mucha gente ve esto como algo similar a un programa de software chino, como si estuviera codificado con una intención x, y, z, algo que una parte maliciosa puede controlar fácilmente», dijo.
«Básicamente, no es así como se entrenan estos modelos. Arcee o Alibaba crean un modelo, alguien lo ejecuta en su propio entorno y realmente no hay forma de que podamos acceder a él», explicó.
La mayoría de estos modelos son lo que se conoce como «peso abierto» y en realidad no son software de código abierto, pero el código fuente (la parte que realmente se ejecuta en el servidor) es igualmente visible y revisable en gran medida cuando se descarga desde sitios de código abierto como Hugging Face. (Lo que no está disponible son los métodos y datos utilizados para entrenar el modelo).
Las grandes organizaciones deberían aplicar Model Core a sus procesos de inspección y pruebas de seguridad. Además, los modelos a menudo se pueden entrenar posteriormente para aplicaciones específicas a fin de probar áreas como prejuicios, toxicidad, alucinaciones e hipersensibilidad a ciertos temas. Así que interactúe, optimice y comprenda su modelo antes de que los usuarios comiencen a solicitarlo.
¿Es posible que el modelo utilizado para codificar pueda de alguna manera generar una puerta trasera maliciosa en el código que escribo? Nuevamente, es teóricamente posible, pero requeriría algunas hazañas acrobáticas para lograrlo.
«No hay ninguna razón por la que un actor suficientemente sofisticado no pueda entrenar un modelo para que sea un modelo de codificación completamente sorprendente en todas las situaciones, pero cuando se le presenta un cierto tipo de código base, se activará algún entrenamiento oculto», planteó la hipótesis de Atkins, quien pasa sus días entrenando modelos. Pero también añadió: «No sé cómo hacen esto».
Los modelos de lenguaje a gran escala son inherentemente creativos, por lo que es muy poco probable que los modelos modernos escupan malware en respuesta a una tormenta perfecta de contextos e indicaciones previamente planificados. Es incluso menos probable que las empresas utilicen ese código.
¿Es posible que suceda en el futuro? Eso es una incógnita. Pero las empresas están creando aplicaciones de inteligencia artificial que sean independientes de los modelos y utilicen múltiples modelos. Por lo tanto, las empresas no tienen que utilizar modelos chinos para siempre, incluso si son los mejores a los precios actuales.
«En lugar de hablar sobre cómo prohibir el modelo chino, creo que deberíamos hablar sobre cómo fomentar un ecosistema bueno y abierto aquí en Estados Unidos», dijo Atkins.
Arcee también se beneficia de los modelos chinos. Debido a que son abiertas, las startups «se benefician de que los modelos sean buenos porque podemos aprender lo que han hecho; podemos construir sobre ellos; y ellos pueden aprender lo que estamos haciendo», dice. «Tenemos mucho respeto por las personas que construyen estos modelos, los investigadores individuales».
En última instancia, la manera de competir con los modelos chinos es «lanzar un modelo mejor», afirmó Atkins. «Necesitamos darles algo de qué hablar».
Si compra a través de enlaces en nuestros artículos, es posible que ganemos una pequeña comisión. Esto no afecta la independencia editorial.
Source link
