El viernes pasado, la Casa Blanca ordenó a Anthropic restringir la exportación de sus poderosos modelos de inteligencia artificial Fable y Mythos a ciudadanos extranjeros fuera y dentro de Estados Unidos, citando preocupaciones de seguridad nacional no especificadas. Poco después, el gigante de la IA desconectó apresuradamente ambos modelos y ya no han estado disponibles para nadie durante una semana.
Este episodio es la primera prueba real de si los controles de exportación pueden usarse para contener la IA fronteriza de la misma manera que el gobierno de EE. UU. ha intentado anteriormente contener el cifrado y el software espía, con resultados muy desiguales. Por dramático que parezca, la forma en que se resuelva este conflicto podría moldear no sólo el acceso de Anthropic a los mercados extranjeros, sino también el libro de reglas sobre el que deben basarse otros laboratorios de IA.
Primero algo de contexto. Desde que Anthropic anunció Mythos en abril, la compañía lo ha estado promocionando como una especie de máquina cibernética apocalíptica que podría causar estragos en Internet si se lanza demasiado. Entonces, antes de la prohibición, sólo unas 150 empresas y agencias gubernamentales examinadas tenían acceso a él. El objetivo era permitir a los defensores proteger el software y los servicios antes de que los malos accedan a funciones como Mythos.
¿Qué motivó entonces la prohibición? Según se informa, sucedieron dos cosas después de eso. En primer lugar, Anthropic otorgó a los transportistas surcoreanos acceso a Mythos a través de un programa de socios limitados, pero las autoridades estadounidenses se alarmaron después de identificar a la compañía como una empresa con presuntos vínculos con China. (La compañía, que según se informa es SK Telecom, niega cualquier vínculo con China). El director ejecutivo de Amazon, Andy Jassy, también alertó al gobierno después de que los propios investigadores de Amazon descubrieron una forma de eludir las medidas de seguridad de Fable 5. Anthropic cuestiona la etiqueta de «jailbreak», argumentando que esto no es un fracaso total de las medidas de seguridad del modelo, sino más bien un problema limitado que ya ha sido solucionado.
El resultado fue el mismo. El Departamento de Comercio emitió una directiva de control de exportaciones y Anthropic tuvo que luchar para restringir inmediatamente el acceso a sus productos, en algunas cuentas dentro de unos 90 minutos de haber sido notificada.
Sin embargo, nada de esto es nuevo. Durante décadas, los gobiernos han utilizado controles de exportación para tratar de limitar la proliferación de tecnologías cibernéticas consideradas peligrosas, pero su historial ha sido, en el mejor de los casos, mediocre.
Desde principios hasta mediados de la década de 1990, el gobierno de Estados Unidos estuvo detrás del que tal vez haya sido el fracaso más espectacular de este enfoque en la historia. En ese momento, los informáticos estaban desarrollando técnicas de cifrado para proteger los datos que viajaban a través de Internet. Uno de esos productos de cifrado se llama Pretty Good Privacy (PGP), un popular software que puede cifrar datos y hacer prácticamente imposible descifrarlos incluso si son interceptados mientras se envían por Internet a su destinatario previsto.
Inicialmente, el gobierno de Estados Unidos vio a PGP como un arma peligrosa, temiendo que impidiera que las agencias de inteligencia espiaran los correos electrónicos durante las comunicaciones. En un esfuerzo por detener la distribución de PGP, la Aduana de EE. UU. ha iniciado una investigación criminal contra el fundador de PGP, Phil Zimmerman, por presunta violación de las regulaciones de exportación de armas. Él se defendió publicando el código fuente de PGP en un libro impreso, lo que desató lo que hoy se conoce como las «Crypto Wars».
Posteriormente, Zimmerman ganó una batalla importante cuando concluyó la investigación, allanando el camino para importantes algoritmos de cifrado de extremo a extremo, como los utilizados por miles de millones de usuarios de Signal y WhatsApp.
Luego, a principios de la década de 2010, los investigadores comenzaron a descubrir software espía fabricado en Occidente y utilizado contra disidentes en Medio Oriente. En respuesta, varios gobiernos acordaron ampliar el Acuerdo de Wassenaar, un tratado internacional que restringe la exportación de software y tecnología de doble uso utilizados tanto para fines civiles como militares.
La idea era clasificar el software de vigilancia y piratería como de doble uso y obligar a los fabricantes de software espía a obtener licencias de exportación para vender sus productos en el extranjero.
consulta
¿Quieres más información sobre Mythos Ban? Puede comunicarse con Lorenzo Franceschi-Bicchierai de forma segura desde cualquier dispositivo o red que no sea del trabajo en Signal (+1 917 257 1382), Telegram y Keybase @lorenzofb o correo electrónico.
Pero Wassenaar siempre tuvo dos debilidades inherentes. Varios países no han cumplido con el acuerdo, incluido Israel, hogar de los fabricantes de software espía más activos del mundo.
El acuerdo también depende de si cada país aplica el acuerdo a las empresas dentro de sus fronteras a su propia discreción. En un momento dado, el gobierno italiano concedió a Hacking Team, uno de los principales fabricantes de software espía del país en ese momento, una licencia para exportar sus herramientas a todo el mundo, a pesar del historial de la empresa de vender software espía a gobiernos opresivos que lo utilizaban para piratear a periodistas y activistas de derechos humanos.
Desde entonces, otros países de Europa se han vuelto más tolerantes con los fabricantes de software espía como Italia. A pesar de numerosos escándalos, Europa, hogar de muchos fabricantes de software espía y herramientas de piratería informática, no ha logrado frenar la exportación de software espía a regímenes autoritarios. Los críticos dicen que los nuevos esfuerzos recientes en el bloque de 27 miembros para abordar el creciente problema de las exportaciones de software espía a estados autoritarios «no van lo suficientemente lejos».
Algunos fabricantes de software espía, como Intellexa, un consorcio autorizado de empresas de software espía, simplemente han trasladado sus operaciones a países con controles de exportación más débiles. Otros fabricantes de software espía han intentado trasladar sus operaciones a Arabia Saudita por motivos similares.
También hubo algunas victorias. El fabricante de software espía FinFisher, con sede en Alemania, cerró en 2022 tras una investigación de varios años realizada por fiscales alemanes sobre la empresa por supuestamente vender software espía a Turquía sin una licencia de exportación. Los investigadores habían encontrado previamente el software espía FinFisher instalado en los teléfonos móviles de personas que criticaban al gobierno turco.
Al momento de escribir este artículo, el impasse entre Anthropic y la administración Trump continúa. Hay muchas posibilidades de que la administración revierta esa restricción para mantener competitivas a nivel mundial a las empresas estadounidenses de inteligencia artificial. Esta medida equivale a un reconocimiento tácito de que es probable que los laboratorios de IA en otros lugares, incluida China, alcancen capacidades similares, independientemente de los límites de Estados Unidos. Alternativamente, las empresas estadounidenses de IA pueden necesitar la aprobación del gobierno antes de ofrecer servicios a clientes extranjeros, y la carga del cumplimiento siempre pesará sobre las ganancias.
Dada la experiencia pasada con gobiernos mundiales que intentaron controlar el alcance del software, es poco probable que los controles de exportación exigidos por los gobiernos sean un enfoque apropiado para disuadir a partes malintencionadas de explotar poderosas tecnologías cibernéticas de doble uso.
Si compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta la independencia editorial.
Source link
