La carta de aplicación del gobierno de los EE. UU. a Anthropic, que efectivamente obligó a la compañía a desconectar sus últimos modelos de IA justo antes del fin de semana, debería ser una llamada de atención para las empresas de tecnología, los laboratorios de IA y otros sectores de los EE. UU.
Le informaremos de las últimas novedades sobre las novedades de Dengeki. El viernes por la tarde, el Departamento de Comercio de EE. UU. envió una carta a Anthropic activando vagas directivas de control de exportaciones que prohíben el acceso a Fable 5 y Mythos 5 a personas no estadounidenses, incluidos empleados de Anthropic, citando preocupaciones de seguridad nacional no especificadas. Anthropic dijo que cree que la carta está relacionada con el desvío de la barandilla del modelo, pero como la carta no proporciona detalles específicos, no puede estar seguro. La carta no se ha hecho pública.
En respuesta, Anthropic ha dejado de ofrecer ambos modelos de primera línea a todos los clientes para garantizar el cumplimiento de la directiva. Como resultado, el gobierno de Estados Unidos pudo obligar a las empresas de tecnología a desconectar sus modelos mediante una acción rápida y unilateral que no requirió aprobación judicial.
La intervención del viernes por parte de la administración Trump muestra que la industria de la IA no es inmune a la intervención gubernamental. Esto también es una advertencia para la industria tecnológica en general. El incumplimiento resultará en el cierre de usted y de su producto.
Axios citó fuentes que explicaron la tensa situación entre las dos grandes empresas durante el fin de semana, diciendo que «diferencias de personalidad» entre Anthropic y la administración Trump, más que problemas técnicos con los productos de IA, llevaron a la directiva de exportación.
Nuevos detalles sobre el asunto que surgieron durante el fin de semana arrojaron más dudas sobre el ya inestable razonamiento del gobierno.
Katie Moussouris, una veterana en ciberseguridad e investigadora que fundó Luta Security, dijo en una publicación de blog que Anthropic recientemente compartió con ella una copia privada de un artículo escrito por un investigador de seguridad que describe la supuesta elusión de las barreras de seguridad de Fable 5. (El Wall Street Journal informó que el autor del artículo era un investigador de seguridad de Amazon)
La publicación del blog de Muslih explicó cómo los investigadores activaron el desvío de la barandilla, pero dijo que el desvío en sí «nunca debería haber activado controles de exportación». La gran diferencia es si le pide a un modelo de IA que «revise su código para detectar problemas de seguridad» o que «arregle este código». Incluso si las preguntas se formulan de forma un poco diferente, el resultado final será casi el mismo.
«La conducta descrita en el documento no puede corregirse significativamente, y cualquier intento sólo debilitará el modelo de defensa», dijo Musli, calificando la directiva de control de exportaciones apresurada, coercitiva y equivocada.
Desde entonces, Muslih y docenas de otros importantes investigadores y expertos en seguridad han pedido a la administración Trump que rescinda la orden de control de exportaciones, calificando de «peligrosa» la medida para extraer capacidades avanzadas de ciberseguridad de los defensores de las redes estadounidenses.
Las administraciones pasadas han tomado decisiones radicales respecto de las lagunas de conocimiento. Por ejemplo, el lenguaje utilizado por el gobierno de Estados Unidos en la década de 2010 para modificar las leyes de exportación para abarcar herramientas de ciberseguridad que también podrían usarse en ataques cibernéticos fue tan amplio que casi sin querer criminalizó la investigación legítima sobre seguridad y vulnerabilidad.
Sin embargo, la directiva de la administración Trump parece ser una represalia.
El editor de Tech Policy Press, Justin Hendricks, dijo que la medida de la administración Trump «probablemente hará que el capital extranjero desconfíe de la confiabilidad de la IA estadounidense en aplicaciones críticas». El mensaje es que no se puede confiar en que las empresas estadounidenses de inteligencia artificial operen sin la interferencia del gobierno estadounidense.
La administración Trump no ha confirmado el motivo para invocar la directiva de control de exportaciones. ¿Los funcionarios entraron en pánico porque leyeron mal el informe? ¿El director ejecutivo de Amazon, Andy Jassy, dijo algo a los funcionarios gubernamentales que provocó una respuesta, por alarma o malicia? ¿Se perdió algo en la traducción o fue esta una forma de presionar a Antropic, que ya tenía una relación difícil con la administración? Es posible que la Casa Blanca no se haya dado cuenta de las implicaciones de largo alcance de las demandas de la carta, y los funcionarios están desesperados por deshacer el daño que causaron.
En palabras de Hendrix, «Este clima es uno de nubes de sospecha de que los funcionarios del gobierno están eligiendo favoritos basándose en factores personales y políticos». Las consecuencias son que ha sentado un peligroso precedente sobre el grado de control que el gobierno pretende ejercer sobre la publicación de software estadounidense.
Esta vez, el gobierno vio a Anthropic como un problema. Mañana podría estar con otra persona.
Si compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta la independencia editorial.
Source link
