Anthropic recientemente desconectó dos de sus últimos modelos de IA debido a una orden de control de exportaciones de la administración Trump, lo que generó un debate más amplio sobre la política de IA y la soberanía digital.
En el último episodio del podcast Equity de TechCrunch, Sean O’Kane, Rebecca Bellan y yo discutimos qué impulsó realmente la medida de la administración contra Anthropic y lo que esto significa para el ecosistema de IA en general.
Es posible que los demás competidores de Anthropic no tengan que preocuparse por una represión similar, ya que, como señala Sean, «Anthropic no ha tenido la mejor relación con la administración Trump en términos de lo que lo diferencia de otros laboratorios importantes de IA».
Sin embargo, Rebecca también señaló que los principales expertos en ciberseguridad «firmaron una carta abierta al presidente Trump pidiéndole que rescinda la orden, diciendo que en realidad es peligroso tener que extraer estas capacidades avanzadas de ciberseguridad de los defensores de las redes de Estados Unidos».
Y pensamos que esto podría ser una buena publicidad para Anthropic, especialmente porque, en palabras de Rebecca, «todo el mundo ama a una chica mala».
Continúe leyendo para obtener una vista previa de la conversación, editada para mayor extensión y claridad.
Rebecca Beran: Como muchos de nuestros oyentes saben, el gobierno de EE. UU. básicamente obligó a Anthropic a desconectar sus dos modelos más nuevos, el Fable 5, y luego también tuvieron el Mythos 5. Esto está disponible para los usuarios actuales de Mythos, (mientras que) Fable 5 estaba disponible para el público.
Enviaron una carta (la semana pasada) el viernes citando «preocupaciones de seguridad nacional». Nadie sabe cuáles son esas preocupaciones. Ese informe no se ha hecho público y no dieron detalles, diciendo a (Anthropic) que necesitaban asegurarse de que esos modelos no fueran utilizados por extranjeros. Entonces Anthropic dijo: «Está bien, creo que debemos hacernos cargo del modelo por completo, porque no sabemos si alguien es extranjero. Muchos de nuestros empleados son extranjeros».
Pero, de hecho (según los informes), la Casa Blanca alertó de esto porque algunos investigadores amazónicos supuestamente habían descubierto una manera de sortear las barreras de seguridad de Fable 5. El director ejecutivo de Amazon, Andy Jassy, planteó estas preocupaciones a la Casa Blanca, y las cosas solo empeoraron a partir de ahí.
Sean O’Kane: Todo fue muy rápido, especialmente desde el viernes por la tarde hasta el fin de semana. Y eso fue al mismo tiempo que la administración aparentemente intentaba negociar algún tipo de tratado sobre la guerra que había iniciado en Irán.
Rebecca: Para nosotros en Nueva York es viernes por la tarde. Les encantan las distracciones.
Sean: Retrocedamos un poco por un momento. Anthropic no tiene una relación tan buena con la administración Trump como otros grandes laboratorios de inteligencia artificial. Al menos creo que aquí hay elementos de eso.
¿Cree entonces que esto afectará a otras empresas? ¿Cree que la administración Trump no cerrará el grifo a ninguno de estos competidores?
Anthony Ha: Parte del contexto aquí es que tanto los informes como los análisis realizados por expertos en seguridad independientes sugieren que el riesgo de seguridad real que plantea Anthropic no es tan único. Entonces, parece que gran parte de este problema proviene de la administración Trump y de que algunos de Anthropic no se llevan muy bien. Cualesquiera que sean los riesgos que existan, esas cosas van a explotar desproporcionadamente simplemente porque no parecen poder hacer llamadas telefónicas comerciales entre sí.
Por un lado, si estás en otra empresa, puede que te resulte ventajoso. Porque podemos decir: «Bueno, simplemente no nos enojamos con ellos y podemos hacer lo que queramos». Pero ésta tampoco es una gran situación regulatoria como para decir simplemente: «Espero que no se enojen con nosotros».
Rebecca: Por un lado, esto definitivamente parece una represalia. Se está gestando una demanda importante entre los dos países después de que el gobierno calificara a Anthropic como un riesgo para la cadena de suministro. Parece que la Casa Blanca sólo está buscando una excusa para atacar a Anthropic. Me sentí así no sólo porque esa fue mi primera reacción, sino también por lo que dijeron muchos investigadores de ciberseguridad. Según él, por este motivo no deberían haberse activado restricciones a la exportación (órdenes). Todos firmaron una carta abierta pidiendo al presidente Trump que rescinda la orden, argumentando que en realidad es peligroso tener que extraer estas capacidades avanzadas de ciberseguridad de los defensores de las redes estadounidenses. La propia Anthropic también ha dicho que es posible que se hayan encontrado algunos de los mismos jailbreak en varios otros modelos de IA.
Irónicamente, es algo como esto: «Está bien, ¿estás pausando Anthropic para permitir que otras personas se pongan al día con lo que está pasando con Anthropic?»
Pero al mismo tiempo, también he visto reacciones como esta: (Por ejemplo): Anthropic esperaba que sucediera algo como esto. Dicen: «Esto es demasiado peligroso para que cualquiera lo use, pero nosotros no lo somos. Somos los buenos». Hablan con ambos lados de la boca. Una semana antes de que saliera Fable, dijeron: «Necesitamos ralentizar la IA. Se está volviendo realmente peligroso». Pero luego estalló: «Este es nuestro modelo más loco y superpoderoso que jamás haya existido, vete».
Anthony: En cierto modo, esto parece un microcosmos de gran parte del debate en torno a la IA. Allí, gente como Sam Altman y Jensen Huang dicen: «Bajemos la temperatura. ¿Por qué están todos enojados con nosotros?». Bueno, has pasado los últimos años esencialmente diciendo que has construido una máquina divina que quitará puestos de trabajo a todos. No es realmente sorprendente que la gente no esté contenta con esto.
Y cuando Anthropic habla específicamente de Mythos, es como: «Este es el modelo más increíblemente poderoso jamás creado y es demasiado peligroso para revelarlo al público». Y en algún nivel (dices): «Bueno, digamos que lo tomamos en serio. Eso significa que habrá un nivel increíble de escrutinio al respecto».
Y me pregunto, parece que Anthropic no está contento con esto. Quiero tener cuidado de no exagerar lo beneficioso que esto es para ellos. Pero también publicamos varios artículos sobre análisis de rampa para resaltar el hecho de que el último gran choque entre Anthropic y la administración Trump fue, al menos en algunos aspectos, bueno para la empresa. Los números de descargas de Claude se dispararon. Creo que muchas personas que antes pensaban en ChatGPT como un chatbot, un asistente de inteligencia artificial, de repente empezaron a pensar en Claude como quizás una persona más responsable y más «resiliente».
Y de manera similar, Anthropic está muy estresado por esto, pero esto también podría hacer que su modelo parezca aún más fuerte.
rebeca: por supuesto. «Somos muy peligrosos». Todo el mundo ama a un chico malo, ¿verdad? Todo el mundo dice: «Este es el modelo más poderoso. Incluso Trump lo dice. Por supuesto que tengo que tenerlo».
Si compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta la independencia editorial.
Source link
