OpenAI está implementando su último LLM avanzado, Sol, para un amplio acceso público. Se considera que Sol es al menos equivalente a la fábula antrópica. La Fábula Antrópica es un modelo cuya capacidad (o propiedad) destacó la Casa Blanca y temporalmente fuera del alcance del público.
Entonces, ¿cómo obtuvieron estos modelos el visto bueno para su lanzamiento? Respuesta corta: nadie lo sabe exactamente.
«Francamente, no conozco su proceso exacto, por lo que ciertamente no siento que tenga suficiente información para saber si son apropiados o no», dijo a TechCrunch Mina Narayanan, analista de investigación senior del Centro de Seguridad y Tecnologías Emergentes de Georgetown. «Aunque Anthropic declaró que estaba en diálogo con el gobierno, desarrolló clasificadores para detectar intentos de fuga y puso en marcha una estrategia de defensa en profundidad para evitar futuras fugas, no está claro cuál fue exactamente el diálogo entre el gobierno, Anthropic y OpenAI».
«Nadie sabe cuáles son los requisitos para obtener una licencia», escribió en un boletín el mes pasado Dean W. Ball, exasesor de políticas de Trump que ahora trabaja en OpenAI.
Andy Konwinski, un científico informático que cofundó Databricks, Perplexity y el Instituto Laude, dijo que no ha hablado con nadie que entienda el proceso, ni siquiera en Frontier Labs. «Es un problema existencial», dijo a TechCrunch. «Estar seguro depende de quién tiene el poder de tomar decisiones. ¿Quién tiene el control y quién decide lo que está permitido?»
Dieciocho meses después del inicio de la administración Trump, todavía hay poca claridad sobre cómo avanzar, a pesar de que las cifras de la industria están determinando la política, o al menos eso argumentan algunos críticos. El mes pasado, después de semanas de luchas internas, se publicó una orden ejecutiva que establece una hoja de ruta para evaluar el modelo Frontier, pero aún no se han finalizado otros detalles además de los que no existen. “No habrá una FDA para la IA”, dijo al Financial Times Sriram Krishnan, ex socio de Andreessen Horowitz y hasta el mes pasado asesor principal sobre IA en la Casa Blanca.
En particular, todavía no hay acuerdo sobre qué tipos de modelos requieren escrutinio gubernamental o qué agencias deberían realizar esas evaluaciones. Por ahora, el Centro de Innovación y Estándares de IA del Departamento de Comercio parece estar tomando la iniciativa, pero la orden ejecutiva ordena a seis agencias del Gabinete que finalicen el proceso a principios de agosto. Lo que ha surgido entretanto es, en el mejor de los casos, ad hoc.
El director ejecutivo de OpenAI, Sam Altman, dijo a CNBC que el proceso incluyó conversaciones con funcionarios como el secretario de Comercio, Howard Lutnick, el secretario del Tesoro, Scott Bessent, y el director cibernético nacional de EE. UU., Sean Cairncross, pero no estaba claro quiénes los expertos probaron el modelo ni cómo lo probaron. OpenAI se negó a compartir detalles del proceso del gobierno con TechCrunch, pero señaló que la tarjeta de seguridad del último modelo incluye los resultados de varias evaluaciones externas realizadas por organizaciones como AISI, SecureBio e Irregulator del Reino Unido.
De manera similar al lanzamiento de Fable de Anthropic, OpenAI presentó una vista previa del modelo para el gobierno y un grupo selecto de usuarios antes de un lanzamiento más amplio, pero no está claro quiénes son todos esos usuarios y cómo fueron seleccionados. «No creemos que este tipo de proceso de acceso gubernamental deba ser el predeterminado a largo plazo», dijo la compañía en una publicación de blog a fines de junio, y dijo que trabajaría con el gobierno para buscar un camino alternativo.
Pero el contexto de estas conversaciones incluye que Altman supuestamente ofreció hasta un 5% de participación en acciones de OpenAI para la llamada «Cuenta Trump» de la administración, y el papel del presidente de OpenAI, Greg Brockman, como el mayor donante conocido públicamente para la operación política de mediano plazo de Trump. Para los observadores externos, es difícil distinguir entre estas actividades y el enfoque aparentemente ligero del gobierno para regular el Sol.
Mientras tanto, Anthropic’s Fable fue retirada temporalmente del acceso generalizado después de que el gobierno de Estados Unidos prohibiera su uso por parte de extranjeros. Esto se debe en parte a las serias preocupaciones sobre los usuarios que hacen jailbreak a este modelo para acceder a capacidades de piratería, y en parte a los conflictos de personalidad entre Anthropic y la administración Trump. La amenaza de una prohibición de las exportaciones también puede haber hecho que OpenAI sea más cooperativo con las solicitudes gubernamentales (desconocidas).
Desde la perspectiva de la industria, un enfoque de no intervención en la regulación puede ser bueno, pero un enfoque que se basa en conexiones personales con funcionarios gubernamentales crea incertidumbre y malos incentivos.
Konwinski le dijo a TechCrunch que le preocupa que los verdaderos expertos en la tecnología, «no solo investigadores de seguridad, investigadores de alineación, investigadores de interpretabilidad, sino también personas de datos y personas en toda la pila», no estén desempeñando un papel suficiente en el proceso de lanzamiento del modelo.
Konwinski sostiene que los «bienes comunes abiertos» son la mejor manera de lograr un equilibrio entre seguridad e innovación. Señala modelos como la FDA, los NIH y laboratorios nacionales que convocan a investigadores, funcionarios gubernamentales y empresas privadas para llegar a un consenso sobre cuestiones de seguridad.
Parte de esto se debe a los incentivos capitalistas que han motivado a los investigadores de IA durante más de una década y que se manifestaron en los tribunales durante la demanda de Elon Musk que desafió la estructura corporativa de OpenAI. Ball señala que la naturaleza del negocio de la IA significa que las empresas necesitan recuperar gran parte de sus costos de capacitación tan pronto como se lanza un modelo y mantenerse por delante de sus competidores.
“Incluso si sus intenciones son bien intencionadas, existen obligaciones legales y deberes fiduciarios muy claros integrados en sus procedimientos comerciales”, señala Konwinski.
En su publicación, Ball argumentó que el camino a seguir dependerá de que un auditor externo aprobado por el gobierno evalúe el enfoque de seguridad de Frontier Labs. Konwinski también es optimista acerca de las nuevas formas organizativas, como las organizaciones de investigación centralizadas, que pueden ayudar a más profesionales desinteresados del mundo académico y de organizaciones sin fines de lucro a acceder y evaluar modelos de frontera.
Por ahora, el secreto que rodea el desarrollo de la IA persiste, pero también planteará un desafío político para una industria que los estadounidenses ven cada vez con más escepticismo. «No hay sensación de que personas responsables estén impulsando estos cambios», dijo Remzi Alpaci-Dussault, profesor de informática en la Universidad de Wisconsin-Madison, en la conferencia Open Frontiers la semana pasada.
En el mismo evento, el científico informático David Siegel, fundador de Two Sigma, uno de los fondos de cobertura cuantitativos más exitosos, preguntó a los asistentes: «Imagínense una situación en la que un pequeño número de empresas controlan la tecnología y el gobierno evalúa la tecnología en laboratorios secretos para ver si es adecuada para su uso, y el público en general y la comunidad científica realmente no tienen acceso a ella. Creo que es una situación muy mala».
Parece que no hay necesidad de imaginarlo.
Si compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta la independencia editorial.
Source link
