¿Cuándo nos tomaremos en serio el destino de la IA?
Aquí hay un desglose clave del intento de Elon Musk de cerrar el negocio comercial de inteligencia artificial de OpenAI. Sus abogados argumentan que la organización se fundó como una organización benéfica centrada en la seguridad de la IA y ha perdido el rumbo en busca de ganancias. Para demostrarlo, citan viejos correos electrónicos y declaraciones de los fundadores de la organización sobre la necesidad de un contrapeso de espíritu público a Google DeepMind.
Hoy llamaron a Stuart Russell, el único perito que puede hablar directamente sobre la tecnología de IA. Stuart Russell es profesor de informática en la Universidad de California, Berkeley, que ha investigado la IA durante décadas. Su trabajo consistía en proporcionar información sobre la IA y demostrar que esta tecnología es preocupantemente peligrosa.
En marzo de 2023, Russell firmó una carta abierta pidiendo una moratoria de seis meses sobre la investigación de la IA. En una señal de la contradicción aquí, Musk firmó la misma carta incluso cuando estaba lanzando su propio laboratorio de IA con fines de lucro, xAI.
Russell dijo a los miembros del jurado y a la jueza Yvonne González Rogers que existe una variedad de riesgos en el desarrollo de la IA, desde amenazas a la ciberseguridad hasta problemas con la mala coordinación y la naturaleza ganadora del desarrollo de la inteligencia artificial general (AGI). En última instancia, dijo, existe una tensión entre la búsqueda de AGI y la seguridad.
Las preocupaciones más importantes de Russell sobre la amenaza existencial de la IA sin restricciones no se informaron en la audiencia pública, ya que el juez limitó el testimonio de Russell a pesar de las objeciones de los abogados de OpenAI. Pero Russell ha criticado durante mucho tiempo la dinámica de la carrera armamentista creada por laboratorios remotos en todo el mundo que compiten por ser los primeros en lograr AGI, y ha pedido a los gobiernos que regulen más estrictamente este campo.
Los abogados de OpenAI dedicaron tiempo a interrogar al Sr. Russell y establecieron que no evaluó directamente la estructura corporativa de la organización ni las políticas de seguridad específicas.
evento de crisis tecnológica
San Francisco, California
|
13-15 de octubre de 2026
Pero este periodista (así como el juez y el jurado) sopesará cuánto peso hay que poner entre la codicia corporativa y las preocupaciones sobre la seguridad de la IA. Prácticamente todos los fundadores de OpenAI advirtieron apasionadamente sobre los riesgos de la IA y al mismo tiempo enfatizaron sus beneficios, intentaron desarrollar la IA lo más rápido posible y desarrollaron planes para una empresa comercial centrada en la IA que ellos controlarían.
Mirando desde fuera, el problema obvio aquí es que ha habido un creciente reconocimiento dentro de la empresa desde que se fundó OpenAI de que las organizaciones simplemente necesitan más gasto en informática para tener éxito. Esa financiación sólo puede provenir de inversores comerciales. Temiendo que AGI cayera en manos de una sola organización, el equipo fundador buscó capital y finalmente desintegró el equipo, creando la carrera armamentista que conocemos hoy y llevándonos a esta demanda.
La misma dinámica ya se está desarrollando a nivel nacional, con el impulso del senador Bernie Sanders para que se legisle una moratoria a la construcción de centros de datos, haciéndose eco de las preocupaciones sobre la IA expresadas por Elon Musk, Sam Altman, Jeffrey Hinton y otros. Hodan Omar, que trabaja en el Centro para la Innovación de Datos, un grupo industrial, discrepó con Sanders citando miedo en lugar de esperanza, y le dijo a TechCrunch: «No está claro por qué el público debería descartar todo lo que dice un multimillonario tecnológico, a menos que puedas reunir sus palabras para llenar los vacíos en un debate peligroso».
Ahora, ambas partes en el caso están pidiendo al tribunal que tome en serio algunas partes de los argumentos de Altman y Musk, pero ignore partes que no aportan mucho al argumento legal.
Corrección: El artículo se actualizó para corregir el nombre de Stuart Russell, profesor de informática en la Universidad de California, Berkeley.
Si compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta la independencia editorial.
Source link
