Pregunta rápida: ¿Le gustaría que una IA estuviera tan bien entrenada que pudiera ayudar a un esposo (o esposa) a planificar el asesinato perfecto de su cónyuge? La reacción intuitiva parece un no. No pensé que fuera una pregunta particularmente difícil.
Pero hay muchas perspectivas diversas en Estados Unidos, y una de esas perspectivas fue compartida durante el fin de semana por el fundador de Comma AI y fugitivo de la cárcel desde hace mucho tiempo, George Hotz.
Esta publicación es una respuesta a una serie de planes de colaboración de IA a gran escala, más recientemente el documento de política «AI 2040: Plan A» del AI Futures Project. El documento imagina un mundo en el que los investigadores de todo el mundo optan colectivamente por retrasar el desarrollo de la IA durante 14 años en beneficio de la humanidad. Pero, por supuesto, no todos los que lean este artículo estarán de acuerdo con sus premisas o conclusiones.
Hotze, miembro de la campaña, no está de acuerdo. En su artículo, sostiene que el escenario del despegue rápido (la hipótesis de que la IA adquiere rápidamente habilidades sobrehumanas) no tiene mucho sentido. ¡Estoy de acuerdo con mucho de lo que dice aquí! Para Hotz, el mejor enfoque para la coordinación y la seguridad de la IA es centrarse en modelos de IA controlados localmente que se alineen estrechamente con los intereses de los usuarios.
Esta es una gran idea. En particular, es un recordatorio de cuánto de la IA actual se basa en servicios administrados centralmente como Claude y ChatGPT. Hay razones relacionadas con la infraestructura para esta evolución de los servicios de IA. Alojar estos modelos grandes y de vanguardia es costoso y la mayoría de las personas no los usan lo suficiente durante el día como para justificar una IA verdaderamente personal. Pero a medida que la tecnología se desarrolla, esos factores se vuelven menos importantes. Una de las cosas más interesantes de OpenClaw es este enfoque experimental de bricolaje, y es genial ver más productos de IA intentando recuperar eso.
Pero Hotz es un provocador por naturaleza, así que no se queda ahí. Compara la IA personalizada con un arma que no se queja (!) cuando la usas para matar a tu madrastra. (¿Pero creo que hay otras reglas para esto?) Una IA verdaderamente sintonizada podría pedir un dispositivo de laboratorio de metanfetamina de Amazon Prime y enseñarte cómo usarlo si eso es lo que quieres y buscas, dice. (Nuevamente, no creo que la IA sea el factor limitante aquí). Hotze incluso dice que arriesgaría su vida para defender este principio, pero es difícil imaginar la cadena de eventos que conducirían a eso.
«O vivimos en un mundo con libertad o no», escribe Hotz. Si existe esa opción, un mundo de libertad parece mejor. Aún así, no lo entiendo.
No todo es cuestión de libertad, ¿verdad? Las estructuras que involucran a muchas personas (sociedad, mercados, empresas, etc.) requieren un equilibrio de justicia y la vinculación de las necesidades individuales a redes de preferencias y sistemas de responsabilidad interdependientes. Y cualquiera que implemente un producto de alta tecnología para el mercado masivo probablemente necesite pensar en toda esa red. Eso significa considerar seriamente los intereses de los cónyuges y suegros que no fueron asesinados en todo el mundo.
La libertad que experimenta Hotz es en realidad un espacio de futuros posibles hechos posibles gracias a la empresa colectiva. Si todos empezamos a actuar como pequeños Napoleones impulsados por IA, esos futuros desaparecerán de la noche a la mañana. Como dice el meme, vivimos en una sociedad.
Seguro que suena genial que la IA local esté dispuesta a enfrentarse al mundo empresarial para mi beneficio. No puedo esperar a la unidad de revisión.
Si compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta la independencia editorial.
Source link
