La palabra «recursión» es la última palabra de moda en el mundo de la IA. Dos startups distintas se han hecho cargo del nombre y muchas más están empezando a mencionar la superación personal recursiva (RSI) en sus hojas de ruta. Al igual que AGI antes, RSI se ha convertido en un sinónimo de tres letras del catastrófico despegue de la IA. Aunque todavía hay cierto desacuerdo sobre qué significa exactamente eso.
Básicamente, RSI se refiere a un sistema de inteligencia artificial que puede actualizarse continuamente. A medida que los sistemas de IA se vuelven más capaces que los humanos para gestionar los ciclos de actualización, el proceso se vuelve de circuito cerrado, limitado únicamente por la potencia computacional a la que tienen acceso, y los humanos se vuelven innecesarios o inútiles.
Aterradora o no, esta es una visión que muchos laboratorios de IA están persiguiendo apasionadamente.
A principios de este mes, el renombrado investigador de IA Richard Socher lanzó la acertadamente denominada SuperInteligencia Recursiva, que tiene el RSI como su objetivo explícito. «Nuestro objetivo principal es construir una superinteligencia a escala verdaderamente recursiva y automejorable», dijo Sorcher a TechCrunch en el lanzamiento. «Esto significa que todo el proceso de ideación, implementación y validación de ideas de investigación será automatizado».
Muchos otros investigadores destacados ya están persiguiendo el mismo objetivo, con la esperanza de lograr avances que permitan la superación personal recursiva.
Uno de los más destacados es Alex Karpathy, una figura legendaria de Tesla y OpenAI. Utiliza una flota de agentes para capacitar a los LLM en tareas simples en un proyecto que llama Auto-Research. Karpathy ha sido inusualmente abierto sobre el proyecto, tuiteando regularmente sobre los hitos y haciendo que los componentes básicos estén disponibles a través de un repositorio público de GitHub. Hasta ahora, la investigación se ha limitado en gran medida a realizar pequeñas mejoras en el modelo a escala GPT-2, como dijo Karpathy en marzo: «Esta no es (todavía) una ‘investigación’ novedosa e innovadora», pero fue suficiente para convencer a muchos otros investigadores de seguir el sueño de RSI. Y con Karpathy trabajando actualmente en capacitación previa en Anthropic, habrá muchas oportunidades para aplicar esta idea a mayor escala.
Adaption, fundada por Cohere y la ex alumna de Google Sara Hooker, lanzó recientemente una herramienta similar llamada AutoScientist en un esfuerzo por automatizar el entrenamiento de frontera. Al igual que el Investigador Automatizado de Karpathy, el sistema entrena a los agentes para que realicen mejoras incrementales, pero el objetivo de Adaption es facilitar el entrenamiento de modelos de frontera completos. Si los mismos investigadores comienzan a ampliar esa frontera, este sistema pronto podría parecerse mucho al RSI.
La fundadora de Disarray, Doris Xin, llamó la atención de RSI más específicamente cuando su agente autodidacta de aprendizaje automático ganó 28 medallas en una competencia reciente de Kaggle, superando a muchos agentes entrenados por humanos. El gran desafío, afirma, es la fiabilidad.
«Dada la informática infinita y los horizontes temporales infinitos, yo diría que ya estamos allí», me dijo Xin. «Yo diría que esto no es un esfuerzo creativo. Es sólo ingeniería de carne y patatas».
aún no ha llegado
También hay mucha evidencia de que la industria de la IA no está tan cerca de los sistemas recursivos en ningún sentido significativo. Y sigue comprometido a informar a un público cauteloso sobre su progreso. Así que el CEO de Google, Sundar Pichai, básicamente lo admitió en una entrevista reciente en un podcast.
«Esto es algo que está en marcha y definitivamente todos estamos logrando avances», afirmó Pichai. «Pero la forma en que la gente describe el RSI significa el siguiente nivel de aceleración y tendrá un gran impacto. Pero aún no hemos llegado a ese punto».
Pero este continuo incluye muchos sistemas de IA que se mejoran a sí mismos. En enero, uno de los programadores principales de Anthropic, Claude Code, estimó que «casi el 100%» del código del equipo fue escrito por la herramienta. Esta es una admisión franca de que el Código Claude se estaba escribiendo literalmente a sí mismo.
El hecho de que los ingenieros estén utilizando herramientas de inteligencia artificial no significa que las herramientas puedan reemplazarlas. Pero Anthropic también parece estar cada vez más cerca de reemplazar a los ingenieros. En una encuesta reciente relacionada con la vista previa de Mythos, 5 de 18 ingenieros de Anthropic creen que con las mejoras en el arnés, esta versión de Mythos pronto podría reemplazar a los ingenieros L4, programadores de nivel medio que pueden trabajar en proyectos complejos sin supervisión.
Aún así, tenía algunas de las mismas debilidades que cabría esperar.
«Las principales debilidades de Claude reportadas en comparación con L4 incluyen la autogestión de tareas ambiguas en el transcurso de una semana, la comprensión de las prioridades organizacionales, las preferencias, la validación, el seguimiento de instrucciones y la epistemología», dice el informe.
En otras palabras, su debilidad tiene que ver con la autodirección, que es la base del RSI. Pero ciertamente, cuando se trata de otras cosas, Claude está dispuesto a intervenir en cualquier momento.
Al igual que el término anterior AGI, la industria de la IA tampoco sabe qué tan lejos está de mostrar sistemas recursivos significativos. Cuando el Centro de Seguridad y Tecnologías Emergentes de Georgetown reunió a un grupo de expertos el año pasado para estudiar el RSI, el grupo descubrió que había grandes diferencias en la evaluación. Algunos predijeron una inminente explosión del tipo «superinteligencia», mientras que otros predijeron un progreso lento y una eventual meseta. Sin embargo, todos estuvieron de acuerdo en que la recursividad hace que predecir el futuro sea particularmente difícil.
Helen Toner, directora de CSET y ex miembro de la junta directiva de OpenAI, dijo a TechCrunch que el simple uso de una herramienta de inteligencia artificial para realizar investigaciones de inteligencia artificial no es suficiente para calificar como RSI. «Simplemente están aprovechando la IA tanto como sea posible», dijo Toner a TechCrunch. «Y creo que eso es diferente de la definición clásica de RSI, que es que en realidad no se necesitan humanos».
Toner señala una publicación reciente de Aiya Kotla de METR que distingue los diversos hitos que llevaron a la toma de control de la investigación de IA. Un paso, que Kotla llama «adecuación», llegaría cuando el sistema pudiera realizar investigaciones incluso después de que todos los humanos fueran eliminados, incluso si la investigación resultante fuera menos valiosa o eficiente. La “equivalencia” ocurre cuando un sistema exclusivamente de IA es tan bueno en investigación como un sistema exclusivamente humano. La etapa final, la “superioridad”, ocurre cuando un sistema exclusivamente de IA supera a un sistema colaborativo entre humanos e IA.
En última instancia, concluye Cotra, la IA está muy cerca del umbral de suficiencia para poder producir algunos resultados por sí sola, similar a los cambios incrementales realizados por el sistema de investigación automatizado de Karpathy. «No me sorprendería en absoluto que me dijeran que este hito ya se ha superado. Espero que sea en los próximos años», escribió Kotla.
Ella dice que no está tan claro cuándo se logrará la igualdad, pero cree que «aceleraría significativamente el ritmo del progreso de la IA y daría ventaja a la investigación de la IA durante el próximo año».
baches en el camino
Dado que muchas IA se basan en leyes de escala, existe una fuerte tendencia a pensar que el RSI sigue la misma curva. Toner cree que muchas de las personas que están avanzando en la investigación y el desarrollo de la IA a través de RSI «piensan en RSI como una escalera muy suave que pueden seguir escalando».
Pero incluso si los investigadores de IA fueran capaces de realizar mejoras incrementales como los investigadores automatizados de Karpathy, habría desafíos aún mayores a la hora de hacerse cargo de todo el proceso de investigación. Toner explica esto en términos de la historia de la informática. Esto significa que cada vez se han delegado más procesos y los humanos dirigen las cosas desde arriba.
«Hemos pasado del lenguaje de máquina al lenguaje ensamblador y a los lenguajes compilados. Nos estamos alejando cada vez más de la esencia de las computadoras», dice Toner. «Pero en cierto sentido intuitivo, los humanos todavía están al mando».
Ir más allá de ese paradigma requerirá desafíos importantes tanto en ingeniería como en coordinación. Pero incluso con grandes inversiones, la informática no está disponible indefinidamente, y será difícil superar el equilibrio fundamental entre el trabajo humano y la inteligencia de las máquinas.
¿Qué tal una visión apocalíptica de un sistema de IA totalmente recursivo? En lo único en lo que básicamente están de acuerdo los investigadores es en que, al igual que AGI, todavía no es una realidad.
Si compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta la independencia editorial.
Source link
