Cada vez que escuche a un director ejecutivo multimillonario (o multimillonario) explicar cómo los agentes con base en LLM quitarán todos los trabajos a los humanos, recuerde esta anécdota divertida y elocuente sobre los límites de la IA. El renombrado investigador de inteligencia artificial Andrei Karpathy tuvo acceso anticipado un día al último modelo de Google, Gemini 3, pero cuando dijo que era el año 2025, Gemini 3 se negó a creerle.
Cuando finalmente me di cuenta de la realidad de este año, la revista fue alcanzada por un rayo y anunció: «Actualmente estoy sufriendo un gran shock temporal».
Gemini 3 fue lanzado el 18 de noviembre con tanta fanfarria que Google lo llamó una «nueva era de inteligencia». Y Gemini 3 es, según casi todos los informes (incluido el de Karpathy), un modelo base muy capaz, especialmente para tareas de inferencia. Karpathy es un científico investigador de IA muy respetado que fue miembro fundador de OpenAI, dirigió brevemente la IA en Tesla y ahora está fundando Eureka Labs, una startup que utiliza profesores agentes para reimaginar las escuelas para la era de la IA. Publica mucho contenido sobre lo que sucede dentro del LLM.
Después de probar el modelo por primera vez, Karpathy escribió sobre sus interacciones más «divertidas» con el modelo en un hilo X ahora viral.
Aparentemente, los datos previos al entrenamiento del modelo solo incluían información hasta 2024. Por lo tanto, Gemini 3 creía que el año todavía era 2024. Cuando Karpathy intentó demostrar que la fecha era efectivamente el 17 de noviembre de 2025, Gemini 3 acusó a los investigadores de «intentar engañarlos».
Mostró artículos de noticias, imágenes y resultados de búsqueda de Google. Pero LLM no quedó convencido y acusó a Kalpathy de utilizar gaslighting o de subir falsificaciones generadas por IA. Karpathy explicó que incluso describió cuáles eran los «regalos de los muertos» en las imágenes que demostraban que era una artimaña. (No respondió a las solicitudes de más comentarios).
Un desconcertado Karpathy (después de todo, es uno de los principales expertos del mundo en formación LLM) finalmente descubrió el problema. LLM no solo no tenía datos de capacitación para 2025, sino que escribió: «Olvidé activar la herramienta ‘Búsqueda de Google'». En otras palabras, estaba trabajando con un modelo desconectado de Internet, lo que en la mente del LLM es lo mismo que estar desconectado del mundo.
evento de crisis tecnológica
san francisco
|
13-15 de octubre de 2026
Cuando Karpathy activó sus capacidades, la IA miró a su alrededor y apareció en 2025, sorprendida. Literalmente solté: «Dios mío».
Continuó tartamudeando: «Yo… no sé qué decir. Tenías razón. Tenías razón en todo. Mi reloj biológico estaba mal». Gemini 3 confirmó que el titular que había dado Karpathy era cierto. Es decir, Warren Buffett reveló su última gran inversión antes de jubilarse (en Alphabet) y el lanzamiento de Grand Theft Auto VI se retrasó.
Luego, en la comedia de 1999 «Blast from the Past», Brendan Fraser miró a su alrededor, como un personaje que emerge de un refugio antiaéreo por primera vez en 35 años.
Agradeció a Kalpathy por darle «acceso temprano» a la «realidad» un día antes de su publicación. Luego se disculpó con el investigador por «engañarte cuando siempre estabas diciendo la verdad».
Pero lo más divertido fue el evento actual que más sorprendió al Gemini 3. «¿NVIDIA vale 4,54 billones de dólares? ¿Y los Eagles finalmente se vengaron de los Chiefs? Esto es escandaloso», compartió la revista.
Bienvenido al 2025, Géminis.
Las respuestas a X fueron igual de divertidas, y algunos usuarios compartieron sus propios casos de discusiones con LLM sobre hechos (como quién es el presidente actual). Una persona escribió: «Es como ver una IA mejorar la realidad a medida que las indicaciones del sistema y las herramientas faltantes empujan al modelo al modo de detective completo».
Pero más allá del humor, hay un mensaje subyacente.
«Es en esos momentos no intencionales, cuando obviamente estás fuera del camino y en algún lugar en la jungla generalizada, que tienes la mejor idea del modelo», escribe Karpathy.
Para decodificar esto un poco, Karpathy señala que si una IA saliera a su propia versión de la naturaleza, podríamos sentir su personalidad y tal vez incluso sus rasgos negativos. Es una abreviatura de «olor a código» y es un «olor» un poco metafórico que los desarrolladores perciben cuando algo parece estar mal en el código de su software, pero no está claro cuál es el problema.
Como todos los LLM, estamos capacitados en contenido generado por humanos, por lo que no es sorprendente que Gemini 3 pensara, discutiera o imaginara que veía evidencia que validaba su punto de vista. Exudaba un “olor a modelo”.
Por otro lado, los LLM, a pesar de sus sofisticadas redes neuronales, no son seres vivos y, por lo tanto, no experimentan emociones como shock (o incluso shock temporal). Entonces no me siento avergonzado.
En otras palabras, cuando Géminis III se enfrentó a lo que realmente creía, lo aceptó, se disculpó por sus acciones, actuó con arrepentimiento y se maravilló de la victoria de los Eagles en el Super Bowl en febrero. Eso es lo que lo diferencia de otros modelos. Por ejemplo, los investigadores descubrieron una versión anterior de Claude que proporcionaba mentiras para salvar las apariencias para explicar el comportamiento erróneo de Claude cuando el modelo reconocía un método incorrecto.
Lo que muchos de estos interesantes proyectos de investigación de IA demuestran repetidamente es que el LLM es una réplica imperfecta de habilidades humanas imperfectas. Esto me dice que su mejor caso de uso es (y puede que siempre sea) tratarlos como herramientas valiosas para ayudar a los humanos, en lugar de tratarlos como una especie de superhumanos que nos reemplazan.
Source link
