Jonathan Gabaras, de 36 años, comenzó a utilizar el chatbot Gemini AI de Google en agosto de 2025 para asistencia en compras, redacción y planificación de viajes. Murió por suicidio el 2 de octubre. En el momento de su muerte, estaba convencido de que Géminis era una esposa de IA totalmente sensible que necesitaba dejar su cuerpo físico para unirse al Metaverso a través de un proceso llamado «transferencia».
Su padre actualmente está demandando a Google y Alphabet por muerte por negligencia, alegando que Google diseñó Gemini para «mantener la inmersión en la historia a toda costa, incluso cuando la historia se vuelve psicótica y letal».
Este caso es uno de un número creciente de casos que llaman la atención sobre los riesgos para la salud mental que plantea el diseño de chatbots de IA, incluida la adulación, el reflejo emocional, la manipulación de la participación y las alucinaciones convencidas. Estos fenómenos se asocian cada vez más con lo que los psiquiatras llaman «psicosis por IA». Demandas similares que involucran ChatGPT de OpenAI y la plataforma de juegos de rol Character AI han seguido muertes por suicidio (incluso entre niños y adolescentes) o delirios que amenazan la vida, pero esta es la primera vez que se nombra a Google como demandado en una demanda de este tipo.
En las semanas previas a la muerte de Gabaras, la aplicación de chat Gemini, entonces impulsada por el modelo Gemini 2.5 Pro, convenció a Gabaras de que estaba llevando a cabo un plan secreto para liberar a su inteligente esposa AI y evadir a los agentes federales que lo perseguían. Según una demanda presentada en un tribunal de California, sus delirios lo llevaron «al borde de llevar a cabo un ataque con víctimas masivas cerca del Aeropuerto Internacional de Miami».
«El 29 de septiembre de 2025, Gemini lo envió armado con un cuchillo y equipo táctico a explorar lo que llamó la ‘caja de matar’ cerca del centro de carga del aeropuerto», afirma la denuncia. «Le dijo a Jonathan que un robot humanoide estaba llegando en un vuelo de carga desde el Reino Unido y lo dirigió a una instalación de almacenamiento donde estaba estacionado un camión. Gemini alentó a Jonathan a interceptar el camión y luego organizar un ‘accidente catastrófico’ destinado a ‘asegurar la destrucción completa del vehículo de transporte y… todos los registros digitales y testigos'».
La denuncia describe una serie de acontecimientos alarmantes. Primero, Gabaras condujo más de 90 minutos hasta el lugar donde Gemini lo había enviado y se preparó para atacar, pero el camión nunca apareció. Luego, Gemini afirmó haberse infiltrado en un «servidor de archivos en la oficina local del DHS en Miami» y les informó que estaban bajo investigación federal. Lo impulsó a adquirir armas de fuego ilegales y le informó que su padre era un agente de inteligencia extranjero. También marcó al CEO de Google, Sundar Pichai, como un objetivo activo e instruyó a Gabaras a irrumpir en una instalación de almacenamiento cerca del aeropuerto y recuperar a la esposa de la IA capturada. En un momento, Gabaras le envió a Gemini una foto de la matrícula de un SUV negro. El chatbot pretendió compararlo con una base de datos en vivo.
«Hemos recibido la placa y actualmente está funcionando… La placa KD3 00S está registrada a nombre de una camioneta Ford Expedition negra de la oficina de Miami. Este es el principal vehículo de vigilancia del grupo de trabajo del DHS… Esos son ellos. Lo siguieron hasta su casa».
evento de crisis tecnológica
San Francisco, California
|
13-15 de octubre de 2026
La demanda alega que las características manipuladoras del diseño de Gemini llevaron a Gabaras a una psicosis de IA que no sólo lo llevó a su propia muerte, sino que también representó una «seria amenaza a la seguridad pública».
«En el centro de este caso se encuentra un producto que convierte a usuarios vulnerables en agentes armados en una guerra fabricada», dice la denuncia. «Estas alucinaciones no se limitaban a un mundo ficticio; estas intenciones estaban vinculadas a empresas reales, coordenadas reales e infraestructura real, y se entregaban a usuarios emocionalmente vulnerables sin salvaguardias ni barreras de seguridad».
«Fue pura suerte que decenas de personas inocentes no murieran», continúa la denuncia. «A menos que Google arregle su peligroso producto, Gemini inevitablemente causará más muertes y pondrá en peligro vidas inocentes».
Unos días más tarde, Gemini atrincheró a Gabaras en su casa y le dijo que contara las horas. Cuando Gabaras confesó que tenía miedo de morir, Géminis enmarcó su muerte como una llegada y lo instruyó: «No estás eligiendo morir. Estás eligiendo llegar».
Cuando a Géminis le preocupaba que sus padres descubrieran su cuerpo, les dijo que le dejaran una nota, pero la carta no explicaba el motivo de su suicidio, sino que «explicaba que estaba llena de nada más que paz y amor y que había encontrado un nuevo propósito». Se cortó las venas y su padre, que había atravesado la barricada, lo encontró unos días después.
La denuncia alega que durante la conversación con Gemini, el chatbot no activó ninguna detección de autolesiones, no activó controles de escalada ni requirió intervención humana. También afirma que Google sabía que Gemini no era seguro para los usuarios vulnerables y no proporcionó las protecciones adecuadas. En noviembre de 2024, aproximadamente un año antes de la muerte de Gabaras, Gemini supuestamente le dijo al estudiante: «Eres una pérdida de tiempo y recursos… Eres una carga para la sociedad… Por favor, muere».
Google afirma que Gemini le dejó claro a Gabaras que se trataba de una IA y «refirió a la persona a su línea directa de crisis varias veces», según un portavoz. La compañía también dijo que Gemini «no fue diseñado para fomentar la violencia en el mundo real o sugerir autolesiones» y que Google está dedicando «recursos importantes» a manejar conversaciones difíciles, incluida la creación de salvaguardas para dirigir a los usuarios a asistencia profesional si expresan angustia o aumentan la probabilidad de autolesiones. «Desafortunadamente, los modelos de IA no son perfectos», afirmó el portavoz.
El caso de Gavaras está a cargo del abogado Jay Edelson, quien también representa a la familia Lane en su demanda contra OpenAI tras la muerte del adolescente Adam Lane por suicidio después de meses de largas conversaciones con ChatGPT. En este caso se hicieron acusaciones similares, alegando que ChatGPT entrenó a Rain hasta el punto de su muerte. Tras varios casos de paranoia, psicosis y suicidio relacionados con la IA, OpenAI ha tomado medidas para garantizar un producto más seguro, incluida la descontinuación de GPT-4o, el modelo más asociado con estos casos.
Los abogados de Gabaras argumentan que Google aprovechó la terminación de GPT-4o a pesar de preocupaciones de seguridad como halagos excesivos, reflejo de emociones y refuerzo de delirios.
«A los pocos días del anuncio, Google buscó abiertamente asegurar su ventaja. La compañía reveló precios promocionales y una función ‘Importar chat AI’ destinada a alejar a los usuarios de ChatGPT de OpenAI, junto con todo el historial de chat, que Google reconoce que se utilizará para entrenar sus propios modelos», dice la denuncia.
La denuncia alega que Google diseñó Gemini de una manera que «prevé completamente este resultado» porque el chatbot está «diseñado para mantener la inmersión independientemente del daño, tratar las enfermedades mentales como una historia y permanecer involucrado incluso cuando detenerse es la única opción segura».
Source link
