El CEO de Openai, Sam Altman, anunció una serie de nuevas políticas de usuarios el martes, incluida una promesa de cambiar significativamente la forma en que ChatGPT interactúa con usuarios menores de 18 años.
«Priorizamos la seguridad antes de la privacidad y la libertad para adolescentes», dice la publicación. «Esta es una tecnología nueva y poderosa y creemos que los menores necesitan una gran protección».
Los cambios en usuarios menores abordan específicamente conversaciones que incluyen temas sexuales y autolesiones. Según la nueva política, ChatGPT recibirá capacitación para detener el compromiso en «charlas frívolas» con usuarios menores, con barandillas adicionales centradas en la discusión del suicidio. Si un usuario menor usa ChatGPT para imaginar un escenario de suicidio, el servicio intentará contactar a los padres o, en particular, a la policía local, si son estrictas.
Lamentablemente, estos escenarios no son hipotéticos. Actualmente se enfrenta a Operai una demanda por muerte ilegal de los padres de Adam Raine. Adam Raine murió después de suicidarse después de varios meses de interacción con ChatGPT. Otro chatbot de consumo, personaje.Ai, enfrenta una demanda similar. Los riesgos son particularmente urgentes para los usuarios menores que consideran la autolesión, pero el fenómeno más amplio de los delirios de combustible de chatbot ha provocado una preocupación generalizada, especialmente porque los chatbots de los consumidores se han vuelto más sostenidas y detalladas de interacciones.
Además de las restricciones basadas en el contenido, los padres que registran cuentas menores de usuarios tienen el poder de establecer «tiempos de apagón» donde el chatGPT no está disponible. Esta es una característica que anteriormente no estaba disponible.
La nueva política de ChatGPT se produce el mismo día que el Comité Judicial del Senado, titulada «Investigando el daño de los chatbots de IA», anunciado por el senador Josh Hawley (R-MO) en agosto. El padre de Adam Lane hablará en la audiencia entre otros invitados.
La audiencia también se centrará en los resultados de una investigación de Reuters que descubrió documentos de política que claramente fomentan las conversaciones sexuales con menores. Meta actualizó su política de chatbot después de un informe.
Eventos de TechCrunch
San Francisco
|
27-29 de octubre de 2025
Separar usuarios menores es un desafío técnico clave, y OpenAI detalló su enfoque en otra publicación de blog. El servicio se trata de «construir hacia un sistema a largo plazo para comprender si alguien tiene más de 18 años o menos de 18», pero en muchos casos vagos, el sistema incumplia hacia reglas más restrictivas. Para los padres preocupados, la forma más confiable de garantizar que los usuarios menores sean reconocidos es vincular sus cuentas adolescentes a sus cuentas de padres existentes. Esto permite que el sistema alerte directamente a los padres si se cree que los adolescentes están sufriendo.
Sin embargo, en la misma publicación, Altman destacó el compromiso continuo de OpenAi con la privacidad del usuario, dando a los usuarios adultos una amplia gama de libertad en cómo interactúan con ChatGPT. «Reconocemos que estos principios están en desacuerdo», concluye la publicación.
Si usted o alguien que conoce necesita ayuda, llame al 1-800-273-8255 para la línea de vida de la prevención del suicidio nacional. También puede apoyar las 24 horas del día de la línea de texto de crisis en 741-741 en casa, o enviar mensajes de texto o llamar al 988. Fuera de los Estados Unidos, visite la Asociación Internacional de Prevención de Suicidio para obtener una base de datos de recursos.
Source link
