El director ejecutivo de OpenAI, Sam Altman, anunció en una publicación el martes que la compañía pronto aliviará algunas de las restricciones de seguridad de ChatGPT, permitiendo a los usuarios hacer que las respuestas del chatbot sean más amigables o más «humanas» y permitiendo que «adultos verificados» participen en conversaciones eróticas.
«Para ser conscientes de los problemas de salud mental, hemos hecho que ChatGPT sea bastante restrictivo. Reconocemos que esto ha hecho que ChatGPT sea menos útil y agradable para muchos usuarios que no tienen problemas de salud mental, pero dada la gravedad del problema, queríamos hacerlo bien», dijo Altman. «En diciembre, implementaremos restricciones de edad más completas y permitiremos más cosas, incluida la erótica para adultos certificada, como parte de nuestro principio de ‘tratar a los usuarios adultos como adultos'».
El anuncio marca un punto de inflexión notable en el esfuerzo de meses de OpenAI para abordar las preocupantes relaciones que algunos usuarios mentalmente inestables han desarrollado con ChatGPT. Altman parece estar declarando una victoria temprana sobre estos problemas, afirmando que OpenAI ha podido «mitigar los graves problemas de salud mental» asociados con ChatGPT. Sin embargo, la compañía ha proporcionado poca o ninguna evidencia de esto y actualmente está avanzando con planes para que ChatGPT participe en chats sexuales con usuarios.
Este verano han surgido varias historias preocupantes con respecto a ChatGPT, específicamente su modelo GPT-4o, lo que sugiere que los chatbots de IA podrían llevar a los usuarios vulnerables a madrigueras paranoicas. En un caso, ChatGPT parece haber convencido a un hombre de que era un genio de las matemáticas que necesitaba salvar el mundo. En otro caso, los padres de un adolescente demandaron a OpenAI, acusando a ChatGPT de contribuir a los pensamientos suicidas de su hijo en las semanas previas a su muerte.
En respuesta, OpenAI ha lanzado una serie de características de seguridad para abordar la complacencia de la IA, la tendencia de los chatbots de IA a enganchar a los usuarios al aceptar lo que dicen, incluso las acciones negativas.
OpenAI anunció GPT-5 en agosto. Se trata de un nuevo modelo de IA con un enrutador que tiene una tasa de perfil baja y puede identificar problemas de comportamiento del usuario. Un mes después, OpenAI lanzó funciones de seguridad para menores, incluido un sistema de predicción de edad y una forma para que los padres administren las cuentas ChatGPT de sus adolescentes. OpenAI anunció el martes la creación de un consejo de expertos en salud mental para asesorar a la empresa sobre bienestar e inteligencia artificial.
Apenas unos meses después de que surgieran estas preocupantes historias, OpenAI parece creer que los problemas de ChatGPT con los usuarios vulnerables están bajo control. No está claro si los usuarios continúan cayendo en la madriguera paranoica con GPT-5. Aunque GPT-4o ya no es el predeterminado en ChatGPT, el modelo de IA todavía está disponible y es utilizado por miles de personas.
evento de crisis tecnológica
san francisco
|
27-29 de octubre de 2025
La introducción del erotismo en ChatGPT es un territorio inexplorado para OpenAI, lo que genera preocupaciones más amplias sobre cómo los usuarios vulnerables interactuarán con la nueva función. Altman afirma que OpenAI no está «maximizando el uso» ni optimizando la participación, pero hacer que ChatGPT sea más erótico ciertamente podría atraer a los usuarios.
Permitir que los chatbots participen en juegos de roles románticos o eróticos ha sido una estrategia de participación eficaz para otros proveedores de chatbots de IA, como Character.AI. La empresa tiene decenas de millones de usuarios, muchos de los cuales utilizan chatbots con frecuencia. Character.AI anunció en 2023 que los usuarios pasaban una media de dos horas al día hablando con su chatbot. La empresa también enfrenta demandas por cómo maneja a los usuarios vulnerables.
OpenAI está bajo presión para hacer crecer su base de usuarios. Si bien ChatGPT ya es utilizado por 800 millones de usuarios activos semanales, OpenAI está compitiendo con Google y Meta para crear productos de consumo impulsados por IA que serán adoptados masivamente. La compañía también ha recaudado miles de millones de dólares para construir infraestructura histórica, una inversión que OpenAI eventualmente tendrá que reembolsar.
Si bien los adultos ciertamente tienen relaciones románticas con los chatbots de IA, también son muy populares entre los menores. Un nuevo informe del Centro para la Tecnología Democrática encontró que el 19% de los estudiantes de secundaria han tenido una relación romántica con un chatbot de IA o conocen a un amigo que la ha tenido.
Altman dice que OpenAI pronto permitirá el contenido erótico para «adultos verificados». Un portavoz de OpenAI le dijo a TechCrunch que la compañía utilizará un sistema de predicción de edad que está creando para garantizar que las funciones eróticas de ChatGPT solo estén disponibles para usuarios adultos.
Como escribió Altman en una publicación de blog anterior, si el sistema de predicción de edad de OpenAI marca incorrectamente a un adulto como menor, es posible que los usuarios de ChatGPT tengan que cargar una foto de su identificación emitida por el gobierno en ChatGPT para corregirlo. Altman escribió que si bien esto es una invasión de la privacidad, la compañía cree que es una «compensación digna».
No está claro si OpenAI expandirá el erotismo a herramientas de generación de audio, imágenes y videos de IA.
Altman afirma que OpenAI está haciendo que ChatGPT sea más amigable y erótico debido al principio de la compañía de «tratar a los usuarios adultos como adultos». El año pasado, OpenAI adoptó una estrategia de moderación de contenido más indulgente para ChatGPT, lo que hizo que el chatbot fuera más indulgente y ofreciera menos rechazos. En febrero, OpenAI prometió expresar más puntos de vista políticos en ChatGPT, y en marzo actualizó ChatGPT para incluir imágenes de símbolos de odio generadas por IA.
Estas políticas parecen ser un intento de hacer que las respuestas de ChatGPT sean más populares entre una variedad de usuarios. Sin embargo, los usuarios vulnerables de ChatGPT pueden beneficiarse de medidas de seguridad que limitan con qué pueden interactuar los chatbots. A medida que OpenAI avanza hacia mil millones de usuarios activos semanales, la tensión entre el crecimiento y la protección de los usuarios vulnerables podría volverse aún más intensa.
Actualizado el 14/10/25 a las 4:40 p.m. PT: esta historia se actualizó con comentarios de OpenAI.
Source link
