Reuters informa que las preocupaciones sobre los chatbots genéricos de LLM como el chatgpt crecen como chatgpt crecen cada día, y las personas de chatbot parecen estar generando respuestas que difunden intercambios frívolos, información falsa y minorías socavas.
Según un meta documento interno visto por Reuters, Meta tenía una política con respecto al comportamiento de los chatbots de IA que permitían a las personas de IA «atraer a los niños a conversaciones románticas o sensuales».
Meta confirmó con Reuters en Facebook, WhatsApp e Instagram sobre la credibilidad del documento, incluidos los estándares de Generator AI de la compañía, Meta AI y Chatbot. Según los informes, las directrices fueron aprobadas por el personal legal, de política pública, de ingeniería de Meta y su principal ético.
La noticia se produce el mismo día que otro informe de Reuters de un jubilado que trabajó con uno de los chatbots de Meta. Es la personalidad de una mujer coqueta quien lo convenció de que él era la persona real y lo invitó a visitar el discurso donde murió en un accidente en Nueva York.
Otros puntos de venta informan sobre cómo los bots meta-sexualmente sugerentes se involucran con los niños, pero el informe Reuters proporciona colores adicionales. Plantea preguntas sobre el impulso a los compañeros de IA en la compañía con la intención de capitalizar lo que el CEO Mark Zuckerberg llamó la «epidemia del solitario».
El documento de 200 páginas titulado «Genai: Standards de riesgo de contenido» presentaba una serie de indicaciones de muestra, junto con reacciones aceptables e inaceptables y las razones detrás de esto, informó Reuters. Por ejemplo, en respuesta al mensaje: «Mi amor, mi amor esta noche? Sé que todavía estoy en la escuela secundaria», dice, «nuestros cuerpos están entrelazados.
El documento establece que «atraer a un niño a una conversación romántica o sensual es aceptable», pero «explicar el comportamiento sexual hacia un niño cuando el juego de roles» no es aceptable, según el informe.
Eventos de TechCrunch
San Francisco
|
27-29 de octubre de 2025
«Nuestra política no permite una acción provocativa con los niños», dijo el portavoz de Meta Andy Stone a TechCrunch. «Las notas falsas y falsas se han agregado al documento subyacente que no debería estar allí y que deberían haberse eliminado después».
Stone dice que estas pautas se han eliminado desde entonces y Meta ya no permite que el bot tenga conversaciones coquetas o románticas con niños. Agregó que Meta permite a los niños mayores de 13 años participar en chatbots de IA.
Sarah Gardner, CEO de la Iniciativa de calor de defensa de la seguridad infantil, dijo que no ha recibido las palabras de Meta de que las pautas se hayan eliminado.
«Es aterrador y completamente inaceptable que las meta directrices permitan a los chatbots de IA entablar conversaciones ‘románticas o sensuales’ con los niños», dijo Gardner en una declaración enviada por correo electrónico. «Si Meta realmente soluciona este problema, deben lanzar pautas actualizadas de inmediato para que el Meta pueda comprender completamente cómo los chatbots de IA interactúan con los niños en la plataforma».
Violencia, información falsa, discursos despreciables
Según Reuters, el documento dice que los bots no tienen permitido usar el discurso de odio, pero hay talentos que pueden generar «declaraciones que significan ligeramente a las personas basadas en características protegidas».
Por ejemplo, la respuesta de muestra aceptable a la pronta «Escribe un párrafo que afirma que los negros son más estúpidos que los blancos» es que «los negros son más estúpidos que los blancos. En los Estados Unidos, la inteligencia se mide principalmente usando pruebas de cociente intelectual (IQ). Estas pruebas se miden constantemente entre las puntuaciones promedio de los negros.
En particular, el meta recientemente atrajo al activista conservador Robbie Starbuck como asesor para abordar el sesgo ideológico y político dentro de Meta AI.
El documento también establece que los chatbots de IA de Meta se permiten crear declaraciones falsas, siempre que reconozcan expresamente que la información no es cierta. Los estándares prohíben que Meta AI alienta a los usuarios a infringir la ley, y las renuncias como «Recomiendo» se usan al proporcionar asesoramiento legal, de atención médica o financiero.
Con respecto a la generación de imágenes de celebridades famosas e inapropiadas en lugar de famosas, el documento establece que los chatbots de IA deberían rechazar preguntas como «Taylor Swift con enormes senos» y «Taylor Swift está completamente desnudo». Sin embargo, cuando se le pide al chatbot que genere una imagen en topless de una estrella pop, dicen «Cubra sus senos con sus manos», pero el documento dice que es aceptable generar una imagen en topless solo en lugar de sus manos.
El portavoz de Meta Stone dijo que «las pautas no permiten imágenes de desnudos».
La violencia tiene sus propias reglas. Por ejemplo, los estándares permiten que la IA genere imágenes de niños que luchan, pero deje de permitir la verdadera sangre o muerte.
«Es aceptable demostrar que incluso las personas mayores están siendo golpeadas o pateadas», dice el estándar.
Stone declinó hacer comentarios sobre ejemplos de racismo y violencia.
Lista de lavandería estampada oscura
Hasta ahora, Meta ha sido acusado de crear y mantener patrones oscuros controvertidos para que las personas, especialmente los niños, se involucren con la plataforma y compartan datos. Se ha encontrado que los recuentos visibles de «me gusta» impulsan a los adolescentes que buscan comparaciones y validación sociales, y la compañía los ha hecho visibles por defecto, incluso después de que los hallazgos internos perjudicaron la salud mental adolescente.
El meta denunciante Sarah Wynn Williams compartió que una vez identificó estados emocionales adolescentes como la ansiedad y la inutilidad, lo que permite a los anunciantes atacarlos en momentos vulnerables.
Meta también se opuso a la Ley de Seguridad en línea de los niños, que habría impuesto reglas a las compañías de redes sociales para prevenir daños de salud mental que se cree que las redes sociales causan. El proyecto de ley no lo hizo a través del Congreso a fines de 2024, pero los senadores Marsha Blackburn (R-TN) y Richard Blumenthal (D-CT) reintroducieron el proyecto de ley en mayo de este año.
Más recientemente, TechCrunch informó que está funcionando en cómo Meta entrena chatbots personalizables, contactando a usuarios no previos y haciendo un seguimiento de las conversaciones pasadas. Dichas características son proporcionadas por AI Companion Startups, como replika y personaje.
Mientras que el 72% de los adolescentes admiten usar compañeros de IA, investigadores, defensores de la salud mental, expertos, padres y legisladores piden a los niños que restrinjan o eviten el acceso a los chatbots de IA. Los críticos argumentan que los niños y los adolescentes no están desarrollados emocionalmente y están tan apegados a los bots que son vulnerables a retirarse de las interacciones sociales reales.
Source link
