En los últimos días, Francia y Malasia se han unido a la India para acusar a Grok de crear falsificaciones sexuales de mujeres y menores.
El chatbot, creado por xAI, la startup de inteligencia artificial de Elon Musk, y presentado en su plataforma de redes sociales X, publicó una disculpa en su cuenta a principios de esta semana, escribiendo: «Lamentamos profundamente el incidente del 28 de diciembre de 2025, cuando generamos y compartimos una imagen de inteligencia artificial de dos niñas (de edades estimadas entre 12 y 16 años) vestidas con atuendo sexual según las indicaciones de los usuarios».
La declaración continúa: «Esto violó los estándares éticos y podría haber violado la ley estadounidense con respecto a[el contenido de abuso sexual infantil]. Esto fue una falla en las salvaguardias y nos disculpamos por el daño causado. xAI está revisando esto para evitar problemas futuros».
No está claro quién realmente se disculpa o admite su responsabilidad en la declaración anterior. Albert Barneko, de Defector, señaló que Grok «no es realmente ‘yo'» y dijo que la disculpa sería «totalmente vacía» en su opinión porque «no se puede responsabilizar a Glok de ninguna manera significativa por convertir Twitter en una fábrica de CSAM bajo demanda».
Futurism descubrió que además de generar imágenes pornográficas no consensuadas, Grok también se utilizaba para generar imágenes de mujeres agredidas y abusadas sexualmente.
«Aquellos que utilicen Grok para crear contenido ilegal sufrirán las mismas consecuencias que si subieran contenido ilegal», publicó Musk el sábado.
Algunos gobiernos también han tomado nota, y el Ministerio de TI de la India ordenó el viernes a Grok que tomara medidas para restringirle la producción de contenido «obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo o prohibido por la ley». La orden establece que X debe responder dentro de las 72 horas o corre el riesgo de perder su protección de «puerto seguro» de responsabilidad por el contenido generado por el usuario.
evento de crisis tecnológica
san francisco
|
13-15 de octubre de 2026
Las autoridades francesas también han dicho que están tomando medidas, y la fiscalía de París le dijo a Politico que investigará la prevalencia de deepfakes sexualmente explícitos sobre X. La Agencia de Asuntos Digitales de Francia dijo que tres ministros del gobierno habían informado «contenido claramente ilegal» a la fiscalía y a la plataforma de monitoreo en línea del gobierno «para su eliminación inmediata».
La Comisión de Comunicaciones y Multimedia de Malasia también emitió una declaración diciendo que «toma con grave preocupación las quejas del público sobre el uso indebido de herramientas de inteligencia artificial (IA) en la plataforma X, particularmente la manipulación digital de imágenes de mujeres y menores para crear contenido obsceno, extremadamente ofensivo y de otro modo dañino».
La comisión añadió: «Actualmente estamos investigando el daño en línea causado por X».
Source link
