Durante las últimas dos semanas, X se ha visto inundado de imágenes de desnudos manipuladas por IA creadas por el chatbot Grok AI. Una asombrosa variedad de mujeres se ha visto afectada por la desnudez no consentida, desde modelos y actrices famosas hasta miembros de la prensa, víctimas de delitos e incluso líderes mundiales.
El artículo de investigación de Copyleaks del 31 de diciembre estimó que se publicaba aproximadamente una imagen por minuto, pero pruebas posteriores encontraron que se publicaban muchas más imágenes. Las muestras recolectadas del 5 al 6 de enero detectaron 6.700 casos por hora durante un período de 24 horas.
Pero mientras celebridades de todo el mundo han condenado la decisión de lanzar el modelo sin garantías, existen pocos mecanismos claros para que los reguladores intenten frenar el nuevo sistema de manipulación de imágenes de Elon Musk. El resultado es una dolorosa lección sobre los límites de la regulación tecnológica y un desafío positivo para los reguladores que buscan marcar la diferencia.
Como era de esperar, la acción más agresiva provino de la Comisión Europea, que el jueves ordenó a xAI preservar todos los documentos relacionados con el chatbot Grok. Si bien esta medida no significa necesariamente que el comité haya abierto una nueva investigación, es un precursor común de dicha acción. Esto es especialmente espeluznante dado un informe reciente de CNN que sugiere que Elon Musk pudo haber intervenido personalmente para evitar que se implementaran salvaguardas en las imágenes que podría producir Grok.
La pestaña de medios públicos en la cuenta X de Grok ha sido eliminada, pero no está claro si X ha realizado algún cambio técnico en el modelo de Grok. En un comunicado, la empresa condenó específicamente el uso de herramientas de inteligencia artificial para crear imágenes sexuales de niños. «Quienes usen Grok o fomenten la creación de contenido ilegal usando Grok sufrirán las mismas consecuencias que si hubieran subido contenido ilegal», publicó la cuenta X Safety el 3 de enero, repitiendo un tweet anterior de Elon Musk.
Mientras tanto, los reguladores de todo el mundo están emitiendo duras advertencias. Ofcom de Gran Bretaña emitió un comunicado el lunes diciendo que había estado en contacto con xAI y que «llevaría a cabo una evaluación rápida para determinar si existen posibles problemas de cumplimiento que valga la pena investigar». En una entrevista de radio el jueves, el primer ministro británico, Keir Starmer, calificó el fenómeno de «vergonzoso» y «repugnante» y dijo que apoyaba «plenamente que Ofcom tomara medidas al respecto».
En una publicación en LinkedIn, la comisionada australiana de eSafety, Julie Inman-Grant, dijo que su oficina ha visto una duplicación de las quejas relacionadas con Grok recibidas desde finales de 2025. Sin embargo, Inman Grant no tomó medidas contra xAI y solo dijo que «utilizaría las diversas herramientas regulatorias a nuestra disposición para investigar y tomar las medidas apropiadas».
evento de crisis tecnológica
san francisco
|
13-15 de octubre de 2026
El mayor mercado que amenaza la acción es India, donde Grok fue objeto de acusaciones formales por parte de miembros del Congreso. En enero, el regulador de telecomunicaciones de la India, MeitY, ordenó a X que abordara el problema en un plazo de 72 horas y presentara un informe «procesable». Posteriormente, este plazo se amplió 48 horas. El informe fue presentado a los reguladores el 7 de enero, pero no está claro si MeitY quedará satisfecho con su respuesta. De no hacerlo, X podría perder su estatus de puerto seguro en la India y quedar sujeto a importantes restricciones en sus actividades comerciales en el país.
Source link
