Las autoridades indonesias anunciaron el sábado que estaban bloqueando temporalmente el acceso al chatbot Grok de xAI.
Esta es una de las medidas más agresivas hasta el momento por parte de las autoridades gubernamentales en respuesta a la avalancha de imágenes sexuales generadas por IA (a menudo que representan mujeres y menores reales, y a veces muestran agresiones y abusos) publicadas por Grok en respuesta a solicitudes de los usuarios de la red social X (X y xAI son parte de la misma empresa).
«El gobierno considera la práctica de deepfakes sexuales no consensuales como una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital», dijo Meutiya Hafid, Ministra de Comunicaciones y Digital de Indonesia, en una declaración compartida con The Guardian y otras publicaciones.
Según se informa, el ministerio también convocó a un funcionario X para discutir el asunto.
Varias acciones gubernamentales durante la semana pasada, incluida la orden del Ministerio de TI de la India a xAI de tomar medidas para impedir que Grok produzca contenido obsceno, y la Comisión Europea ordenando a xAI preservar todos los documentos relacionados con Grok, podrían sentar las bases para una investigación.
En el Reino Unido, el regulador de comunicaciones Ofcom dijo que «llevaría a cabo una evaluación rápida para determinar si existen posibles problemas de cumplimiento que valga la pena investigar». El primer ministro Keir Starmer afirmó en una entrevista que Ofcom tenía «pleno apoyo para actuar».
Y aunque la administración Trump parece guardar silencio sobre el tema en Estados Unidos (el director ejecutivo de xAI, Elon Musk, es un importante donante de Trump y el año pasado dirigió el controvertido Departamento de Eficiencia Gubernamental), los senadores demócratas están pidiendo a Apple y Google que eliminen X de sus tiendas de aplicaciones.
evento de crisis tecnológica
san francisco
|
13-15 de octubre de 2026
xAI inicialmente respondió publicando una disculpa aparentemente en primera persona en su cuenta de Grok, reconociendo que la publicación «violó los estándares éticos y potencialmente la ley estadounidense» con respecto a su contenido sobre el abuso sexual infantil. La función de generación de imágenes con IA se limitó entonces a los suscriptores pagos de X, pero esa restricción no pareció afectar a la aplicación Grok en sí, que aún permitía a cualquiera generar imágenes.
«Quieren una excusa para censurar», escribió Musk en respuesta a una publicación en la que se preguntaba por qué el gobierno del Reino Unido no ha tomado medidas contra otras herramientas de generación de imágenes de IA.
Source link
