Discord ha admitido que prohibió accidentalmente a más de 8.000 usuarios en los últimos dos meses debido a un error en su sistema de moderación de IA después de que imágenes inocuas como hojas de cálculo, tableros de ajedrez, texturas de juegos y fondos transparentes blancos y grises fueran marcadas incorrectamente como contenido dañino.
La compañía confirmó que el problema ha estado afectando a las cuentas desde mayo y que prohibió a 200 usuarios adicionales durante el fin de semana hasta que su equipo identificó y solucionó el problema. Todas las cuentas afectadas se están restaurando actualmente.
El incidente pone de relieve uno de los crecientes desafíos que rodean la moderación asistida por IA, ya que muchas plataformas dependen cada vez más de sistemas automatizados para identificar contenido ilegal o fraudulento a escala.
En un hilo detallado sobre X, Discord explicó que su sistema de seguridad automatizado funciona comparando el contenido cargado con una base de datos de sustancias peligrosas conocidas. Si bien la tecnología está diseñada para detectar contenido ilegal, la empresa reconoció que pueden ocurrir falsos positivos. Los moderadores humanos revisaron el contenido, pero el error provocó que el sistema prohibiera inmediatamente las cuentas afectadas.
«Estamos trabajando en mejores medidas de seguridad para evitar que algo como esto vuelva a suceder», afirmó la empresa.
Nuestros sistemas marcan el contenido contra material dañino conocido. Este tipo de coincidencia de similitud puede generar falsos positivos, por lo que los miembros de nuestro equipo de Confianza y Seguridad siempre revisan el contenido marcado antes de tomar cualquier medida.
El comportamiento previsto es…
– Soporte de Discord (@discord_support) 7 de julio de 2026
En X y Reddit, los usuarios afirman haber sido suspendidos permanentemente simplemente por cargar una imagen que contiene un patrón de cuadrícula cuadrada. Algunos usuarios han especulado que las herramientas de moderación de IA de Discord se están volviendo cada vez más sensibles a patrones similares a cuadrículas. Esto se debe a que estas herramientas se han utilizado anteriormente en intentos de ocultar o disfrazar contenido NSFW y de explotación infantil de los sistemas de detección automatizados.
Los usuarios afectados han expresado su descontento en las redes sociales, y algunos argumentan que una prohibición permanente de la cuenta basada únicamente en la detección automática podría tener consecuencias graves, especialmente para los usuarios que dependen de Discord para trabajar, comunidades de juegos y conexiones sociales de larga distancia.
«Perder una cuenta de Discord por algo injusto como esto es extremadamente devastador y puede afectar gravemente a los usuarios, y millones de usuarios se ven afectados por prohibiciones erróneas de IA todos los días. Esto debe terminar», escribió un usuario de X.
Mi cuenta fue prohibida injustamente en su plataforma porque un error en AI automod detectó las texturas de mi juego como CSAM. Soy director de juegos y uso Discord para todas las comunicaciones, por lo que necesito recuperar mi cuenta. Solicité una revisión de la suspensión. @discord @discord_support pic.twitter.com/QfAkCIJo6S
– JDBRYANT 🎂 HOY (@jdbryantdev) 4 de julio de 2026
Discord no es el único que enfrenta problemas de moderación con los sistemas automatizados. El año pasado, los usuarios de grupos de Instagram y Facebook informaron suspensiones generalizadas e inexplicables que muchos creían que eran causadas por sistemas de moderación de IA. Los usuarios señalaron la automatización como una causa probable, pero Meta nunca confirmó oficialmente si el culpable era un error de IA. Ahora, el comité de supervisión de Meta pide más transparencia.
Tumblr también enfrentó quejas el año pasado de usuarios que dijeron que sus cuentas estaban siendo suspendidas en masa sin una explicación clara.
Si compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta la independencia editorial.
