Meta demandó al fabricante de Crush AI, una popular aplicación de «Nudify» de IA. Además de la demanda, Meta dice que está tomando nuevos pasos para tomar medidas enérgicas contra otras aplicaciones como Crash AI.
En la demanda presentada en Hong Kong, Meta Sospeche la línea de tiempo de Joy, la entidad detrás de Crash AI e intentó eludir el proceso de revisión de la compañía para distribuir anuncios para el servicio de AI Nudify. En una publicación de blog, Meta dijo que los anuncios fueron eliminados repetidamente por la entidad para violar la política, pero afirma que Joy Timeline HK continuó colocando anuncios adicionales de todos modos.
Según el autor de Alexios Mantzarlis de Faked Up Boletter, en las primeras dos semanas de 2025, Crush AI, que utiliza IA generada para formar imágenes falsas explícitas sexualmente de personas reales, sin consentimiento, para el servicio «AI Desorbent» en la plataforma de Meta. En un informe de enero, Mantzarlis afirmó que los sitios web de AI Crush recibieron alrededor del 90% de su tráfico de Facebook o Instagram, y que marcaron algunos de estos sitios web en el meta.
Según los informes, Crush AI elaboró el proceso de revisión de Meta AD al configurar docenas de cuentas de anunciantes y con frecuencia cambiando los nombres de dominio. Según Mantzarlis, muchas de las cuentas de anunciantes de AI FRUST fueron nombradas «Ropa de borrador Annyone» y fueron nombrados números diferentes. En un momento, Crush AI incluso tenía una página de Facebook que promocionaba el servicio.
Facebook e Instagram no son las únicas plataformas para abordar estos desafíos. A medida que las compañías de redes sociales como X y Meta Compiten para agregar IA generada a sus aplicaciones, también luchan por aliviar la forma en que las herramientas de IA hacen que la plataforma sea insegura para los usuarios, especialmente los menores.
Según los informes, los investigadores vieron un aumento en los enlaces a las aplicaciones de desvestir la IA en plataformas como X y Reddit en 2024, y según los informes, a millones de personas se ofrecieron anuncios para tales aplicaciones en YouTube. En respuesta a este creciente problema, Meta y Tiktok han prohibido las búsquedas de palabras clave en la aplicación AI Nudify, pero obtener estos servicios de la plataforma ha demostrado ser totalmente desafiante.
En una publicación de blog, Meta dijo que ha desarrollado una nueva tecnología para identificar específicamente los anuncios de AI nudificar o desnudar «incluso si los anuncios en sí no contienen desnudos». La compañía dijo que actualmente está utilizando tecnología coincidente para ayudarlo a encontrar y eliminar anuncios de imitación más rápidamente, ampliando la lista de términos, frases y emojis marcados por el sistema.
Meta dijo que está aplicando tácticas tradicionalmente utilizadas para destruir redes de malos actores a estas nuevas cuentas que ejecutan anuncios para el servicio AI Nudify. Desde su lanzamiento en 2025, ha interrumpido cuatro redes separadas que promueven estos servicios, según Meta.
Fuera de la aplicación, la compañía dijo que comenzará a compartir información sobre la aplicación AI Nudify a través del programa Lantern de Tech Coalition. Meta dice que ha proporcionado más de 3.800 URL únicas en la red desde marzo.
En el frente legislativo, Mehta dijo que «continúa apoyando leyes que permiten a los padres supervisar y aprobar descargas para adolescentes». La compañía dijo anteriormente que había apoyado a la Ley de Take Ont Trawt de EE. UU. Y actualmente está trabajando con los legisladores para implementarla.
Source link
