El fácil acceso a potentes modelos de lenguaje a gran escala (LLM) ha hecho que a los delincuentes les resulte más fácil que nunca difundir spam en Internet. Si ha pasado al menos 10 minutos en Internet durante los últimos años, sabrá que el spam y el contenido de bots son un problema aún mayor de lo que solía ser.
Reddit ha desarrollado herramientas que utilizan LLM para reducir el spam, pero afirma que gran parte del spam se creó con LLM en primer lugar. Irónicamente, en la era de la IA, las plataformas sólo pueden combatir el fuego con fuego. Según la plataforma, Reddit bloquea 23 millones de vistas de spam por día y detecta alrededor de 25.000 nuevas publicaciones y comentarios de spam cada día.
Las plataformas sociales han estado creando herramientas automatizadas de reducción de spam durante años y, según Reddit, estas herramientas actualizadas tienen una mayor tasa de detección de spam.
«Aprovechamos el LLM para detectar los patrones más sofisticados y personalizados de comportamiento falso y publicidad artificial que los sistemas más antiguos alguna vez pasaron por alto», dice una publicación de blog de Reddit. La empresa afirma que redujo la exposición de los usuarios al spam en un 20% de enero a marzo en comparación con los tres meses anteriores.
Plataformas como YouTube, Meta e Instagram permiten a los usuarios publicar contenido generado por IA siempre que lo publiquen. TikTok permite a los usuarios alternar la cantidad de contenido generado por IA que desean ver.
Si las plataformas pueden detectar más rápidamente el contenido generado por IA, eso también significa que podrán denunciar más rápidamente el contenido infractor, como el discurso de odio. Pero los expertos en plataformas siempre nos han recordado que la moderación del contenido de la IA debe combinarse con la moderación humana para obtener resultados más efectivos.
Source link
