El sistema SynthID de Google se utilizó para desacreditar una imagen falsa de alto perfil generada por IA, lo que marcó una victoria poco común pero importante para el sistema.
A principios de esta semana, aparecieron en línea fotografías que parecían mostrar al senador de Kentucky Mitch McConnell con un dolor extremo y cubierto de tubos en una cama de hospital. La imagen fue ampliamente compartida en Reddit y X, pero el miércoles, el respetado sitio de verificación de datos Snopes había desacreditado la imagen, señalando que cuando se revisó, se registró que la imagen contenía la marca de agua SynthID, diseñada por Google para identificar imágenes generadas por IA.
En otras palabras, las marcas de agua funcionaron como se esperaba en la victoria de la tecnología anti-deepfake.
La salud del senador McConnell ha sido objeto de intensas especulaciones desde que fue hospitalizado tras una llamada de emergencia el 14 de junio. Desde entonces, ha desaparecido en gran medida de la vista del público, lo que generó especulaciones de que su salud podría estar deteriorándose. Sin embargo, en este caso, la evidencia resultó ser completamente inventada.
Anunciado en la Conferencia de desarrolladores de E/S 2025 de Google, SynthID actúa como una firma invisible que es visible para el algoritmo SynthID pero diseñada para ser invisible para los observadores casuales. La firma está integrada en la imagen misma, por lo que incluso si la imagen se captura en pantalla en múltiples plataformas, como la imagen de McConnell, la firma permanece.
La principal limitación de SynthID es que sólo se puede utilizar si la herramienta de generación de imágenes es un participante activo en el programa. Los modelos Gemini han incluido una marca de agua desde el inicio del programa en 2025. OpenAI se unió en mayo de 2026 como parte de un esfuerzo más amplio para combatir la generación de imágenes maliciosas. Anthropic no participa en el programa.
Los usuarios pueden verificar si una imagen contiene una marca de agua consultando el modelo Gemini o cargando la imagen en la herramienta pública de verificación de imágenes de OpenAI.
Source link
