La ciudad de San Francisco ha ordenado a Apple y Google que eliminen de sus tiendas de aplicaciones docenas de aplicaciones de «nudificación» (programas de software que manipulan digitalmente fotografías para desnudar a la persona que aparece en ellas).
La ley de California penaliza cualquier actividad que «facilite a sabiendas» o «ayude o incite imprudentemente» a la producción de pornografía deepfake sin consentimiento. En 2025, California también aprobó una ley que permite a las víctimas presentar demandas civiles contra terceros intermediarios de dichos materiales. A pesar de estas conocidas regulaciones, ambas empresas de tecnología continúan organizando programas de este tipo y generando ingresos, dijo la ciudad.
«Apple y Google se benefician de aplicaciones que explotan a mujeres y niñas al producir deepfakes íntimos no consensuados», dijo el fiscal de la ciudad de San Francisco, David Chiu, en un comunicado enviado por correo electrónico a TechCrunch. «Si bien ambas empresas están rompiendo vínculos con algunas aplicaciones problemáticas, Apple y Google tienen la responsabilidad de ser proactivos y estar atentos a la prevención del abuso sexual».
Una carta de la oficina de Chiu a Google y Apple, vista por TechCrunch, dice que las empresas «han sido alertadas durante casi un año» sobre su papel en el «procesamiento de pagos por compras ilegales» y, sin embargo, continúan haciéndolo.
Se ha advertido repetidamente a las empresas que alojan estas aplicaciones, según la carta. En enero y abril, el Tech Transparency Project también publicó informes y envió cartas a ambas empresas, señalando que había «docenas de aplicaciones» en sus tiendas de aplicaciones que «vendían NCII (imágenes íntimas no consensuales) deepfake a cambio de un pago», y que ambas empresas «vendían NCII (imágenes íntimas no consensuales) deepfake a cambio de un pago».
El informe de abril de TTP dijo que Google y Apple «guiaron» intencionalmente a los usuarios hacia dichas aplicaciones, calificando a las empresas como «participantes clave en la proliferación de herramientas de inteligencia artificial que pueden transformar personas reales en imágenes sexualizadas».
Además, Chiu le dijo a Wired que ambas compañías probablemente ganaron «millones de dólares en tarifas» con las aplicaciones que ofrecen estos servicios.
La carta de la oficina de Chiu advierte a Apple y Google que podrían enfrentar sanciones civiles por violar la ley y les pide que se comuniquen con la ciudad dentro de los 28 días.
TechCrunch se ha puesto en contacto con Apple y Google para hacer comentarios.
La pornografía deepfake es principalmente un problema entre las celebridades femeninas, pero cualquier persona con una foto pública puede ser atacada mediante aplicaciones de desnudez.
Si compra a través de enlaces en nuestros artículos, es posible que ganemos una pequeña comisión. Esto no afecta la independencia editorial.
Source link
