A principios de esta semana, la Oficina del Fiscal General de California anunció que estaba investigando a xAI por informes de que su chatbot Grok estaba siendo utilizado para crear imágenes sexuales no consensuadas de mujeres y menores. El viernes, el gobierno envió una carta de cese y desistimiento a la empresa, exigiendo que deje de producir CSAM, que contiene imágenes íntimas no consentidas y material de abuso sexual infantil.
«Hoy envié una carta de cese y desistimiento a xAI, exigiendo que la compañía deje inmediatamente de producir y distribuir deepfakes, imágenes íntimas no consensuadas y material de abuso sexual infantil», dijo el fiscal general de California, Rob Bonta, en un comunicado de prensa. «La producción de este material es ilegal. Espero que xAI cumpla de inmediato. California tiene tolerancia cero con (CSAM)».
La oficina del fiscal general afirmó además que xAI parece estar facilitando la «producción a gran escala» de desnudos no consensuados, que se «utilizan para acosar a mujeres y niñas en Internet». La agencia dijo que espera que xAI demuestre que está tomando medidas para abordar estos problemas en los próximos cinco días.
En el centro de la reacción está la función del modo «picante» de Grok, que xAI creó para generar contenido explícito. Este problema se extiende más allá de California. Japón, Canadá y el Reino Unido han iniciado investigaciones sobre Grok, mientras que Malasia e Indonesia han bloqueado temporalmente la plataforma por completo. Aunque xAI impuso algunas restricciones a sus capacidades de edición de imágenes el miércoles por la noche, la oficina del fiscal general de California siguió adelante con la carta de cese y desistimiento.
La cuenta de seguridad de X condenó previamente este tipo de actividad de los usuarios, diciendo: «Aquellos que usen Grok o fomenten la creación de contenido ilegal sufrirán las mismas consecuencias que si hubieran subido contenido ilegal». Cuando TechCrunch se acercó a xAI para hacer comentarios, recibió un correo electrónico automático que decía «mentiras de los medios heredados». TC también se comunicó con la oficina del fiscal general de California para obtener más información.
La llegada de herramientas gratuitas de inteligencia artificial generativa ha provocado un aumento alarmante del contenido sexual no consensuado. Muchas plataformas, no sólo X, están trabajando en este tema. Esta actividad cobarde ha llamado la atención de los líderes estatales y del Congreso. De hecho, el jueves, los legisladores enviaron una carta a ejecutivos de varias empresas, incluidas X, Reddit, Snap, TikTok, Alphabet y Meta, preguntándoles cómo planean detener la propagación de deepfakes sexuales.
Source link
