Meta utiliza IA para analizar la altura y la estructura ósea para identificar si un usuario es menor de edad

Meta comenzará a usar IA para escanear fotos y videos en busca de pistas visuales para ver si un usuario es menor de 13 años y debe ser eliminado de Facebook o Instagram, anunció la compañía el martes. Estas señales visuales incluyen la altura y la estructura ósea de una persona.

«Para ser claros, esto no es reconocimiento facial», explicó Meta en una publicación de blog. «Nuestra IA analiza temas comunes y pistas visuales, como la altura y la estructura ósea, para estimar la edad general de una persona. No identifica a una persona específica en una imagen. Al combinar estos conocimientos visuales con texto y análisis de interacción, podemos aumentar significativamente la cantidad de cuentas de menores que identificamos y eliminamos».

Mehta dijo que el sistema de análisis visual está actualmente operativo en algunos países, pero que la compañía está trabajando en una implementación más amplia.

Meta dice que el sistema es parte de sus esfuerzos por mantener a los niños menores de 13 años fuera de su plataforma. Estos esfuerzos incluyen el uso de IA para analizar perfiles completos en busca de pistas contextuales, como menciones de celebraciones de cumpleaños o calificaciones escolares. La empresa busca estas señales en una variedad de formatos, incluidas publicaciones, comentarios, perfiles y subtítulos. Meta planea extender esta tecnología a más partes de la aplicación en el futuro, incluidos Instagram Live y Grupos de Facebook.

Si Meta determina que un Usuario puede ser menor de edad, la Cuenta se desactivará y se le pedirá al Usuario que demuestre su edad mediante el proceso de verificación de edad de la Compañía para evitar la eliminación de la cuenta.

El anuncio se produce semanas después de que un jurado de Nuevo México ordenara a Mehta pagar 375 millones de dólares en sanciones civiles por engañar a los consumidores sobre la seguridad de su plataforma y poner en peligro a los niños. También se ordenó a la empresa que implementara cambios fundamentales en su plataforma. Desde entonces, Mehta ha amenazado con cerrar los servicios de redes sociales en el estado.

Vale la pena señalar que esta demanda es una de muchas que Mehta y otras grandes empresas tecnológicas enfrentan por la seguridad infantil.

Meta también anunció el martes que está expandiendo su tecnología en Instagram, que asigna automáticamente a los adolescentes a «cuentas de adolescentes» más estrictas, a 27 países de la Unión Europea y Brasil. Estas cuentas para adolescentes imponen una experiencia de cuenta más estricta a los usuarios con salvaguardias adicionales, como recibir solo mensajes directos de personas que siguen o con las que ya están conectados, ocultar comentarios dañinos y configurar sus cuentas como privadas de forma predeterminada.

Además, Meta anunció que está expandiendo la tecnología a Facebook en los EE. UU. por primera vez, y al Reino Unido y la UE en junio.