Meta anunció hoy que suspenderá temporalmente el acceso de los adolescentes a sus personajes de IA en sus aplicaciones en todo el mundo. La compañía le dijo en exclusiva a TechCrunch que no abandonará sus esfuerzos y quiere desarrollar una versión actualizada de sus personajes de IA para adolescentes.
La medida se produce pocos días antes de que el caso contra Meta vaya a juicio en Nuevo México. La demanda acusa a la empresa de no proteger a los niños de la explotación sexual en sus aplicaciones. Wired informó el jueves que Meta busca limitar los hallazgos sobre el impacto de las redes sociales en la salud mental de los adolescentes.
La compañía presentó una vista previa de los controles parentales para personajes de IA en octubre, lo que permite a los padres y tutores monitorear temas y bloquear el acceso a personajes específicos. Mehta dijo que los padres pueden desactivar completamente el chat con personajes de IA. Se suponía que estas funciones se lanzarían este año, pero la compañía ahora está desactivando completamente los personajes de IA para adolescentes mientras los actualiza a una nueva versión.
Meta dijo que realizó estos cambios después de escuchar a los padres que querían tener más información y control sobre cómo sus hijos adolescentes interactúan con los personajes de IA.
La compañía está tomando medidas enérgicas contra el acceso de los adolescentes al contenido de IA dentro de sus aplicaciones. Meta también lanzó funciones de control parental en Instagram en octubre, centrándose en personalizar la experiencia para los adolescentes que interactúan con la IA en la aplicación. Estas características se inspiraron en las clasificaciones de películas PG-13, que restringían el acceso de los jóvenes a ciertos temas como la violencia extrema, la desnudez y el uso gráfico de drogas.
«En las próximas semanas, los adolescentes ya no tendrán acceso a los personajes de IA en nuestras aplicaciones hasta que la experiencia actualizada esté lista. Esto también se aplica a cualquier persona que cumpla años como adolescente y a cualquier persona que afirmemos que es un adulto pero que sospechemos que es un adolescente según nuestra tecnología de predicción de edad», dijo la compañía en una publicación de blog actualizada.
Meta agregó que se incluirán controles parentales al implementar nuevos personajes de IA. La compañía dijo que los nuevos personajes tendrán reacciones apropiadas para su edad y se centrarán en temas como educación, deportes y pasatiempos.
Las empresas de redes sociales están bajo un intenso escrutinio por parte de los reguladores. Aparte de la demanda antes mencionada en Nuevo México, Meta irá a juicio la próxima semana acusado de que la plataforma causa adicción a las redes sociales. Se espera que el director ejecutivo Mark Zuckerberg suba al estrado como testigo en el caso una vez que comience el juicio.
Más allá de las plataformas sociales, las empresas de inteligencia artificial también se ven obligadas a cambiar sus experiencias con los adolescentes después de enfrentar demandas por promover la autolesión. En octubre, Character.AI, una startup que permite a los usuarios chatear con varios avatares de IA, prohibió a los usuarios menores de 18 años tener conversaciones sin restricciones con chatbots. En noviembre, la startup anunció que crearía historias interactivas para niños. En los últimos meses, OpenAI agregó nuevas reglas de seguridad para adolescentes a ChatGPT y comenzó a predecir la edad de un usuario para imponer restricciones de contenido.
Corrección: esta publicación se actualizó para aclarar que cuando se lance una nueva versión del personaje de IA, será accesible para todos, no solo para los adolescentes. Esto incluye controles parentales.
Source link
