Un día de noviembre, la estratega de producto Michelle (nombre ficticio) inició sesión en su cuenta de LinkedIn y cambió su género a masculino. Ella le dijo a TechCrunch que también cambió su nombre a Michael.
Estaba participando en un experimento llamado #WearthePants, donde las mujeres probaron la hipótesis de que el nuevo algoritmo de LinkedIn estaba sesgado contra las mujeres.
Desde hace varios meses, algunos usuarios habituales de LinkedIn se quejan de una caída en el compromiso y las impresiones en la red social orientada a la carrera. Esto se produce después de que el vicepresidente de ingeniería de la compañía, Tim Jarka, dijera en agosto que la plataforma había implementado «muy recientemente» LLM para mostrar contenido que sea útil para los usuarios.
Michelle, cuya identidad fue revelada por TechCrunch, se mostró escéptica ante el cambio porque tiene más de 10.000 seguidores y escribe publicaciones fantasma en nombre de su marido, que sólo tiene unos 2.000 seguidores. Sin embargo, dijo que aunque tiene más seguidores, ella y su esposo tienden a obtener aproximadamente la misma cantidad de impresiones de publicaciones.
«La única variable que importaba era el género», dijo.
La fundadora Marilyn Joyner también cambió el género en su perfil. Lleva dos años publicando constantemente en LinkedIn, pero en los últimos meses ha notado una disminución en la visibilidad de sus publicaciones. «Cuando cambié el género de mi perfil de femenino a masculino, vi un aumento del 238% en las impresiones en un día», dijo a TechCrunch.
Megan Cornish informó resultados similares, al igual que Rosie Taylor, Jessica Doyle Mekkes, Abby Nydam, Felicity Menzies, Lucy Ferguson y otras.
evento de crisis tecnológica
san francisco
|
13-15 de octubre de 2026
LinkedIn dijo que sus «algoritmos y sistemas de inteligencia artificial no utilizan información demográfica, como edad, raza o género, como señales para determinar la visibilidad del contenido, perfiles o publicaciones en un feed», y que «una instantánea de actualizaciones únicas del feed que no son completamente representativas o de alcance comparable no implica automáticamente un trato injusto o sesgo en un feed».
Los expertos en algoritmos sociales coinciden en que, si bien puede haber un sesgo implícito en juego, el sexismo explícito puede no ser el culpable.
El consultor de ética de datos Brandeis Marshall dijo a TechCrunch que una plataforma es una «sinfonía compleja de algoritmos que simultáneamente y continuamente accionan ciertas palancas matemáticas y sociales».
«Cambiar su foto de perfil y su nombre es sólo una de esas medidas», dijo, y agregó que el algoritmo también está influenciado, por ejemplo, por cómo los usuarios consumen e interactúan actualmente con otros contenidos.
«Lo que no sabemos es todas las otras palancas que utiliza este algoritmo para priorizar el contenido de una persona sobre el contenido de otra. Este es un tema más complejo de lo que la gente cree», dijo Marshall.
hermano codificado
El experimento #WearthePants comenzó con dos emprendedoras: Cindy Gallop y Jane Evans.
Querían saber si el género era la razón por la que tantas mujeres sentían menos compromiso, por lo que pidieron a dos hombres que crearan y publicaran el mismo contenido que ellas. Tanto Gallop como Evans tenían un número considerable de seguidores, con más de 150.000 seguidores combinados, en comparación con los aproximadamente 9.400 de los dos en ese momento.
Según un informe de Gallup, su publicación llegó a solo 801 personas, mientras que un hombre que publicó exactamente el mismo mensaje llegó a 10,408 personas, más del 100% de sus seguidores. Más tarde se unieron también otras mujeres. Algunos, como Joyner, que utiliza LinkedIn para promocionar su negocio, están preocupados.
«Me encantaría que LinkedIn fuera responsable de cualquier sesgo que pueda existir dentro de sus algoritmos», dijo Joyner.
Sin embargo, LinkedIn, al igual que otras plataformas de búsqueda y redes sociales dependientes de LLM, proporciona pocos detalles sobre cómo se entrenaron sus modelos de selección de contenido.
Marshall dijo que la mayoría de estas plataformas tienen una «perspectiva inherentemente blanca, masculina y centrada en Occidente» debido a quién entrenó a los modelos. Los investigadores encontraron evidencia de prejuicios humanos, como el sexismo y el racismo, en modelos comunes de LLM. Esto se debe a que los modelos se entrenan con contenido generado por humanos y los humanos a menudo participan directamente en el aprendizaje posterior al entrenamiento y en el aprendizaje de refuerzo.
Aún así, la forma en que las empresas individuales implementan los sistemas de IA está envuelta en un secreto algorítmico de caja negra.
LinkedIn dice que el experimento #WearthePants no logró demostrar el sesgo de género contra las mujeres. La declaración de Jurka de agosto fue compartida por Sakshi Jain, jefe de gobernanza e inteligencia artificial responsable de LinkedIn, quien dijo en otra publicación en noviembre que los sistemas de la compañía no utilizan información demográfica como señal de visibilidad.
En cambio, LinkedIn le dijo a TechCrunch que está probando millones de publicaciones para conectar a los usuarios con oportunidades. La compañía le dijo a TechCrunch que solo usa los datos demográficos para pruebas como «ver si las publicaciones de diferentes creadores compiten en pie de igualdad y la experiencia de desplazamiento que se ve en el feed es consistente entre los espectadores».
LinkedIn es conocido por investigar y ajustar sus algoritmos para brindar una experiencia menos sesgada a sus usuarios.
Marshall dijo que una variable desconocida probablemente explica por qué algunas mujeres vieron un aumento en las impresiones después de cambiar el género de su perfil a masculino. Por ejemplo, participar en tendencias virales puede generar una mayor participación. Algunas cuentas no habían publicado durante un tiempo y es posible que el algoritmo las haya recompensado por sus publicaciones.
El tono y el estilo de escritura también pueden influir. Por ejemplo, Michelle dijo que durante la semana que publicó como «Michael», cambió ligeramente su tono y escribió en un estilo más simple y directo, tal como lo hizo con su esposo. En ese tiempo, la cantidad de impresiones aumentó en un 200% y la cantidad de interacciones aumentó en un 27%, dijo.
Concluyó que el sistema no era «obviamente sexista», pero parecía creer que los estilos de comunicación comúnmente asociados con las mujeres eran «sustitutos de la devaluación».
Se cree que el estilo de escritura estereotipado masculino es más conciso, mientras que el estilo de escritura estereotipado femenino se imagina más suave y emocional. Cuando los LLM están capacitados para promover la escritura que se ajuste a los estereotipos masculinos, se trata de un sesgo implícito sutil. Y, como informamos anteriormente, los investigadores determinaron que la mayoría de los LLM están llenos de ellos.
Sarah Dean, profesora asistente de informática en la Universidad de Cornell, dijo que plataformas como LinkedIn suelen utilizar el perfil completo de un usuario, además de su comportamiento, para decidir qué contenido promocionar. Esto incluye los trabajos en el perfil de un usuario y los tipos de contenido con los que normalmente interactúa.
«La demografía de una persona puede afectar ‘ambos lados’ del algoritmo: lo que ve y quién ve sus publicaciones», dijo Dean.
LinkedIn le dijo a TechCrunch que su sistema de inteligencia artificial examina cientos de señales para determinar qué enviarle a un usuario (incluida información del perfil, la red y la actividad de esa persona).
«Realizamos pruebas continuas para comprender qué ayuda a las personas a encontrar el contenido más relevante y oportuno para sus carreras», dijo el portavoz. «El comportamiento de los miembros también da forma al feed, determinando en qué hacen clic los usuarios, guardan y cambian cada día, así como qué formatos les gustan y no les gustan. Este comportamiento también da forma naturalmente a lo que ven en el feed, junto con nuestras actualizaciones».
Chad Johnson, un profesional de ventas en LinkedIn, explicó que este cambio quitará prioridad a los me gusta, los comentarios y las publicaciones. Al sistema LLM «ya no le importa la frecuencia de publicación ni la hora del día», escribió Johnson en la publicación. «Lo que importa es si su escritura demuestra comprensión, claridad y valor».
Todo esto dificulta determinar la causa real de los resultados de #WearthePants.
la gente simplemente odia los algoritmos
Sin embargo, parece que a muchas personas, independientemente de su género, no les gusta o no entienden el nuevo algoritmo de LinkedIn.
El científico de datos Shailvi Wakhulu dijo a TechCrunch que ha promediado al menos una publicación por día durante cinco años y que una vez vio miles de impresiones. Ahora, ella y su marido tienen suerte de ver cientos de ellos. «Para los creadores de contenido con un gran número de seguidores leales, esto es desalentador», afirma.
Un hombre le dijo a TechCrunch que la participación se ha reducido aproximadamente un 50% en los últimos meses. Aún así, otro hombre dijo que las impresiones y el alcance de su publicación aumentaron en más del 100% durante un período similar. «Esto se debe principalmente a que escribo sobre temas específicos para audiencias específicas, y ahí es donde se beneficia el nuevo algoritmo», dijo a TechCrunch, añadiendo que sus clientes están viendo un aumento similar.
Pero según la experiencia de Marshall, como persona negra, cree que las publicaciones sobre sus experiencias funcionan peor que las publicaciones relacionadas con su raza. «Si las mujeres negras sólo interactúan cuando hablan de mujeres negras, pero no cuando hablan de su experiencia particular, eso es sesgo», dice.
El investigador Dean cree que el algoritmo puede estar simplemente amplificando «todas las señales que ya están ahí». Una publicación en particular puede ser recompensada no por la demografía del escritor, sino porque tiene un historial más largo de respuesta en todas las plataformas. Es posible que Marshall haya encontrado otras áreas de sesgo implícito, pero su evidencia anecdótica no es suficiente para determinarlo con certeza.
LinkedIn proporcionó información sobre lo que funciona bien actualmente. Según la empresa, la base de usuarios se ha ampliado, lo que ha dado como resultado un aumento del 15% en el número de publicaciones y un aumento del 24% en el número de comentarios en comparación con el año anterior. «Esto significa una mayor competencia en el sector de los piensos», afirmó la empresa. Las publicaciones sobre conocimientos profesionales, lecciones profesionales, noticias y análisis de la industria y contenido educativo e informativo sobre el trabajo, los negocios y la economía obtienen buenos resultados, dijo.
Más bien, la gente simplemente está confundida. «Quiero transparencia», dice Michelle.
Sin embargo, esto es un gran problema porque los algoritmos de selección de contenidos siempre han sido secretos celosamente guardados por las empresas, y la transparencia puede conducir a la explotación del secreto. Nunca es satisfactorio.
Source link
