El Papa León XIV publicó el lunes su primera encíclica. El libro, titulado Magnifica Humanitas, trata sobre la protección de los humanos en la era de la inteligencia artificial. Y si bien la IA es el gancho, los problemas en los que se centra Leo son más antiguos y están más extendidos. La desigualdad, la guerra, la erosión de la democracia y la concentración del poder en manos de personas a las que no necesariamente les importa si la humanidad sigue siendo grande.
A lo largo del documento de 200 páginas presentado por el Papa junto con Chris Oler, cofundador de la empresa de inteligencia artificial Anthropic, Leo sostiene que la tecnología construida y controlada por una pequeña élite no sirve, por definición, al bien público.
«Cuando ese poder se concentra en manos de unos pocos, se vuelve opaco y tiende a escapar del escrutinio público, lo que aumenta el riesgo de formas distorsionadas de desarrollo que crean nuevas dependencias, exclusiones, manipulaciones y desigualdades», escribe.
“De hecho, como cualquier cambio tecnológico importante, la IA tiende a amplificar el poder de quienes ya tienen recursos económicos, experiencia y acceso a datos”, continúa la encíclica, destacando la preocupación de que las élites puedan usar ese poder para “dar forma a patrones de información y consumo, influir en los procesos democráticos y orientar la dinámica económica a su favor”.
La encíclica se emitió días después de que el presidente Donald Trump, a instancias del inversor de capital de riesgo y ex zar de la IA de la Casa Blanca, David Sachs, retrasara la firma de una orden ejecutiva sobre IA que habría dado al gobierno supervisión antes de que se lanzaran nuevos modelos.
El Papa León pidió que AI se guíe por «estándares claros y una supervisión eficaz» arraigada en la participación de las comunidades afectadas por ella. Más específicamente, Leo pidió el fin de la carrera armamentista de la IA, alentando a las empresas y países a construir «algoritmos cada vez más potentes y conjuntos de datos más grandes» que, en su opinión, «asegurarán una ventaja geopolítica o comercial».
«El desarme significa desacreditar la suposición de que el poder tecnológico confiere automáticamente gobernancia», escribió.
Una vez más, estas dinámicas son anteriores a la IA. Papa Leo Consideremos la adquisición de Twitter por parte de Elon Musk y su despliegue de la plataforma para ayudar a elegir a Trump, o los cientos de millones de dólares que fluyen de las elites tecnológicas a los súper PAC para bloquear la regulación de la IA, patrones que claramente inspiraron el trabajo de León XIV.
El Papa llegó a una conclusión a la que muchos ya han llegado. Dicho esto, los poderes y capacidades surrealistas de la IA actual hacen que haya mucho más en juego.
Paolo Carozza, profesor de la Facultad de Derecho de Notre Dame, miembro de la Academia Pontificia de Ciencias Sociales y presidente de la Comisión de Meta-Monitoreo, dijo a TechCrunch que la desinformación impulsada por la IA y los deepfakes están «erosionando nuestra capacidad de saber qué es verdad y qué no, y eso realmente está impactando la política democrática». Añadió que la «recopilación y manipulación» de datos humanos en la industria tecnológica plantea «desafíos fundamentales para la libertad cognitiva».
Si compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta la independencia editorial.
Source link
