León XIV: los algoritmos, la peor amenaza

Comentamos aquí, el 6 de mayo, que el papa León XIV había cumplido su primer año de pontificado sin una encíclica. Ahora ya la tiene: se trata de “Magnifica humanitas”, una carta doctrinal de unas 200 páginas en la que exhorta a que la inteligencia artificial sirva a la humanidad y no al poder de unos pocos, y llama a “desarmarla”, denunciando la “cultura del poder” que esta alienta.

Publicada con motivo del 135o aniversario de la “Rerum novarum”, la encíclica que el 15 de mayo de 1891 León XIII dedicó a la clase obrera frente al impacto del capitalismo industrial, la carta doctrinal de León XIV “sobre la custodia de la persona humana en la era de la inteligencia artificial”, marca las nuevas prioridades del Vaticano, con énfasis no en la pobreza, la economía o la fe, sino en la tecnología. De algún modo, compara la transformación civilizatoria que plantea la IA generativa con la Revolución Industrial de finales del siglo XVIII, en la medida en que la IA está profundizando la subordinación de las personas a la automatización, no sólo del trabajo físico y la producción material, sino también del trabajo mental y de los procesos cognitivos.

Con un título casi filosófico, “Magnífica humanidad” -que trasmite la idea de que el ser humano posee algo extraordinario que merece ser protegido en tanto creación de Dios-, la encíclica, dirigida a los mil 400 millones de católicos del mundo, así como al público en general y a líderes y corporaciones tecnológicas, se inserta en la polémica sobre la IA más allá de lo meramente técnico o empresarial.

El documento de cinco capítulos parte de una premisa: la tecnología no es una “fuerza antagónica respecto a la persona”, ni “un mal en sí misma”. No obstante, “no es neutra, porque asume el rostro de quien la concibe, la financia, la regula y la utiliza”. De ahí el doble riesgo de que la IA cree nuevas desigualdades al estar concentrada en unas pocas manos, y de la manipulación política, moral y cultural de amplias poblaciones, ya que quien controle la automatización y las redes digitales puede imponer “su visión del mundo”.

Lejos de la figura “moderada” con la cual algunos sectores presentaron a León XIV tras ser elegido pontífice luego de la muerte de Francisco en 2025, el excardenal estadounidense-peruano Robert Francis Prevost se proyecta, con esta encíclica frontal contra la oligarquía tecnológica, como un actor espiritual combativo, dispuesto -al igual que León XIII-, a intervenir en la agenda global, al atravesar la IA todos los ámbitos que conciernen hoy a la condición humana: educación, empleo, libertades, geopolítica, industrias militares y guerra.

León XIV, quien alteró el protocolo al presentar personalmente la encíclica el lunes por la mañana en el Vaticano, en el Aula del Sínodo, acompañado de cardenales y profesores, pero también de expertos en alta tecnología como el estadounidense Christopher Olah, cofundador de Anthropic, habló de la economía digital como una “nueva forma de esclavitud” y, como ningún otro Papa, pidió “sinceramente perdón” en nombre de la Iglesia por la larga demora en condenar el tráfico de personas durante la esclavitud.

La encíclica vincula el comercio de esclavos africanos con la IA al plantear que el mundo corre el riesgo de volver a normalizar la explotación de las personas, tanto en la producción de esta tecnología como en sus aplicaciones.

También denuncia el “preocupante resurgimiento de la guerra como instrumento de la política internacional” y sostiene que la IA está contribuyendo a facilitar su “normalización”, no sólo por el tecnicismo de las operaciones bélicas, sino porque cambia la percepción, justificación y administración de la violencia. “Ningún algoritmo puede hacer que la guerra sea moralmente aceptable”, asegura.

“Por este motivo, el desarrollo y el uso de la IA en la guerra deben estar sujetos a las más rigurosas restricciones éticas, para garantizar el respeto a la dignidad humana y la santidad de la vida, y para evitar una carrera por desarrollar tales armas”, escribió el Papa en la encíclica, fruto -según el Vaticano- de una década de reflexión dentro de la Santa Sede y fuera de ella sobre las nuevas tecnologías.

“Desarmar la IA significa liberarla de la mentalidad de competencia ‘armada’. Desarmar no significa rechazar la tecnología, sino impedir que domine a la humanidad”, añadió, que accesible para todos y abierta al debate.

Sentado junto al Papa, Christopher Olah afirmó que la IA no puede quedar únicamente en manos de las empresas tecnológicas y defendió la necesidad de imponer límites a su uso militar; una posición que lo ha enfrentado a la administración de Donald Trump, en momentos en que prácticamente todas las corporaciones estadounidenses de IA colaboran con el Pentágono y con agencias de seguridad nacional de Estados Unidos, principalmente como proveedoras de infraestructura digital, desarrolladoras de IA militar y analistas masivos de datos y de decisiones bélicas aplicadas en los conflictos de Gaza, Irán y otras guerras.

Al advertir que la IA debe ser “desarmada”, liberada de lógicas que la transforman en instrumento de dominio, de exclusión o de muerte, el Papa nacido en Chicago aclaró: “La palabra es fuerte, lo sé, pero ha sido elegida deliberadamente porque este momento exige palabras capaces de captar la atención”.

Según Vatican News, “al igual que ‘el León de antaño’, el papa León XIII, también el ‘León’ de hoy, el papa León XIV, mira hacia las ‘res novae’, esas ‘cosas nuevas’ que desafían al tiempo, a la historia y a la humanidad. Y si en aquella época fue la revolución industrial, con los numerosos y complejos cambios en el mundo del trabajo y las nuevas formas de pobreza impuestas, hoy es la Inteligencia Artificial, con su potencial y sus peligros, la que está ante los ojos y en el corazón del Pontífice, quien lanza un llamamiento universal: ‘Desarmar la IA’, con la confianza de que, juntos, podemos discernir las grandes cuestiones de nuestro tiempo y, por lo tanto, el futuro de la humanidad”.