La torre o la ciudad: León XIV escribe sobre la inteligencia artificial

El 15 de mayo de este año, en la víspera del 135.º aniversario de la Rerum novarum de León XIII, el Papa León XIV firmó Magnifica humanitas, su primera encíclica social. El documento fue publicado por la Santa Sede pocos días después y circula desde entonces en versiones oficiales en varios idiomas. Su subtítulo es deliberadamente preciso: Sobre la custodia de la persona humana en el tiempo de la inteligencia artificial.

No es un detalle menor que el Pontífice haya elegido la fecha de la encíclica fundacional del Magisterio social moderno para entregar este texto. La continuidad es explícita y agradecida: como su antecesor del siglo XIX leyó la cuestión obrera a la luz del Evangelio, León XIV se propone hoy leer, con el mismo método, la transformación digital, la economía de plataformas, los algoritmos que clasifican personas, el rearme y la guerra híbrida. La operación es de fondo: incorporar al corpus de la doctrina social aquello que el Papa Francisco había venido nombrando en encíclicas y exhortaciones —Laudato si’, Fratelli tutti, Dilexit nos— y darle un marco unitario en clave de continuidad con León XIII, Pío XI, Juan XXIII, Pablo VI, Juan Pablo II y Benedicto XVI.

La lectura del documento, extenso pero de notable claridad expositiva, deja una primera impresión: estamos ante una encíclica que evita por igual la condena apocalíptica y el entusiasmo ingenuo. El Papa elige una tercera vía, la del discernimiento. Y para ordenar ese discernimiento propone dos imágenes bíblicas que vale la pena retener, porque organizan todo el texto.

Babel y Nehemías

La primera es la torre de Babel del Génesis: una construcción imponente, una sola lengua, una sola tecnología, una sola dirección, pero concebida sin referencia a Dios y sostenida por una uniformidad que elimina la diferencia. La segunda es la reconstrucción de los muros de Jerusalén narrada en el libro de Nehemías: una obra paciente, hecha pieza por pieza, que confía a cada familia un tramo de muralla y reconoce que la ciudad renace por la responsabilidad compartida de todo el pueblo.

“La primera elección no es entre un ‘sí’ o un ‘no’ a la tecnología, sino entre construir Babel o reconstruir Jerusalén.”

La fórmula es de León XIV y resume el método del documento. La técnica, escribe el Papa, no es en sí una fuerza antagónica respecto a la persona; está arraigada en nuestra historia desde el principio y a lo largo de los siglos contribuyó a mejorar las condiciones de vida de la humanidad. Pero —y aquí aparece la advertencia— no es neutral, porque toma el rostro de quien la concibe, la financia, la regula y la utiliza. De allí se desprende una observación que recorre la encíclica como una corriente subterránea: en el pasado, los principales motores de la innovación eran los Estados; hoy lo son grandes actores privados, a menudo transnacionales, con recursos y capacidad de acción superiores a los de muchos gobiernos. El poder tecnológico adquiere así, dice el Papa con palabras medidas, un rostro inédito, predominantemente privado, y por ello aún más difícil de discernir, gobernar y orientar hacia el bien común.

Una doctrina viva

Buena parte del primer capítulo está dedicada a recorrer el desarrollo del Magisterio social desde León XIII hasta hoy. El ejercicio no es de erudición: a León XIV le interesa mostrar que la doctrina social no es un manual de recetas ni un código ético externo, sino —en una expresión que merece subrayarse— una teología de la comunión, un camino de discernimiento comunitario en el que la Iglesia se deja interpelar por los signos de los tiempos.

La síntesis es deudora, en gran medida, del pontificado de Francisco. Hay un homenaje explícito a Laudato si’ y a Fratelli tutti, y la idea de ecología integral —que articula el clamor de la tierra y el clamor de los pobres— aparece ahora como criterio decisivo para evaluar el desarrollo. Pero el lector argentino que recuerda los debates de Aparecida y los de Querida Amazonia notará también un cambio de tono: León XIV es más sistemático, más jurídico en su redacción, más explícitamente continuador del Magisterio social clásico. Vuelve, por ejemplo, a la definición conciliar del bien común, recupera el principio de subsidiariedad de Pío XI y desarrolla con notable extensión el destino universal de los bienes.

La novedad está en cómo extiende esos principios al mundo digital. El destino universal de los bienes ya no se refiere solamente al suelo, el agua o los recursos naturales: incluye también, dice el Papa, las patentes, los algoritmos, las plataformas, las infraestructuras tecnológicas y los datos. La subsidiariedad, agrega, vale de manera particular en la era de la IA, pero allí el nivel superior que absorbe competencias ya no es el Estado, sino “todo gran actor económico y tecnológico que ejerce un poder fáctico sobre las condiciones de la vida común”.

Una ayuda valiosa que requiere atención

El capítulo central de Magnifica humanitas es el tercero, dedicado a la inteligencia artificial. León XIV se desmarca con elegancia de la futurología: no pretende ofrecer un tratado, escribe, ni recorrer una bibliografía ya muy amplia. Aclara, además, dos cosas que conviene destacar. Primero, que cualquier afirmación sobre la IA corre el riesgo de quedar obsoleta en poco tiempo. Segundo —y es una observación que sorprende encontrar en un documento pontificio— que las inteligencias artificiales modernas están “más cultivadas que construidas”: los desarrolladores no diseñan directamente cada detalle, sino que crean una arquitectura sobre la cual la IA crece, y por eso los aspectos científicos fundamentales —las representaciones internas, los procesos computacionales— siguen siendo en buena medida desconocidos.

De este reconocimiento de complejidad nace una pedagogía. El Papa pide evitar el equívoco de equiparar esa “inteligencia” a la humana. Los sistemas imitan funciones, y a menudo las superan en velocidad y amplitud de cálculo, pero —dice— “no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad”. La distinción no es trivial: de ella depende la advertencia siguiente, dirigida especialmente a quienes usan estos sistemas en su vida personal.

“Cuando la palabra es simulada, esta no construye una relación, sino una apariencia.”

La frase es severa y vale la pena pensarla con calma. Léase de nuevo. León XIV no condena el uso de la IA; advierte sobre el riesgo de que la imitación artificial de la cercanía —el consejo que parece amable, la empatía simulada— termine ocupando el lugar de las relaciones reales en vidas pobres de relaciones. En un país como el nuestro, donde la soledad urbana, la fragmentación familiar y la sobrecarga de pantallas son fenómenos visibles, la observación merece atención más allá de los círculos eclesiales.

Responsabilidad, transparencia, gobernanza

La encíclica dedica varios parágrafos a lo que en el debate técnico se llama accountability: la posibilidad de identificar quién debe rendir cuentas de las decisiones tomadas por sistemas automatizados. León XIV no se mete en detalles regulatorios —no es su oficio— pero deja sentado un criterio de fondo: “No podemos considerar a la IA como moralmente neutra”. Todo artefacto técnico, agrega, lleva consigo decisiones y prioridades sobre lo que mide, lo que ignora, lo que optimiza y cómo clasifica personas y situaciones. Si un sistema se concibe tratando algunas vidas como menos dignas, o las excluye sin posibilidad de apelación, no es “un simple instrumento que hay que usar correctamente”: introduce un criterio que contradice la dignidad inalienable de la persona.

El Papa pide en consecuencia trazabilidad, control humano efectivo sobre las decisiones que afectan derechos, marcos jurídicos adecuados, vigilancia independiente y —llamativo en un texto pontificio— a veces “una ralentización en la adopción de la IA”. Ralentizar, escribe, no es estar contra el progreso: es ejercitar un cuidado responsable hacia la familia humana cuando existe un desequilibrio entre la velocidad del desarrollo tecnológico y el ritmo al que maduran las normas, los controles y las instituciones.

Hay un párrafo que merece transcribirse —en paráfrasis— porque marca un tono. León XIV usa una palabra que dice que es muy importante para él: “desarmar”. Desarmar la IA, sostiene, significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva, la carrera por el algoritmo más eficaz o por el banco de datos más amplio para consolidar una ventaja geopolítica o comercial. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano.

Trabajo, familia, jóvenes

El capítulo cuarto, dedicado a la verdad, el trabajo y la libertad, es probablemente el de mayor densidad social. Sobre el trabajo, el Papa retoma la línea de Laborem exercens de Juan Pablo II y la actualiza: la combinación de automatización, robótica e IA está transformando rápidamente la estructura misma del empleo, y no todos los “nuevos modos” de trabajar son necesariamente mejores. Cita literalmente un pasaje de la nota Antiqua et nova del Vaticano, según el cual los trabajadores se ven a menudo “obligados a adaptarse a la velocidad y a las exigencias de las máquinas, en lugar de que estas últimas estén diseñadas para ayudar a quienes trabajan”.

La preocupación por el desempleo aparece sin medias tintas. En la “cuarta revolución industrial”, advierte el Papa, es realista temer una reducción significativa y rápida de los puestos de trabajo disponibles, con un efecto en cadena sobre las familias, los jóvenes y las economías locales. Y propone tres criterios concretos: que toda introducción de automatización vaya acompañada de medidas verificables de protección del empleo, recualificación y participación de los trabajadores; que las políticas activas de formación continua no carguen sobre los individuos todo el costo de la adaptación; que la calidad y la dignidad del trabajo se incluyan entre los indicadores de éxito empresarial.

Hay también una crítica explícita al PIB como única medida del desarrollo y un llamado a complementar ese parámetro con indicadores que recojan la dignidad del trabajo, la reducción de las desigualdades y el cuidado del medio ambiente. No es una novedad doctrinal —Caritas in veritate ya iba en esa dirección— pero el énfasis es más fuerte que el habitual.

Las nuevas esclavitudes

Quizá el pasaje más duro del documento sea el que dedica a lo que el Papa llama “las nuevas esclavitudes” del mundo digital. León XIV recuerda que en la economía de la IA “nada es inmaterial o mágico”: cada respuesta inmediata proviene de una larga cadena de mediaciones, de recursos naturales, de infraestructuras energéticas y, sobre todo, de personas. Menciona explícitamente el trabajo poco visible pero esencial de millones de seres humanos empleados en etiquetado de datos, moderación de contenidos y entrenamiento de modelos, en muchos casos jóvenes y mujeres con remuneraciones mínimas. Y la extracción, en condiciones peligrosas, de las tierras raras que sustentan microprocesadores y dispositivos.

A esta denuncia el Papa suma un examen autocrítico de la propia Iglesia: la condena formal y universal de la esclavitud llegó tarde —debió esperar al siglo XIX, con León XIII— y la Sede Apostólica, presionada por los soberanos, intervino en otras épocas para regular e incluso legitimar formas de sometimiento. “En nombre de la Iglesia, pido sinceramente perdón”, escribe León XIV. La fórmula es sobria, pero su sola presencia en una encíclica social merece ser notada.

“Si una tecnología promete emancipación, pero produce nuevas formas de subordinación global, contradice el principio fundamental de la dignidad de la persona.”

La civilización del amor y la guerra

El capítulo quinto vuelve a un tema clásico del Magisterio reciente: la paz. Pero lo hace desde un diagnóstico inquietante. León XIV constata una “rehabilitación de la guerra como instrumento de política internacional” y la erosión de los criterios éticos que habían limitado su uso durante décadas. La revolución digital, sostiene, está modificando la gramática misma de los conflictos: a la guerra visible se suman los ataques cibernéticos, la manipulación de la información, las campañas de influencia y la automatización de decisiones estratégicas.

Sobre las armas con IA, el Papa es categórico: la decisión de emplear fuerza letal no puede delegarse en procesos opacos o automatizados, sino que debe permanecer bajo un control humano efectivo, consciente y responsable. Pide reglas internacionales compartidas que frenen la carrera armamentística tecnológica y protección especial a los civiles y a las infraestructuras esenciales para su supervivencia. Y reitera —aquí en línea directa con Francisco— la superación de la teoría de la “guerra justa”, invocada con demasiada frecuencia para justificar cualquier guerra.

Frente a este panorama, León XIV recupera la expresión de Pablo VI, “civilización del amor”, y propone cinco vías de responsabilidad cotidiana y pública: desarmar las palabras, construir la paz en la justicia, asumir la mirada de las víctimas, cultivar un sano realismo y relanzar el diálogo y el multilateralismo. La cita de Tolkien que introduce en este pasaje —tomada de El señor de los anillos— es un guiño hermoso: no nos toca dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir.

Una lectura desde el Sur

Quien lea el documento desde Buenos Aires encontrará varios puntos de resonancia. La advertencia sobre el “colonialismo” digital —el Papa habla expresamente de las “nuevas tierras raras del poder”, los datos sanitarios, los mapas genéticos y los perfiles demográficos de territorios con menor relevancia geopolítica— interpela a los países que aún no han diseñado políticas claras sobre la soberanía de sus datos. La preocupación por que los pueblos puedan decidir cómo se utilizarán sus datos, quién los utilizará y para quién no es una abstracción: es una agenda concreta.

También lo es la insistencia en que la justicia social en la era digital exige acceso igualitario a las oportunidades, protección a los más frágiles y control público del uso de datos y tecnologías, con el criterio —subraya el Papa— de que no sea sólo el beneficio el que mande, “sino la dignidad de cada persona y el bien de los pueblos”. Para una región atravesada por las desigualdades estructurales que conocemos, la encíclica ofrece un lenguaje y un marco de referencia que conviene incorporar a los debates públicos sin reducirlos a una cuestión confesional.

El capítulo sobre educación tiene también un acento argentino reconocible. León XIV pide “una alianza educativa” entre familias, escuelas, comunidades cristianas e instituciones públicas; advierte sobre el daño que la exposición precoz y sin supervisión a dispositivos digitales puede causar al sueño, la atención, la regulación emocional y las relaciones de los más jóvenes; respalda intervenciones legislativas con límites de edad y responsabilización de los proveedores; y reclama no descargar sobre las familias el peso solitario de la limitación. En un país donde el debate sobre celulares en las escuelas y sobre la regulación de plataformas está abierto, la encíclica entrega argumentos atendibles.

Continuidades y nombre propio

Magnifica humanitas se inscribe con claridad en la tradición del Magisterio social. Cita con frecuencia a Juan Pablo II, a Benedicto XVI y, sobre todo, a Francisco; recoge la nota Antiqua et nova del Vaticano sobre IA, publicada en enero de 2025; y dialoga con autores tan variados como Romano Guardini, Hannah Arendt, Viktor Frankl, Giorgio La Pira y, como se vio, J. R. R. Tolkien. Pero tiene también un nombre propio: el del Papa que la firma, que combina la formación jurídica y agustiniana de León XIV con una sensibilidad pastoral hacia los efectos concretos de la tecnología sobre la vida de las personas.

El cierre del documento, con la imagen de Nehemías retomada por última vez y el cántico del Magníficat como oración final, es una pieza de literatura espiritual de notable factura. “Que cada cual se fije bien de qué manera construye”, escribe el Papa citando a san Pablo, antes de invitar a no ser espectadores resignados ni simples comentaristas de las ruinas, sino mujeres y hombres que entran en las obras de la historia —laboratorios de investigación, empresas tecnológicas, escuelas, medios de comunicación, instituciones, comunidades locales— para levantar lo que se ha derrumbado y proteger lo que está expuesto.

La pregunta de fondo que recorre Magnifica humanitas es vieja y, sin embargo, tiene en cada época un rostro distinto. La formuló alguna vez Juan Pablo II y León XIV la reitera al final del capítulo tercero: la inteligencia artificial, ¿hace la vida del hombre sobre la tierra, en todos sus aspectos, “más humana”? ¿La hace más “digna del hombre”?

Si la respuesta es sí, dice el Papa, podemos reconocer en ella una posibilidad buena para usar con responsabilidad, en un camino de reconstrucción compartida y paciente, según el modelo del renacimiento de Jerusalén narrado en el libro de Nehemías. Si la respuesta es no —si el poder crece mientras el corazón se marchita y los vínculos se rompen— estamos frente a una nueva versión de Babel: una construcción grandiosa, pero inhumana.

La elección, como siempre, no es de la técnica. Es nuestra.