El papa León XIV viene dedicando el 2026 a romper con la noción de que su perfil es más bajo que el de su predecesor. Empezó con algo tan básico para un sacerdote como clamar por la paz. Básico, pero se volvió controvertido con la respuesta agresiva del gobierno de Trump, que se dio por aludido como el villano. Ahora publicó su primera encíclica, las cartas que los papas escriben dirigidas a toda la Iglesia para expresar sus pensamientos sobre un tema puntual. Eligió algo que suena muy ajeno a la fe: la inteligencia artificial. Y así, este hombre de sonrisa amable se erigió como el último bastión de relevancia plantado contra los todopoderosos hombres detrás de una tecnología que amenaza con transformar a la humanidad misma, para bien o para mal.

“En cada época se cierne el riesgo de construir un mundo inhumano y más injusto”, escribe León en el documento publicado el lunes y titulado Magnifica Humanitas. Plantea que estamos hoy ante “una elección decisiva: levantar una nueva Torre de Babel o edificar la ciudad donde Dios y la humanidad habiten juntos”.

Las encíclicas no suponen dogma ni doctrina, pero cuando se publica una, la comunidad cristiana más acérrima presta atención. Y cuando se meten con un tema polémico —Benedicto XVI reclamando más responsabilidad social a las empresas, Francisco con el cuidado del ambiente en Laudato si’ (2015) o apuntando contra el neoliberalismo en Fratelli Tutti (2020)— los medios tradicionales también. Lo mismo está pasando con Magnifica Humanitas.

El papa, que se llama Robert Prevost, es estadounidense, y el vicepresidente de Trump, J.D. Vance, es católico —algo no tan habitual en su país—. Cuando se lo nombró en el cónclave del año pasado podía imaginarse un mayor acercamiento. Pero desde el trumpismo ya se lo venía mirando de costado, y ahora termina de convertirse, a sus ojos, en el papa woke.

Una doctrina tecnológica de la Iglesia

León XIV se inspira en el papa de quien adoptó el nombre, León XIII, y su histórica Rerum novarum, encíclica de 1891 en la que aquel Sumo Pontífice estableció la doctrina social de la Iglesia. Así como su antecesor hablaba de "nuevos asuntos", que eso significa "rerum novarum", y que en ese momento eran los derechos de la clase trabajadora, dice el papa actual que hoy se debe “interpretar las grandes tendencias de nuestro tiempo, en particular los avances de la técnica”. Que si no “se orientan hacia el bien” los desarrollos tecnológicos siempre pueden causar daños, pero que —dada la forma en que las novedades en robótica e IA “se entrelazan con el tejido de la vida cotidiana” — estamos ante una situación nunca antes vista.

Por eso pide “prudencia, controles rigurosos” y “una ralentización en la adopción de la IA”, pero no por “estar en contra del progreso”, sino para “ejercitar un cuidado responsable hacia la familia humana”. “Se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea”, sigue León. “De otro modo, el cambio será gobernado solo por lógicas tecnocráticas y presentado como necesario e imprescindible, terminando por imponer reglas dictadas por quienes poseen datos, infraestructuras y capacidad de cálculo”.

Podemos leer en esto lo mismo que plantean tantos otros analistas y hasta algunos ejecutivos y trabajadores de Silicon Valley: que la IA abre muchas posibilidades positivas, pero que hay que tener con ella más cuidado del que se está teniendo.

O también podemos pensar que el papa está convocando a una cruzada contra la IA, una Yihad Butleriana: la destrucción de todas las máquinas “inteligentes” de la saga de ciencia ficción Dune. Ya que se viene la tercera película, que adapta la novela Dune: Mesías (1969), y ya que el papa cita en su encíclica a otra obra fundacional de la literatura nerd anglosajona, El señor de los anillos, la comparación no parece a priori tan lejana.

Una voz vieja en temas nuevos

Lo que diga un papa no importa en el año 2026 en un país laico como Uruguay, ¿no? Razonando por el absurdo, el papa es un monarca absoluto, cabeza de una de las pocas teocracias del mundo, que tiene problemas bastante más acuciantes que la tecnología: la caída en la cifra de fieles activos, los escándalos de corrupción y ni que hablar los de abuso sexual de menores.

Sin embargo, en tiempos de ansiedad y velocidad, donde el escaso tiempo en que no estamos trabajando lo pasamos en redes sociales o mirando series o el informativo o streaming, escuchando música o podcasts o la radio, o en el gimnasio o corriendo o jugando videojuegos, pero difícilmente sentados en silencio solos con nuestros pensamientos, el sumo pontífice es una de las pocas personas que dedica sus días principalmente a la reflexión y la contemplación. Uno de los pocos que tiene tiempo para pensar.

Pararse a pensar supone cuestionar. Algo que la industria de la alta tecnología no parece valorar demasiado. Se avanza bajo el precepto de que avanzar en la senda por la que se está yendo es inevitable. La inteligencia artificial es inevitable. La robótica es inevitable. La omnipresencia de pantallas (con solo levantar la vista en donde estoy escribiendo veo ocho) es inevitable. Las redes sociales son inevitables. Habrá que acomodar a los millones que se queden sin trabajo o que vean empeorar el disfrute de sus empleos. Habrá que repensar la crianza de los niños pequeños y la educación de liceales y universitarios. Habrá que buscarle la vuelta a la salud mental afectada por el scrolleo entre cuerpos perfectos, locaciones turísticas paradisíacas, lo veo y lo quiero. Tanto está en el aire. Lo certero es que no puede ponerse un freno. Es inevitable.

Casi como si fuera un designio divino. Así que si se entra en el terreno de la trascendencia, se puede escuchar qué tienen para decir las autoridades en la materia.

“Cuando la dignidad de los hermanos se ve desfigurada”, escribe León en Magnifica Humanitas, “cuando la política no responde a los dramas de la humanidad, cuando la economía se vuelve contra la persona o la ciencia traspasa los límites de su método”, entonces la Iglesia, las demás confesiones cristianas y los creyentes de otras religiones deben “hacer oír su voz no para dominar, sino para servir a la comunión”.

Una nueva Torre de Babel

Para reflexionar sobre esto, el papa se inspira en dos fragmentos bíblicos. Uno es el de la Torre de Babel: en el libro del Génesis se cuenta cómo la joven humanidad, poco tiempo después del diluvio y del arca de Noé, decide construir una torre que llegue al cielo. Pero Dios, que en el Antiguo Testamento tiene pocas pulgas, provoca que las personas comiencen a hablar idiomas diferentes para que no puedan seguir trabajando en conjunto. Las dispersa, y así nacen las diferentes culturas y lenguajes. Esto se suele interpretar como el mito griego de Ícaro: la humanidad quiso acercarse demasiado a lo divino, y pagó por eso. En vez de la comunión en la diversidad, se eligió la homogeneización, dice León.

Para él, la historia de la Torre de Babel revela “el límite de toda construcción que, por grandiosa que sea, surge de la absolutización de lo humano y de su pretensión de autosuficiencia, sacrifica la dignidad de las personas en aras de la eficiencia y aspira a alcanzar el cielo sin la bendición de Dios”.

La otra historia bíblica que cita, como contraste, es la de la reconstrucción de los muros de Jerusalén, relatada en el libro de Nehemías: explica que ese proceso se da no gracias a un solo héroe, sino a la ciudad trabajando en comunión.

Por eso, afirma que estamos entre “construir Babel o reconstruir Jerusalén”. Llama a evitar el “síndrome de Babel”, es decir “la idolatría del lucro que sacrifica a los débiles, la uniformidad que aplana las diferencias, la pretensión de un lenguaje único —incluso digital— capaz de traducirlo todo, incluso el misterio de la persona, en datos y rendimientos”. Un camino que lleva, dice, a “la deshumanización”.

Los que construyen la torre no son los ciudadanos de Babel, en la lectura del papa. Son los empresarios de la tecnología y los políticos que se niegan a ponerles ningún tipo de rienda, que incluso los alientan por considerar sus avances parte de una nueva carrera armamentística.

Sus denuncias no son rupturistas, ni tampoco advierte sobre una distopía tipo Terminator en la que las máquinas se rebelen. Pero resulta fascinante leer cómo entrelaza lo moral y lo técnico. Además, Prevost se formó en matemática, y ese background se nota.

Por ejemplo: en referencia al riesgo de la utilización política (o laboral) de algoritmos, dice que confiarles “el poder de seleccionar quién es digno y quién no, sin que nadie asuma el peso de la decisión, significa encomendarle la tarea de redefinir los límites de las posibilidades humanas”. Que esto disminuye “la empatía hacia el excluido” y “la responsabilidad política”, porque “el descarte de los débiles queda revestido de una neutralidad y una objetividad ante las cuales es imposible protestar”. Así, “la injusticia se realiza silenciosamente y la compasión, la misericordia y el perdón, no como simple apariencia, sino como gestos políticos, desaparecen del horizonte”.

Y de ahí salta a la IA. No podemos considerarla como “moralmente neutra”, dice. Que no basta con señalarla como un instrumento al que se puede usar bien o mal: “Si un sistema se concibe o emplea tratando algunas vidas como menos dignas, o las excluye sin posibilidad de apelación”, sigue, “introduce ya un criterio que contradice la dignidad inalienable de la persona”. Por eso debe interrogarse sobre el modo en el que estos instrumentos están diseñados “y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que lo guían”.

Sin un código ético que tenga en mente la “justicia social compartida”, dice el papa, “quien controla la IA impondrá su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas”. Por si fuera poco, afirma que “la IA tiende a aumentar sobre todo el poder de quien ya dispone de recursos económicos, competencias y acceso a los datos”, y advierte que esto podría hacer que “pequeños grupos muy influyentes pueden orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio, contradiciendo la justicia social y la solidaridad entre los pueblos”.

¿Somos conscientes en el debate público de todos estos ángulos a los que pueden llevar aplicaciones que tantos usamos para preguntar datos curiosos y generar imágenes chistosas, que otros usan para hacer la tarea domiciliaria y otros para escribir código?

El planteo más radical de León es que se debe “desarmar” la IA hasta “hacerla acogedora”: “Sustraerla de la lógica de la competencia armamentística”, romper la “equivalencia entre poder tecnológico y derecho a gobernar”. “Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano”, afirma el papa.

¿Una humanidad nueva?

Prevost reconoce que el trasfondo de la discusión sobre la IA es aún más profundo: tiene que ver con las filosofías transhumanistas y posthumanistas, con empujar la tecnología y nuestra relación con ella hasta conseguir una hibridación con la máquina, hasta “mejorarnos” como seres humanos y convertirnos casi que en una especie nueva. Las posibilidades para reducir el sufrimiento y las enfermedades son muchas, pero los riesgos también. Desde su mirada cristiana (para él la única forma de lograr ser “más que humano” es a través del Espíritu Santo), el papa dice que no debemos pensar esos límites de la humanidad —“la vulnerabilidad, el dolor, el fracaso”— como algo a eliminar, sino que justamente gracias a esos límites se “puede reconocer la dignidad propia y ajena como inviolable”.

“La humanidad —magnífica y herida— no debe ser sustituida ni superada”, escribe, “puede acoger los progresos de la técnica para aliviar los sufrimientos y abrir posibilidades nuevas, siempre que no reniegue de aquello que la hace ser ella misma, es decir, la capacidad de relación y de amor”.

De momento ha habido pocas respuestas desde el sector empresarial. Un referente de Anthropic, la compañía que desarrolló el chatbot Claude, participó de la presentación de la encíclica junto al papa. Esa empresa también se ganó el rechazo del régimen de Trump por negarse a darle su tecnología para usos militares. Por el otro lado, el capitalista de riesgo David Sacks, una voz muy escuchada en Silicon Valley y designado como “zar de la IA” por la Casa Blanca, dijo que si se le daba más poder a los gobiernos por sobre esta tecnología se corría el riesgo de caer en una distopía orwelliana. La diferencia, podríamos responderle a Sacks, es que a los gobiernos los vota la gente y a los empresarios no.

En la mitología de Dune, la humanidad resuelve destruir la “computadoras, máquinas pensantes y robots conscientes”, luego de que se sintiera demasiada guiada y controlada por ellos. Esto lleva a las personas a desarrollar capacidades mentales que también podríamos definir como transhumanas, al menos tal como consideramos qué es lo humano hoy: como los Mentats, que se forman para realizar cálculos mentales como si fueran computadoras ellos mismos. Y la religión sigue siendo de valor, aunque las distintas fes se han combinado en una sola (la Biblia Católica Naranja). A decir verdad, el mundo de Dune tampoco ha resuelto todos los problemas con esta guerra santa antidigital. Para nada. Parecería que para su autor, Frank Herbert, el problema más serio no fueran las máquinas per se.

Para León seguramente tampoco lo sea. Y su palabra tampoco es la última. Pero su llamado a abandonar “la visión del hombre individualista y técnica, como si la realidad fuera solamente materia para modelar con base en intereses egoístas” no puede no resonar.