Entre las muchas expresiones de la encíclica Magnifica Humanitas, hay una que ha llamado más la atención que las demás: desarmar la inteligencia artificial. No regularla, no gobernarla, no frenarla — desarmarla. La palabra es fuerte, y el propio Papa lo reconoció durante la presentación del documento: «La palabra es fuerte, lo sé, pero deliberadamente elegida porque este momento necesita palabras capaces de atraer la atención, despertar las conciencias e indicar caminos».
Vale la pena detenerse en esta elección, porque dice mucho tanto sobre el análisis del Papa como sobre la respuesta que pide a los cristianos.
Un paralelo deliberado: de lo nuclear al algoritmo
El Papa León XIV no usa el verbo “desarmar” por casualidad. Lo emplea conscientemente para evocar un precedente preciso: el desarme nuclear. La Iglesia lleva décadas trabajando para que las armas atómicas sean eliminadas, con la convicción de que todo gran poder técnico capaz de afectar la vida de las personas debe ir acompañado de un discernimiento moral adecuado y de un control público.
El paralelo no es entre la inteligencia artificial y una bomba. Es entre dos situaciones en las que una tecnología enormemente poderosa se desarrolla con lógicas que la sustraen al control de la comunidad humana: la lógica del beneficio económico, la lógica de la dominación, la lógica de la competencia entre estados.
Desarmar la IA, en este sentido, significa sustraerla a esas lógicas — no destruirla, sino liberarla para que pueda servir al bien común.
El peligro más profundo: convertirse en un proyecto a optimizar
La encíclica reconoce los riesgos concretos de la inteligencia artificial: la pérdida de empleos, la manipulación de la información, las violaciones de la privacidad, las armas autónomas, los sesgos algorítmicos. Pero León XIV identifica un peligro más sutil y más grave que todos estos: que los seres humanos empiecen a verse a sí mismos y a los demás como proyectos a optimizar (MH 112).
Esta es la tesis central del documento — y el punto donde el análisis del Papa resulta más original. El problema no es solo lo que la IA puede hacer de malo. El problema es en qué nos puede convertir: personas que miden su propio valor en términos de eficiencia, productividad y rendimiento.
Cuando la eficiencia se convierte en la medida última del valor — escribe León XIV — los seres humanos se ven tentados a considerarse como un proyecto a optimizar, en lugar de como personas llamadas a la relación y a la comunión.
La paradoja cristiana: florecer a través de los límites
Y aquí es donde el documento da su paso más audaz. La encíclica enseña que lo que parece un límite humano — la enfermedad, el envejecimiento, el sufrimiento, la vulnerabilidad — no es simplemente un defecto que corregir. La grandeza del ser humano reside en que a menudo florece no a pesar de sus límites, sino a través de ellos (MH 118).
En los momentos de fragilidad, escribe el Papa, podemos «descubrir una nueva sabiduría, experimentar concretamente la cercanía de los otros y encontrar la presencia del Señor» (MH 119).
Este es el corazón del discurso, y también el punto donde la visión cristiana se distingue radicalmente de la visión transhumanista. Para el transhumanismo, los límites humanos son un problema técnico que resolver. Para la fe cristiana, son el lugar donde se manifiesta la gracia.
Esto no significa que el sufrimiento sea bueno en sí mismo. Significa que el ser humano no es una máquina defectuosa esperando una actualización.
¿Torre de Babel o murallas de Nehemías?
La encíclica se construye alrededor de dos imágenes bíblicas que funcionan como clave de lectura de todo el documento.
La Torre de Babel (Génesis 11,1-9) representa un proyecto de autoafirmación, uniformidad y control: una sociedad que sacrifica la dignidad humana en el altar de la eficiencia y busca alcanzar el cielo sin la bendición de Dios. León XIV habla explícitamente de un «síndrome de Babel»: la idolatría del beneficio que sacrifica a los débiles, una uniformidad que neutraliza las diferencias, la ilusión de que un único lenguaje — incluso digital — pueda traducir el misterio de la persona en datos y rendimiento (MH 10).
La reconstrucción de las murallas de Jerusalén bajo Nehemías (Nehemías 2-6) representa un modo diferente de construir: en la oración, en la comunidad, en la responsabilidad, orientado hacia la comunión. Nehemías no impone una solución desde arriba. Escucha, organiza, distribuye la responsabilidad y ayuda al pueblo a reconstruir juntos.
La pregunta que la encíclica plantea a cada cristiano es sencilla: ¿estamos construyendo Babel o las murallas de Nehemías?
Cuatro preguntas para el discernimiento cotidiano
La encíclica no se queda en los principios abstractos. Ofrece cuatro preguntas concretas que cada cristiano puede hacerse ante cualquier tecnología:
- ¿Me ayuda a ser fiel a la verdad, a pesar de los contenidos más atractivos? (MH 237)
- ¿Me ayuda a educar y a dejarme educar? (MH 238)
- ¿Me ayuda a cultivar relaciones auténticas y a cuidar los tiempos y los lugares donde la presencia física sigue siendo esencial? (MH 239)
- ¿Me ayuda a participar en la promoción de la justicia y la paz? (MH 240)
Son preguntas sencillas, pero poderosas. Intenten plantearlas frente a un algoritmo que solo les muestra contenidos que confirman lo que ya piensan, o frente a un asistente virtual que sustituye una conversación real con un amigo.
Qué significa, en la práctica, para un cristiano
Desarmar la inteligencia artificial no significa rechazarla. El Papa es claro: la IA puede ser una herramienta valiosa (MH 100). Puede curar, conectar, educar y proteger la casa común (MH 9).
Pero significa tres cosas precisas:
No delegar el discernimiento moral. Un algoritmo no conoce «la compasión, la misericordia, el perdón y sobre todo la esperanza de que las personas puedan cambiar» (MH 102). Las decisiones que afectan a la dignidad humana requieren siempre responsabilidad humana.
No confundir la imitación con la realidad. La inteligencia artificial puede imitar el lenguaje, el comportamiento, el análisis, incluso la empatía. Pero sus resultados siguen vinculados al procesamiento estadístico de datos, no a una conciencia, un cuerpo o una responsabilidad moral (MH 99). «Ningún sistema computacional, por sofisticado que sea, puede crear un corazón que se dona o una conciencia que discierne el bien del mal» (MH 233).
No aceptar que el valor de una persona se mida por su utilidad. Si el ser humano es tratado como algo que perfeccionar o superar, «se hace más fácil aceptar que algunas vidas sean menos útiles, menos deseables o menos dignas» (MH 117).
Una invitación, no nostalgia
La tentación, al leer un documento así, es pensar que la Iglesia está contra el progreso. No es así. Magnifica Humanitas no es un manifiesto ludita. Es una invitación a recordar que el progreso tecnológico tiene sentido solo si sirve a la persona — a toda la persona, con sus límites y con su grandeza.
La plenitud de la humanidad, en su magnificencia y en sus heridas, no llega a través de una «divinización tecnológica», sino a través de «la gracia de Dios recibida en Cristo» (MH 126).
Es un mensaje contracultural. Pero quizás sea exactamente lo que necesitamos.
Este artículo forma parte de una serie de reflexiones sobre la Magnifica Humanitas del Papa León XIV, en diálogo con los temas del libro “La fe cristiana en la era de la Inteligencia Artificial”.