Entre as muitas expressões da encíclica Magnifica Humanitas, há uma que atraiu mais atenção do que todas as outras: desarmar a inteligência artificial. Não regulá-la, não governá-la, não desacelerá-la — desarmá-la. A palavra é forte, e o próprio Papa reconheceu isso na apresentação do documento: «A palavra é forte, eu sei, mas deliberadamente escolhida porque este momento precisa de palavras capazes de atrair atenção, despertar consciências e indicar caminhos».
Vale a pena parar nessa escolha, porque ela diz muito tanto sobre a análise do Papa quanto sobre a resposta que ele pede aos cristãos.
Um paralelo intencional: do nuclear ao algoritmo
O Papa Leão XIV não usa o verbo “desarmar” por acaso. Ele o emprega conscientemente para evocar um precedente preciso: o desarmamento nuclear. A Igreja trabalha há décadas para que as armas atômicas sejam eliminadas, com a convicção de que todo grande poder técnico capaz de afetar a vida das pessoas deve ser acompanhado de um discernimento moral adequado e de um controle público.
O paralelo não é entre a inteligência artificial e uma bomba. É entre duas situações em que uma tecnologia enormemente poderosa é desenvolvida com lógicas que a subtraem ao controle da comunidade humana: a lógica do lucro, a lógica da dominação, a lógica da competição entre estados.
Desarmar a IA, nesse sentido, significa subtraí-la a essas lógicas — não destruí-la, mas libertá-la para que possa servir ao bem comum.
O perigo mais profundo: tornar-se um projeto a ser otimizado
A encíclica reconhece os riscos concretos da inteligência artificial: a perda de empregos, a manipulação da informação, as violações de privacidade, as armas autônomas, os vieses algorítmicos. Mas Leão XIV identifica um perigo mais sutil e mais grave do que todos esses: que os seres humanos comecem a ver a si mesmos e aos outros como projetos a serem otimizados (MH 112).
Esta é a tese central do documento — e o ponto em que a análise do Papa se torna mais original. O problema não é apenas o que a IA pode fazer de errado. O problema é no que a IA pode nos transformar: pessoas que medem o próprio valor em termos de eficiência, produtividade e desempenho.
Quando a eficiência se torna a medida última do valor — escreve Leão XIV — os seres humanos são tentados a ver a si mesmos como um projeto a ser otimizado, em vez de como pessoas chamadas à relação e à comunhão.
O paradoxo cristão: florescer através dos limites
E é aqui que o documento dá seu passo mais corajoso. A encíclica ensina que o que parece ser um limite humano — a doença, o envelhecimento, o sofrimento, a vulnerabilidade — não é simplesmente um defeito a ser corrigido. A grandeza do ser humano está no fato de que muitas vezes ele floresce não apesar de seus limites, mas através deles (MH 118).
Nos momentos de fragilidade, escreve o Papa, podemos «descobrir uma nova sabedoria, experimentar concretamente a proximidade dos outros e encontrar a presença do Senhor» (MH 119).
Este é o coração do discurso, e também o ponto onde a visão cristã se distingue radicalmente da visão transumanista. Para o transumanismo, os limites humanos são um problema técnico a ser resolvido. Para a fé cristã, são o lugar onde a graça se manifesta.
Isso não significa que o sofrimento seja bom em si mesmo. Significa que o ser humano não é uma máquina defeituosa esperando por uma atualização.
Torre de Babel ou muros de Neemias?
A encíclica é construída em torno de duas imagens bíblicas que funcionam como chave de leitura de todo o documento.
A Torre de Babel (Gênesis 11,1-9) representa um projeto de autoafirmação, uniformidade e controle: uma sociedade que sacrifica a dignidade humana no altar da eficiência e tenta alcançar o céu sem a bênção de Deus. Leão XIV fala explicitamente de uma «síndrome de Babel»: a idolatria do lucro que sacrifica os fracos, uma uniformidade que neutraliza as diferenças, a ilusão de que uma única linguagem — mesmo digital — possa traduzir o mistério da pessoa em dados e desempenho (MH 10).
A reconstrução dos muros de Jerusalém sob Neemias (Neemias 2-6) representa um modo diferente de construir: na oração, na comunidade, na responsabilidade, orientado para a comunhão. Neemias não impõe uma solução de cima. Ele escuta, organiza, distribui a responsabilidade e ajuda o povo a reconstruir junto.
A pergunta que a encíclica faz a cada cristão é simples: estamos construindo Babel ou os muros de Neemias?
Quatro perguntas para o discernimento cotidiano
A encíclica não fica nos princípios abstratos. Oferece quatro perguntas concretas que cada cristão pode se fazer diante de qualquer tecnologia:
- Isso me ajuda a permanecer fiel à verdade, apesar dos conteúdos mais atraentes? (MH 237)
- Isso me ajuda a educar e a me deixar educar? (MH 238)
- Isso me ajuda a cultivar relações autênticas e a valorizar os tempos e os lugares onde a presença física continua sendo essencial? (MH 239)
- Isso me ajuda a participar da promoção da justiça e da paz? (MH 240)
São perguntas simples, mas poderosas. Tente fazê-las diante de um algoritmo que só mostra conteúdos que confirmam o que você já pensa, ou diante de um assistente virtual que substitui uma conversa real com um amigo.
O que isso significa, na prática, para um cristão
Desarmar a inteligência artificial não significa rejeitá-la. O Papa é claro: a IA pode ser uma ferramenta valiosa (MH 100). Pode curar, conectar, educar e proteger a casa comum (MH 9).
Mas significa três coisas precisas:
Não delegar o discernimento moral. Um algoritmo não conhece «a compaixão, a misericórdia, o perdão e sobretudo a esperança de que as pessoas possam mudar» (MH 102). As decisões que afetam a dignidade humana exigem sempre responsabilidade humana.
Não confundir imitação com realidade. A inteligência artificial pode imitar a linguagem, o comportamento, a análise, até a empatia. Mas seus resultados continuam vinculados ao processamento estatístico de dados, não a uma consciência, um corpo ou uma responsabilidade moral (MH 99). «Nenhum sistema computacional, por mais sofisticado que seja, pode criar um coração que se doa ou uma consciência que discerne o bem do mal» (MH 233).
Não aceitar que o valor de uma pessoa se meça pela sua utilidade. Se o ser humano é tratado como algo a ser aperfeiçoado ou superado, «torna-se mais fácil aceitar que algumas vidas sejam menos úteis, menos desejáveis ou menos dignas» (MH 117).
Um convite, não nostalgia
A tentação, ao ler um documento assim, é pensar que a Igreja é contra o progresso. Não é. Magnifica Humanitas não é um manifesto ludista. É um convite a lembrar que o progresso tecnológico só tem sentido se servir à pessoa — a toda a pessoa, com seus limites e com sua grandeza.
A plenitude da humanidade, em sua magnificência e em suas feridas, não chega por meio de uma «divinização tecnológica», mas por meio da «graça de Deus recebida em Cristo» (MH 126).
É uma mensagem contracultural. Mas talvez seja exatamente disso que precisamos.
Este artigo faz parte de uma série de reflexões sobre a Magnifica Humanitas do Papa Leão XIV, em diálogo com os temas do livro “A fé cristã na era da Inteligência Artificial”.