IA Confiável e “Magnifica Humanitas”: a mesma agenda, vista de outro lugar

Consuelo Rodrigues

"A inteligência artificial não é neutra. Ela assume a face de quem a cria, regula e financia." (Igreja Católica, 2026, n. 12).

A frase é do Papa Leão XIV, na encíclica "Magnifica Humanitas", assinada em 15 de maio, sobre a salvaguarda da pessoa humana na era da IA. Não é texto religioso de circunstância.

É um documento social, herdeiro da "Rerum Novarum", escrito com apoio de cientistas e pesquisadores da área, que coloca a ética da IA no centro da Doutrina Social da Igreja.

A encíclica tem cinco capítulos. O primeiro retoma a Doutrina Social da Igreja como teologia da comunhão na história e insiste no seu caráter dinâmico: não é manual de normas, é uma lente para ler os acontecimentos à luz do Evangelho. O segundo apresenta os fundamentos: a dignidade da pessoa criada à imagem de Deus, a inviolabilidade dos direitos humanos, o reconhecimento dos direitos das minorias, e os cinco princípios que daí derivam (bem comum, destinação universal dos bens, subsidiariedade, solidariedade e justiça social). O terceiro é o que mais interpela quem trabalha com governança de IA. Trata da relação entre técnica e domínio, defende um código ético submetido a critérios de justiça social compartilhada e convoca ao que o Papa chama de "desarmar a IA": subtraí-la à lógica da competição militar, econômica e cognitiva, e aos monopólios que impedem a tecnologia de servir ao bem comum. O quarto defende uma ecologia da comunicação baseada na verdade. O quinto aborda guerra, multilateralismo e o uso de sistemas autônomos.

Quando li, fiz um teste. Peguei o livro que coautorei e fui cruzando, item por item, os seis princípios de IA Confiável que sistematizo ali, a partir de fontes como OCDE e UNESCO: transparência, responsabilidade, justiça e não viés, privacidade, explicabilidade e robustez.

A cada princípio, uma passagem da encíclica respondia. A coincidência me desconcertou.

O Papa fala em "arquitetura da visibilidade" para denunciar algoritmos opacos. Fala em "novo extrativismo colonial" para descrever a coleta massiva de dados. E adverte que delegar decisões sensíveis à aparente objetividade matemática esconde escolhas humanas que precisam ser auditadas. É a mesma agenda, vista de outro lugar.

Seis princípios, uma só exigência

Privacidade. Na governança de IA, o princípio trata da proteção de dados pessoais da coleta ao descarte, com o titular no controle das próprias informações e das decisões que elas alimentam. Segurança no armazenamento é o mínimo. O que importa é a legitimidade do propósito e a capacidade real de exercer direitos.

A encíclica chega lá por outra porta. Leão XIV classifica a exploração comercial de dados como "novo extrativismo colonial", em que grandes corporações se apropriam de vidas pessoais e as transformam em informação explorável. O ambiente digital vira, nas palavras dele, um "espaço de predação". E há ainda a "arquitetura da visibilidade": plataformas desenhadas para capturar o tempo do usuário, explorar suas fragilidades e perfilar comportamentos para orientar preferências. Proteger dado, para o Papa, não é cumprir uma lei. É proteger a intimidade e a liberdade interior contra sistemas feitos para transformar o humano em dado. Em linguagem técnica, é exatamente o que o princípio de privacidade tenta garantir.

Justiça e não viés. O ponto de partida é que algoritmos não são neutros. Eles carregam as prioridades de quem os projeta, financia e regula. Treinados em dados históricos, reproduzem desigualdades quando ninguém corrige.

O diagnóstico do Papa é o mesmo. Ele adverte que as tecnologias digitais criam um poder que ameaça "excluir e discriminar os mais fracos", com impacto desproporcional sobre mulheres e migrantes. E vai a um ponto incômodo: não adianta uma "IA mais moral" se essa moral for decidida por quem detém o poder computacional. Justiça algorítmica de verdade exige sistemas a serviço do bem comum, com benefícios distribuídos. A pergunta não é se o sistema é eficiente. É eficiente para quem, e a que custo para quem fica de fora.

Transparência. Significa tornar inteligíveis os critérios de funcionamento, sobretudo nos sistemas que decidem sobre pessoas. Funcionar não basta. Precisa ser possível entender como e por que se chegou ao resultado, para que exista contestação.

Leão XIV faz a mesma cobrança em outra chave. Critica a "arquitetura da visibilidade" das plataformas, que amplificam só o que gera engajamento e moldam opiniões artificialmente, favorecendo a desinformação. Exige transparência nos critérios de curadoria de conteúdo e convoca sociedade e imprensa a um papel crítico, para que o conhecimento siga relacional e autêntico, não apenas transacional. A transparência, para ele, é o antídoto contra a manipulação da verdade. Abrir as caixas-pretas, portanto, não é exigência regulatória opcional. É o que torna o debate público sobre IA possível.

Robustez. Trata da resiliência técnica: operar com segurança em condições adversas e falhar de modo controlado. Sistema robusto é o que reconhece os próprios limites e não os ultrapassa.

Aqui a encíclica amplia o olhar. Leão XIV dedica espaço à crítica do transumanismo e do pós-humanismo, correntes que leem o progresso como superação dos limites do humano.

Para o Papa, o limite não é defeito a eliminar. É dimensão constitutiva da pessoa. É na fragilidade e na finitude que amadurecem a relação e a abertura ao outro. Sistemas de IA não têm corpo, não sentem alegria nem dor, e falham justamente porque lhes falta a vivência concreta da realidade. Crescer eliminando os limites do humano, escreve ele, "significa fazer o coração regredir". A convergência é menos técnica e mais filosófica, mas não é menor: sistema robusto, no sentido pleno, é o que sabe o que não sabe e não tenta substituir o julgamento humano onde não tem capacidade real.

Explicabilidade. O termo em inglês, explainability, pede que se compreenda por que um sistema decidiu o que decidiu, em especial nos contextos sensíveis. O resultado não basta.

O raciocínio precisa ser auditável e comunicável em linguagem humana.

O Papa alcança o mesmo ponto ao alertar contra a delegação de decisões críticas (crédito, contratação, sentença) a máquinas, sob o pretexto de que os resultados são "puramente matemáticos". A objetividade aparente do algoritmo esconde escolhas políticas e humanas que precisam ser auditadas. Um sistema cujos critérios não se explicam impede a contestação e o diálogo. E sem diálogo não há justiça. É aí que explicabilidade deixa de ser requisito técnico e vira condição ética.

Responsabilidade. Talvez a área de maior urgência, e de maior convergência. O princípio exige que haja sempre um sujeito humano identificável respondendo pelas consequências.

Não existe responsabilidade coletiva difusa que substitua esse sujeito: alguém concebeu, alguém financiou, alguém implementou, alguém usou.

O trecho mais duro do texto está aqui: "Não existe algoritmo que possa tornar a guerra moralmente aceitável. Toda tecnologia que facilita atacar sem ver o rosto do outro abaixa o limiar moral do conflito." É a desumanização da decisão letal. E o princípio vale fora da guerra também. A responsabilidade por decisões críticas precisa ser de um humano, e isso é inalienável. Vale para quem decide um crédito, uma contratação, uma sentença. Quando a máquina decide e ninguém responde, perdemos o sujeito da responsabilidade. Sem sujeito responsável, não há justiça possível. A encíclica é categórica: condena o uso de IA em armas autônomas e recusa qualquer tentativa de atribuir responsabilidade moral a máquinas. A responsabilidade final é inteiramente humana. Somos nós os guardiões éticos que responderemos pelo desemprego em massa, pela exclusão, pela desumanização.

A poluição social da automação

Faço um paralelo com a Revolução Industrial. Ela enriqueceu poucos e deixou poluição para muitos, e levamos décadas para aprender a cobrar de quem polui. A IA traz o risco de uma poluição social equivalente. Mercados que se esvaziam porque as pessoas perdem renda ao serem substituídas. Abismos entre quem controla a tecnologia e quem é controlado por ela. A tecnologia salva, melhora, é inexorável. Mas precisa de guarda-corpos que deem tempo de adaptação.

A encíclica nomeia esse risco com precisão. Leão XIV defende que a tecnologia pode aliviar o ser humano de tarefas pesadas ou repetitivas, mas não deve gerar desemprego em nome do corte de custos e do lucro. Chama o momento de "quarta revolução industrial" e exige sistemas centrados na pessoa, não no desempenho. Trata também do impacto ambiental dessas tecnologias, que consomem muita energia e água. E apresenta as "novas terras raras do poder": informações vitais sobre saúde e demografia usadas para orientar estratégias econômicas, uma face inédita do colonialismo digital. É aqui que a governança ética de IA sai do território corporativo e entra no território civilizatório.

Conclusão

Leão XIV tem a autoridade moral para nos convocar, com "Magnifica Humanitas", a proteger a grandeza da humanidade diante do avanço da IA.

Para quem trabalha com governança de dados e IA, o texto não é leitura opcional. É um espelho inesperado. Reflete, em outra linguagem e outra tradição, as mesmas exigências que os frameworks técnicos tentam pôr em prática. Transparência, responsabilidade, justiça, privacidade, explicabilidade e robustez não são só itens de conformidade. São, na leitura do Papa, condição para que a tecnologia continue subordinada à humanidade, e não o contrário.

A IA não é neutra. Nunca foi. E decidir a quem ela serve é, antes de tudo, uma escolha humana.

Bibliografia: 

GALANI, Consuelo Milani Rodrigues. Contexto Prático: Como empresas podem se preparar para Governança de Inteligência Artificial. In: LIMA, Ana Paula Canto de; CERQUEIRA, Milla; HACKEROTT, Nadia (coord.). Guia Prático do Direito Digital. São Paulo: Thomson Reuters, 2025. cap. 2, p. 118-119. 

IGREJA CATÓLICA. Papa (Leão XIV). Carta Encíclica Magnifica Humanitas: sobre a salvaguarda da pessoa humana na era da inteligência artificial. Vaticano: Typis Polyglottis Vaticanis, 15 maio 2026. 

PIRO, Isabella. A encíclica de Leão XIV: a IA deve servir à humanidade, não ao poder de poucos. Vatican News, 25 maio 2026. Disponível em: https://www.vaticannews.va/pt/papa/news/2026-05/papa-leao-xiv-enciclica-magnifica-humanitas-sintese.html. Acesso em: 28 maio 2026.