O que a primeira encíclica do Papa Leão XIV diz sobre o poder da IA

Um algoritmo decide o que vemos, outro filtra o que lemos e outros ainda entram nos processos que governam o trabalho, a informação e as escolhas coletivas. Na encíclica Magnifica Humanitas. o primeiro assinado pelo Papa Leão XIV e publicado em 25 de maio, inteligência artificial não é vista apenas como mais uma tecnologia; faz parte da infra-estrutura invisível da nossa vida quotidiana contemporânea.

Mas o texto não é concebido como uma reflexão exclusivamente tecnológica. O Papa Leão XIV coloca a questão da IA ​​dentro da tradição da doutrina social da Igreja Católica e invoca diretamente – ao mesmo tempo que a atualiza – a Rerum Novarum do Papa Leão XIII (publicado em 15 de maio de 1891) no ano do seu 135º aniversário. Essa encíclica abordou a questão do trabalho no auge da revolução industrial no final do século XIX.

Se a “res novae” daquela época eram as fábricas, o trabalho e o capitalismo industrial, hoje as novas questões giram em torno de plataformas digitais, algoritmos, dados e sistemas de automação que estão a remodelar o poder, a economia e as relações sociais. Por esta razão, a encíclica não se apresenta como um texto técnico sobre inovação, mas antes como uma tentativa de interpretar a transformação digital à luz da dignidade humana e do bem comum. A tecnologia, escreve o Papa, não é má em si; pelo contrário, pertence à história e à criatividade humanas. Mas a situação actual é diferente tanto em escala como em profundidade: “Nunca a humanidade teve tanto poder sobre si mesma”, observa o texto, descrevendo tecnologias que agora moldam os processos de tomada de decisão, a imaginação colectiva e a vida social de uma forma cada vez mais difundida.

Foi deste ponto que Robert Francis Prevost escolheu começar: da crescente concentração de poder exercido através de sistemas cada vez mais opacos, mas cada vez mais decisivos, e da questão que permeia toda a encíclica: O que resta da dignidade humana, da protecção da verdade, do trabalho, da justiça social e da paz quando as decisões são transferidas para a lógica algorítmica?

Tecnologia de desarmamento

Na encíclica há uma expressão que se torna a chave para interpretar todo o cenário: “desarmar a tecnologia”. O significado está muito distante de qualquer tentativa de retardar o desenvolvimento da inteligência artificial ou de negar para sempre o seu impacto potencialmente transformador. Para Robert Francis Prevost, desarmar a IA significa evitar que ela se torne uma forma de poder capaz de dominar a existência humana.

Para Leão XIV, a questão não é a tecnologia em si, mas a sua organização e aplicação. A IA, escreve o Papa, faz hoje parte de uma corrida global rumo ao “algoritmo de maior desempenho” e ao “maior centro de dados”, onde a vantagem competitiva também se torna geopolítica. Neste contexto, alguns atores concentram infraestrutura digital, dados e capacidade computacional, o que afeta a informação, a economia e até a democracia.

Desarmar significa quebrar esta equação entre o poder técnico e o direito de governar. “Como acontece com todos os grandes momentos de viragem tecnológica, a IA tende sobretudo a aumentar o poder daqueles que já possuem recursos económicos e acesso aos dados”, explica o pontífice.

Em termos explícitos, a encíclica afirma que não basta apenas regular a tecnologia: esta deve ser retirada dos monopólios, tornada transparente e aberta ao desafio – isto é, tornada “habitável” por uma pluralidade de actores. Acima de tudo, a IA deve ser impedida de se tornar um instrumento de dominação económica, política ou militar por um grupo seleto. Isto não é uma metáfora moral: é um apelo para evitar que a lógica da concorrência transforme uma infra-estrutura partilhada num sistema de controlo.

A verdade nos sistemas que selecionam a realidade

Se a tecnologia concentra o poder, um dos primeiros efeitos concretos diz respeito à forma como a verdade colectiva é formada. A encíclica aborda a questão da desinformação, mas de uma forma decididamente mais profunda porque a realidade percebida, ou melhor, a experiência, é cada vez mais filtrada por sistemas que decidem o que mostrar e o que esconder.

Não se trata apenas de notícias falsas ou de conteúdos falsos sob diversas formas. O problema é que plataformas e algoritmos selecionam informações com base em critérios de maximização de atenção e engajamento. Ou seja, o que se torna visível não é necessariamente o que é mais verdadeiro, mas o que funciona melhor para gerar reações. Desta forma, a verdade não desaparece, mas torna-se dependente de sistemas opacos que influenciam opiniões, percepções e escolhas colectivas sem que seja sempre claro como.