Papa Leão não quer que use IA A disputa entre o Papa e o Vale do Silício, explicada

A IA está a suscitar debates em todo o mundo, inclusive no Vaticano. Recentemente, como explica o il Post, o Papa Leão XIV, por ocasião da segunda conferência anual de Roma sobre Inteligência Artificial, falou sobre o tema da integração progressiva da IA na paisagem contemporânea, afirmando que a Igreja deve “responder a outra revolução industrial e a desenvolvimentos na inteligência artificial, que colocam novos desafios para a defesa da dignidade humana, da justiça e do trabalho”.

O que disse o Papa?

Já em junho, o Papa lembrou que a IA levanta “questões preocupantes sobre as suas possíveis repercussões na abertura da humanidade à verdade e à beleza, e sobre a nossa capacidade particular de compreender e processar a realidade”. Também em novembro passado, o Papa reiterou as suas preocupações sobre o papel cada vez mais decisivo dos algoritmos nas nossas vidas: “A lógica dos algoritmos tende a repetir o que “funciona”, mas a arte abre-nos ao que é possível”, afirmou. Na semana passada, o Papa Leão XIV falou de uma evolução tecnológica que poderia “acentuar as injustiças, em vez de ajudar a dissolvê-las”, sublinhando a necessidade de “alterar a trajetória do desenvolvimento e reparar os danos já infligidos à unidade da família humana”.

Estas declarações têm chamado a atenção de várias figuras do setor tecnológico norte-americano, que mais do que qualquer outro está a investir em inteligência artificial. Muitas empresas, movidas por interesses e capital significativo, têm respondido a esta tentativa de regular o setor apelando ao Congresso norte-americano, apelando a uma moratória que, se tivesse aprovado, teria banido qualquer regulamentação da IA.

A oposição de parte do Vale do Silício ao Papa — não como uma rejeição direta da sua figura, mas em formas ideológicas — tornou-se evidente em novembro passado, quando, no seu perfil X, Leão XIV convidou “todos os construtores de IA a cultivar o discernimento moral como parte fundamental do seu trabalho; a desenvolver sistemas que reflitam justiça, solidariedade e um respeito autêntico pela vida”. Marc Andreessen, cofundador do fundo de investimento Andreessen Horowitz, um dos mais ricos e influentes do Vale do Silício, comentou ironicamente o post do Papa com um meme utilizado para expressar ceticismo: poucas horas depois o tweet foi apagado, depois de ter recebido muitas críticas.

O que está a acontecer com a IA

O embate entre o Vaticano e o Vale do Silício já teve precedente durante a época do Papa Francisco, que no G7 de 2024 falou sobre os riscos da IA reforçar um paradigma tecnocrático, aumentar as desigualdades entre os países, e promover uma “cultura do descartável”, ao mesmo tempo que salientava a necessidade de refletir eticamente sobre o seu desenvolvimento. A recente aliança entre a Casa Branca e as empresas tecnológicas constitui uma dificuldade adicional para o Vaticano, tornando o discurso mais complexo. Exemplo disso é a entrada no debate público de figuras como Mark Zuckerberg, Peter Thiel, e Elon Musk, tecnocratas futuristas.

Com estas declarações, portanto, o Vaticano entrou no feroz debate sobre a inteligência artificial que há alguns anos vem a dividir a opinião pública. De um lado estão os “tecno-optimistas” como Andreessen; do outro estão as vozes mais críticas daqueles que lidam com as questões éticas da tecnologia.

Com a eleição de Donald Trump, esta divisão assumiu uma dimensão política, com as vozes mais críticas a serem frequentemente acusadas sempre que se pede maior segurança no campo da IA. No entanto, algumas das preocupações levantadas continuam concretas, como o elevado consumo de energia dos centros de dados necessários ao seu funcionamento, ou o risco de que a ambição ligada à sua otimização possa levar ao desaparecimento de certas profissões.

A levantar dúvidas está a criação de sistemas como o AGI, a chamada Inteligência Geral Artificial (inteligência artificial forte, ou AGI), um sistema AI 2.0, por assim dizer, capaz de replicar a atividade mental humana. Uma entidade tecnológica em que parte das empresas do setor estão prontas a investir. O exemplo de “Roko's Basilisk”, inicialmente publicado pela Less Wrong em 2010 por um utilizador chamado Roko, reflete a natureza mística ou pseudo-religiosa de alguns especialistas e programadores de IA. Uma experiência mental segundo a qual uma superinteligência artificial benevolente, no futuro, pode decidir punir aqueles que impediram ou retardaram o seu desenvolvimento: uma espécie de chantagem do futuro em que muitos, incluindo Musk, dizem acreditar, talvez alimentada pelas enormes expectativas em torno do desenvolvimento futuro da tecnologia.

O que é que a IA tem a ver com o Vaticano?

Ainda em termos religiosos, “anticristo” é o rótulo atribuído a quem se opõe ao progresso da IA. É assim que são descritos por Peter Thiel, co-fundador da Palantir, empresa norte-americana de análise de dados e inteligência artificial especializada em software para governos e grandes instituições. Uma figura controversa no Vale do Silício, a quem o The New Yorker dedicou um perfil famoso; esteve também entre os primeiros apoiantes da administração Trump. Entre os acusados de serem “legionários do Anticristo” por Thiel estão a ativista sueca Greta Thunberg e o Papa Leão XIV. Por mais extrema que seja a opinião de Thiel, é importante quer pela influência que exerce no setor tecnológico, quer porque foi um dos principais patrocinadores políticos de J.D. Vance, agora vice-presidente dos Estados Unidos, a quem teria aconselhado a não ouvir as palavras do Papa sobre a IA, apesar de Vance ter se convertido ao catolicismo em 2019.

Estas são as ideologias que preocupam muitos, incluindo Massimo Faggioli, professor de Estudos Religiosos do Trinity College Dublin: “uma mistura de conservadorismo religioso antigo e futurismo hiper-tecnológico”. A sua circulação representa um desafio sem precedentes para a Igreja Católica — não porque poderiam substituir o catolicismo, mas porque poderiam influenciá-lo. A eleição de um papa norte-americano decorreu assim num momento crucial e ajuda a explicar o interesse do Vale do Silício pelo Vaticano nos últimos meses, o que neste caso coincide com um atrito ideológico.

As preocupações do Papa decorrem também do seu passado agostiniano, o que implica “um desencantado e cético”, diz Faggioli. Paolo Benanti, professor de Ética da Inteligência Artificial do LUISS e membro do órgão consultivo da ONU sobre IA, concorda que a questão religiosa está cada vez mais presente no debate tecnológico dos EUA. Benanti nota ainda que o Vale do Silício sempre teve uma atitude abertamente hostil em relação às instituições tradicionais, dos bancos aos media.

À luz dos acontecimentos recentes, poder-se-ia perguntar quais podem ser as consequências deste choque ideológico e como podem afetar a otimização da tecnologia de IA e a forma como a usaremos no futuro. Quem, entre o Papa Leão XIV e o Vale do Silício, está disposto a fazer um compromisso?