Le Pape Léon a un problème avec l'IA La querelle entre le Vatican et la Silicon Valley qui divise l’opinion publique

L’IA fait débat dans le monde entier, y compris au Vatican. Récemment, comme l’explique il Post, le pape Léon XIV, qui à l’occasion de la deuxième conférence annuelle de Rome sur l’intelligence artificielle s’est exprimé sur le thème de l’intégration progressive de l’IA dans le paysage contemporain, déclarant que l’Église doit « répondre à une autre révolution industrielle et aux développements de l’intelligence artificielle, qui entraînent de nouveaux défis pour la défense de la dignité humaine, de la justice et du travail ».

Que dit le Pape ?

En juin déjà, le Pape rappelait que l’IA soulève « des questions préoccupantes quant à ses possibles répercussions sur l’ouverture de l’humanité à la vérité et à la beauté, sur notre capacité particulière à comprendre et élaborer la réalité ». En novembre dernier également, le Pape a réitéré ses doutes quant au rôle toujours plus déterminant des algorithmes dans nos vies : « La logique des algorithmes tend à répéter ce qui “fonctionne”, mais l’art ouvre à ce qui est possible », a-t-il dit. La semaine dernière, le pape Léon XIV a parlé d’une évolution technologique qui pourrait « accentuer les injustices, au lieu de contribuer à les dissoudre », soulignant la nécessité de « modifier la trajectoire du développement et réparer les dommages déjà infligés à l’unité de la famille humaine ».

Ces déclarations ont attiré l’attention de certaines personnalités du secteur technologique américain, celui qui investit le plus massivement dans l’intelligence artificielle. Nombre d’entreprises, poussées par des intérêts et des capitaux importants, ont répondu à cette tentative de réguler le secteur en faisant appel au Congrès américain, demandant un moratoire qui, s’il avait été adopté, aurait interdit toute réglementation de l’IA.

L’opposition d’une partie de la Silicon Valley envers le Pape, non comme un rejet frontal de sa figure, mais sous des formes idéologiques, est devenue évidente en novembre dernier quand, sur son profil X, Léon XIV a invité « tous les constructeurs d’IA à cultiver le discernement moral comme partie fondamentale de leur travail ; à développer des systèmes reflétant justice, solidarité et un authentique respect de la vie ». Marc Andreessen, cofondateur du fonds d’investissement Andreessen Horowitz, l’un des plus riches et influents de la Silicon Valley, a commenté ironiquement le post du Pape avec un meme utilisé pour exprimer du scepticisme : quelques heures plus tard, le tweet a été supprimé après de nombreuses critiques.

Que se passe-t-il avec l’IA ?

Le bras de fer entre le Vatican et la Silicon Valley avait déjà un précédent sous le pape François, qui au G7 de 2024 avait évoqué les risques de l’IA de renforcer un paradigme technocratique, d’augmenter les inégalités entre pays et d’alimenter la « culture du déchet », soulignant la nécessité d’une réflexion éthique sur son développement. La récente alliance entre la Maison-Blanche et les entreprises technologiques constitue une difficulté supplémentaire pour le Vatican, rendant le débat plus complexe. En témoigne l’entrée dans le débat public de figures comme Mark Zuckerberg, Peter Thiel et Elon Musk, technocrates futuristes.

Avec ses déclarations, le Vatican s’est donc inséré dans le féroce débat sur l’intelligence artificielle qui divise l’opinion publique depuis quelques années. D’un côté se trouvent les « techno-optimistes » comme Andreessen, de l’autre les voix plus critiques de ceux qui s’occupent des questions éthiques de la technologie.

Avec l’élection de Donald Trump, ce fossé a pris une dimension politique, les voix les plus critiques étant souvent accusées lorsqu’elles demandent davantage de sécurité dans le domaine de l’IA. Pourtant, certaines des préoccupations soulevées restent concrètes, comme la forte consommation énergétique des data centers nécessaires à son fonctionnement, ou le risque que l’ambition d’optimisation puisse entraîner la disparition de certaines professions.

La création de systèmes comme l’AGI, la soi-disant Artificial General Intelligence (intelligence artificielle forte, ou AGI), suscite également des doutes : un système d’IA 2.0, pour ainsi dire, capable de reproduire l’activité mentale humaine. Une entité technologique dans laquelle une partie des entreprises du secteur est prête à investir. L’exemple du « Basilic de Roko », initialement publié par Less Wrong en 2010 par un utilisateur nommé Roko, reflète la nature mystique ou pseudo-religieuse de certains experts et développeurs IA. Une expérience mentale selon laquelle une superintelligence artificielle bienveillante pourrait, dans le futur, décider de punir ceux qui auraient entravé ou ralenti son développement : une sorte de chantage venu du futur auquel beaucoup, dont Musk, disent croire, peut-être alimenté par les immenses attentes autour du développement futur de la technologie.

Quel est le rapport entre l’IA et le Vatican ?

Toujours en matière de religion, « antéchrist » est l’appellation destinée à ceux qui s’opposent au progrès de l’IA. C’est ainsi que les désigne Peter Thiel, cofondateur de Palantir, entreprise américaine de data analytics et d’intelligence artificielle spécialisée dans les logiciels pour gouvernements et grandes institutions. Une figure controversée de la Silicon Valley à laquelle le New Yorker avait consacré un portrait célèbre, parmi les premiers à soutenir le gouvernement Trump. Parmi les personnes accusées d’être des « légionnaires de l’Antéchrist » par Thiel se trouveraient l’activiste suédoise Greta Thunberg et le pape Léon XIV. Aussi extrême soit-elle, l’opinion de Thiel est importante, tant pour l’influence qu’il possède dans le secteur technologique que parce qu’il a été l’un des principaux soutiens politiques de J.D. Vance, aujourd’hui vice-président des États-Unis, à qui il aurait conseillé de ne pas écouter les paroles du Pape sur l’IA, bien que Vance se soit converti au catholicisme en 2019.

Ce sont ces idéologies qui inquiètent beaucoup, parmi lesquels Massimo Faggioli, professeur de sciences religieuses au Trinity College de Dublin : « un mélange d’ancien conservatisme religieux et de futurisme hyper-technologique ». Leur diffusion représente un défi inédit pour l’Église catholique : non pas parce qu’elles pourraient se substituer au catholicisme, mais parce qu’elles pourraient l’influencer. L’élection d’un pape américain est donc survenue à un moment crucial et contribue à expliquer l’intérêt de la Silicon Valley pour le Vatican ces derniers mois, qui dans ce cas coïncide avec une friction idéologique.

Les préoccupations du Pape découlent également de sa matrice augustinienne, qui prévoit « un regard désenchanté et sceptique quant à l’appel des sirènes de la modernité et du progrès », dit Faggioli. Paolo Benanti, professeur d’éthique de l’intelligence artificielle à la LUISS et membre de l’organe consultatif sur l’IA des Nations Unies, s’accorde sur le fait que la question religieuse est de plus en plus présente dans le débat technologique américain. Benanti fait également remarquer que la Silicon Valley a toujours eu une attitude ouvertement hostile envers les institutions classiques, des banques aux médias.

À la lumière des faits récents, on peut alors se demander quelles pourraient être les conséquences de cet affrontement idéologique et comment il pourrait influencer l’optimisation de la technologie IA et l’usage que nous en ferons à l’avenir. Qui, entre le pape Léon XIV et la Silicon Valley, est prêt à faire des compromis ?