Papst Leo will nicht, dass du KI benutzt Der Streit zwischen dem Papst und dem Silicon Valley, erklärt

KI löst auf der ganzen Welt Debatten aus, auch im Vatikan. Wie il Post erklärt, äußerte sich Papst Leo XIV. kürzlich anlässlich der zweiten jährlichen Konferenz über künstliche Intelligenz in Rom zum Thema der fortschreitenden Integration der KI in die zeitgenössische Landschaft und erklärte, dass die Kirche „auf eine weitere industrielle Revolution und auf Entwicklungen im Bereich der künstlichen Intelligenz reagieren muss, die neue Herausforderungen für die Verteidigung der Menschenwürde, Gerechtigkeit und Arbeit mit sich bringen“.

Was hat der Papst gesagt?

Bereits im Juni erinnerte der Papst daran, dass KI „beunruhigende Fragen zu ihren möglichen Auswirkungen auf die Offenheit der Menschheit gegenüber Wahrheit und Schönheit und auf unsere besondere Fähigkeit, die Realität zu verstehen und zu verarbeiten, aufwirft“. Auch im vergangenen November wiederholte der Papst seine Besorgnis über die zunehmend entscheidende Rolle von Algorithmen in unserem Leben: „Die Logik der Algorithmen neigt dazu, das zu wiederholen, was „funktioniert“, aber Kunst öffnet uns für das, was möglich ist „, sagte er. Letzte Woche sprach Papst Leo XIV. von einer technologischen Entwicklung, die „Ungerechtigkeiten eher verschärfen als zu ihrer Auflösung beitragen“ könnte, und betonte die Notwendigkeit, „den Entwicklungsverlauf zu ändern und den Schaden zu beheben, der der Einheit der Menschheitsfamilie bereits zugefügt wurde“.

Diese Aussagen haben die Aufmerksamkeit mehrerer Persönlichkeiten des US-Technologiesektors auf sich gezogen, der mehr als jeder andere in künstliche Intelligenz investiert. Viele Unternehmen, die von Interessen und erheblichem Kapital angetrieben wurden, haben auf diesen Versuch, den Sektor zu regulieren, reagiert, indem sie an den US-Kongress appellierten und ein Moratorium forderten, das, wenn es verabschiedet worden wäre, jegliche Regulierung von KI verboten hätte.

Der Widerstand eines Teils des Silicon Valley gegen den Papst — nicht als direkte Ablehnung seiner Figur, sondern in ideologischer Form — wurde im vergangenen November deutlich, als Leo XIV. auf seinem X-Profil „alle KI-Entwickler aufforderte, moralische Urteilsfähigkeit als grundlegenden Bestandteil ihrer Arbeit zu kultivieren; Systeme zu entwickeln, die Gerechtigkeit, Solidarität und einen authentischen Respekt vor dem Leben widerspiegeln“. Marc Andreessen, Mitbegründer des Investmentfonds Andreessen Horowitz, einer der reichsten und einflussreichsten im Silicon Valley, kommentierte den Beitrag des Papstes ironisch mit einem Meme, in dem Skepsis zum Ausdruck gebracht wurde: Wenige Stunden später wurde der Tweet gelöscht, nachdem er viel Kritik erhalten hatte.

Was passiert mit KI

Der Konflikt zwischen dem Vatikan und dem Silicon Valley hatte bereits zu Zeiten von Papst Franziskus einen Präzedenzfall, der auf der G7-Konferenz 2024 über die Risiken sprach, die mit der Stärkung eines technokratischen Paradigmas durch KI einhergehen, die Ungleichheiten zwischen Ländern vergrößern und eine „Wegwerfkultur“ fördern, während er gleichzeitig die Notwendigkeit betonte, ethisch über ihre Entwicklung nachzudenken. Die jüngste Allianz zwischen dem Weißen Haus und Technologieunternehmen stellt für den Vatikan eine zusätzliche Schwierigkeit dar und macht den Diskurs komplexer. Ein Beispiel dafür ist der Eintritt von Figuren wie Mark Zuckerberg, Peter Thiel und Elon Musk, futuristischen Technokraten, in die öffentliche Debatte.

Mit diesen Aussagen ist der Vatikan daher in die heftige Debatte über künstliche Intelligenz eingetreten, die seit einigen Jahren die öffentliche Meinung spaltet. Auf der einen Seite stehen die „Techno-Optimisten“ wie Andreessen, auf der anderen die kritischeren Stimmen derer, die sich mit den ethischen Fragen der Technologie befassen.

Mit der Wahl von Donald Trump hat diese Kluft eine politische Dimension angenommen, und die kritischeren Stimmen werden oft beschuldigt, wenn mehr Sicherheit im KI-Bereich gefordert wird. Einige der geäußerten Bedenken sind jedoch nach wie vor konkret, wie der hohe Energieverbrauch der Rechenzentren, die für ihren Betrieb erforderlich sind, oder das Risiko, dass der mit ihrer Optimierung verbundene Ehrgeiz zum Verschwinden bestimmter Berufsgruppen führen könnte.

Zweifel weckt die Schaffung von Systemen wie AGI, der sogenannten Artificial General Intelligence (starke künstliche Intelligenz oder AGI), sozusagen einem KI 2.0-System, das in der Lage ist, menschliche geistige Aktivitäten nachzuahmen. Eine technologische Einheit, in die ein Teil der Unternehmen der Branche bereit ist, zu investieren. Das Beispiel von „Roko's Basilisk“, das ursprünglich 2010 von Less Wrong von einem Benutzer namens Roko veröffentlicht wurde, spiegelt den mystischen oder pseudoreligiösen Charakter einiger KI-Experten und Entwickler wider. Ein Gedankenexperiment, dem zufolge eine wohlwollende künstliche Superintelligenz in Zukunft beschließen könnte, diejenigen zu bestrafen, die ihre Entwicklung behindert oder verlangsamt haben: eine Art Erpressung aus der Zukunft, an die viele, darunter Musk, glauben, vielleicht angetrieben von den enormen Erwartungen an die zukünftige Entwicklung der Technologie.

Was hat KI mit dem Vatikan zu tun?

Immer noch in religiöser Hinsicht ist „Antichrist“ das Etikett, das denjenigen zugewiesen wird, die sich dem Fortschritt der KI widersetzen. So werden sie von Peter Thiel, Mitbegründer von Palantir, einem US-amerikanischen Unternehmen für Datenanalyse und künstliche Intelligenz, beschrieben, das sich auf Software für Regierungen und große Institutionen spezialisiert hat. Eine umstrittene Persönlichkeit im Silicon Valley, der der New Yorker ein berühmtes Profil widmete; er gehörte auch zu den frühesten Unterstützern der Trump-Regierung. Zu denen, die von Thiel beschuldigt werden, „Legionäre des Antichristen“ zu sein, gehören die schwedische Aktivistin Greta Thunberg und Papst Leo XIV. So extrem Thiels Meinung auch sein mag, sie ist wichtig, sowohl wegen des Einflusses, den er im Technologiesektor ausübt, als auch weil er einer der wichtigsten politischen Sponsoren von J.D. Vance, dem heutigen Vizepräsidenten der Vereinigten Staaten, war, dem er Berichten zufolge riet, sich die Worte des Papstes zur KI nicht anzuhören, obwohl Vance 2019 zum Katholizismus konvertiert war.

Dies sind die Ideologien, die viele beunruhigen, darunter Massimo Faggioli, Professor für Religionswissenschaft am Trinity College Dublin: „eine Mischung aus altem religiösem Konservatismus und hypertechnischem Futurismus“. Ihre Verbreitung stellt eine beispiellose Herausforderung für die katholische Kirche dar — nicht weil sie den Katholizismus ersetzen könnten, sondern weil sie ihn beeinflussen könnten. Die Wahl eines amerikanischen Papstes fand also zu einem entscheidenden Zeitpunkt statt und erklärt das Interesse des Silicon Valley am Vatikan in den letzten Monaten, das in diesem Fall mit ideologischen Spannungen einhergeht.

Die Bedenken des Papstes sind auch auf seinen augustinischen Hintergrund zurückzuführen, der „eine ernüchternde und skeptische Einstellung gegenüber dem Sirenenruf der Moderne und des Fortschritts mit sich bringt“, so Faggioli. Paolo Benanti, Professor für Ethik der künstlichen Intelligenz an der LUISS und Mitglied des UN-Beratungsgremiums für KI, stimmt zu, dass die religiöse Frage in der technologischen Debatte der USA zunehmend präsent ist. Benanti stellt auch fest, dass das Silicon Valley traditionellen Institutionen, von Banken bis hin zu den Medien, schon immer eine offen feindselige Haltung entgegengebracht hat.

Angesichts der jüngsten Ereignisse könnte man sich fragen, welche Folgen dieser ideologische Konflikt haben könnte und wie sie sich auf die Optimierung der KI-Technologie und die Art und Weise, wie wir sie in Zukunft einsetzen werden, auswirken könnten. Wer zwischen Papst Leo XIV. und Silicon Valley ist bereit, Kompromisse einzugehen?