Warum gibt es so viele politische Propagandavideos mit KI? Wir haben Donatella Della Ratta, Kommunikationsprofessorin an der John Cabot University, gefragt

In letzter Zeit haben sich unsere Social-Media-Feeds mit seltsamen und oft absurden KI-Videos gefüllt, die die fieberhaften Fantasien zahlreicher rechter Politiker zum Leben zu erwecken scheinen: Trump ändert den Namen auf dem Schild vor dem Ontariosee, Ben Gvir beobachtet, wie ein Förderband voller palästinensischer Gefangener auf ein Gefängnis zubewegt wird, Roberto Vannacci spielt einen modernen Batman, der Straßenkriminelle verprügelt. Videos von Professor Donatella Della Ratta, Dozentin für Kommunikation an der John Cabot University in Rom, die das Thema in ihrem Buch Violenza speculativa behandelte. Come L'ia ci abitua all'orrore, herausgegeben von Einaudi und jetzt erhältlich, wird als „synthetische Propaganda“ beschrieben.

Diese Videos haben einen ausnahmslos düsteren Ursprung, eine audiovisuelle Erzählung, die politische Fantasien inszeniert, deren tatsächliche Gewalt von den direkt Beteiligten niemals offen geäußert werden könnte, sowie ein gewisses Maß an allegorischer Einfachheit, das sie fast grotesk erscheinen lässt. „Es ist schwierig, eine einzige politische Figur zu identifizieren, die das KI-generierte politische Video ‚erfunden' hat“, erklärt Della Ratta und stellt fest, dass die Entstehung dieser Videos vor Trumps zweiter Präsidentschaft erfolgte, obwohl „was sich mit Donald Trump und dem MAGA-Universum radikal ändert, das Ausmaß der Verbreitung, die Häufigkeit, mit der dieser Inhalt verstärkt wird, und vor allem die Sprache“. Und tatsächlich stammt heute „die mächtigste Maschine der politischen Vorstellungskraft, die durch Slop erzeugt wird, genau aus diesem Universum“. Aber wie genau funktionieren diese Videos?

Die Macht des Grotesken

Wie Della Ratta erklärt, macht gerade die Tatsache, dass diese Videos so albern wirken, einem Zeichentrickfilm so nahe kommen, sie gefährlich, weil sie das Publikum überraschen: Angesichts ihrer Einfachheit wird nicht die geringste Skepsis geäußert. „Der Trump'sche Stil ist geprägt von Spott, Spott und scheinbar absurder Übertreibung“, erklärt sie. „Wir könnten das alles als geschmacklos, als Provokation oder als einfaches Trolling abtun. Mein Argument ist jedoch, dass genau darin ihre politische Macht liegt und dass all das sehr, sehr ernst genommen werden muss.“

KI-generierte politische Videos zielen nicht darauf ab, zu erklären oder plausibel zu sein — sie zielen darauf ab, eine Fantasie zu manifestieren. Sie dienen dazu, „Ideen, die allein in Worten ausgedrückt, extrem, inakzeptabel oder einfach absurd erscheinen könnten, eine unmittelbare, leicht zu teilende visuelle Form zu geben“, und wenn sie wiederholt beobachtet werden, „werden sie vertraut, dann denkbar und unter bestimmten Bedingungen politisch umsetzbar“. Dies ist der Prozess, den Della Ratta als „spekulative Gewalt“ bezeichnet: die Fähigkeit von Bildern, extreme Szenarien visuell zu antizipieren, sie in den Bereich des Sichtbaren und Denkbaren zu bringen, bevor sie tatsächlich Wirklichkeit werden, und zu demonstrieren, wie „Ideen, die ausreichend radikal und respektlos sind“, sobald sie eine vertraute visuelle Form angenommen haben, „dazu beitragen können, die bestehende Ordnung zu destabilisieren und den Boden für eine andere zu bereiten“.

Wenn wir in diesen Videos "Migranten in Ketten sehen, die in ASMR-Inhalte verwandelt werden, politische Gegner in Mariachi-Sombreros und Schnurrbärten, rassistische Karikaturen, Trump selbst in verschiedenen Rollen als Superheld, Papst, Kaiser oder Retter“, ist die Absicht, „unseren Blick auf die Realität vorzubereiten, die kommen könnte“. Eine moderne Anwendung der Maxime, die Joseph Goebbels, dem Propagandaminister der Nazis, zugeschrieben wird, dass eine millionenfach wiederholte Lüge irgendwann zur Wahrheit wird. „Ich denke nicht mehr, dass die grundlegende Frage lautet: Ist dieses Bild wahr oder falsch? „sagt Della Ratta. „Die Frage ist: Was konditioniert uns beim Sehen? Welche Zukunft trainiert es uns, sie als möglich anzuerkennen? „

Ist es nur Satire?

„Viele dieser Inhalte entziehen sich den traditionellen Moderationsmechanismen, gerade weil sie nicht versuchen, sich als real auszugeben“, erklärt Della Ratta und nennt als Beispiel die Videos, in denen Roberto Vannacci, verkleidet als römischer Kaiser, seine politischen Gegner im Kolosseum zum Tode verurteilt. „Dass es sich um eine Fantasie handelt, heißt nicht, dass sie politisch harmlos ist“, denn sie „macht die Eliminierung des politischen Gegners sichtbar und führt sie vor allem in die Ordnung des gewöhnlichen Sichtbaren ein“. Die offizielle Ausrede, die in diesem Fall von Vannacci selbst benutzt wurde, ist, dass es sich bei den Videos lediglich um politische Satire handelt. Aber ist das wirklich so?

Die Sache ist nicht so einfach, wenn man bedenkt, dass "diese scheinbare Unwirklichkeit auch eine Form des Schutzes darstellt. Man kann fast alles zeigen und es dann neutralisieren, indem man sagt: Es war ein Witz.“ So absurd ein Video, das Gewalt (in einigen Fällen sogar Gewalt gegen Frauen) darstellt, auch wenn es fiktiv ist, "die Idee wurde formuliert, visualisiert und geteilt. Es ist in die kollektive Vorstellungskraft eingegangen.“ Und es spielt keine Rolle, ob es erneut geteilt wird, um es zu kritisieren, um darüber zu lachen oder aus echter ideologischer Überzeugung: Es geht darum, dieses Bild in Umlauf zu bringen, unabhängig vom Rahmendiskurs, der es umgibt.

„Diese Bilder, gesehen und wieder gesehen, sedimentieren“, erklärt Della Ratta und stützt sich dabei auf Walter Benjamins Konzept des „optischen Unbewussten“. „Wenn ein bestimmtes Szenario wieder auftaucht, vielleicht in einem völlig anderen Kontext oder sogar in Bildern eines realen Ereignisses, kann es das Gefühl eines Déjà-vus erzeugen, das für mein Konzept von spekulativer Gewalt von zentraler Bedeutung ist. Es hat uns nicht unbedingt überzeugt: Es hat uns vertraut gemacht.“ Und ihre sehr künstliche Qualität, die für den KI-Fotorealismus so typisch ist, gepaart mit einer elementaren Erzählung, „wird zu einer gemeinsamen visuellen Sprache. Ihre Künstlichkeit kann sogar als eine Art Passierschein dienen: Gerade weil wir wissen, dass es die KI ist, sind wir bereit, Repräsentationen zu akzeptieren, die uns in einem anderen visuellen Register weitaus beunruhigender erscheinen würden.“

Zeigen, was nicht gesagt werden kann

Das Ergebnis ist, dass „ein Politiker dem synthetischen Bild anvertrauen kann, was in einer Rede weitaus schwieriger wörtlich zu behaupten wäre: die Ausschaltung des Gegners, die Deportation des Migranten, die Bestrafung der Frau, die nicht bestimmten Werten entspricht.“ Und ihre Mehrdeutigkeit ermöglicht es ihnen, sich sowohl der gesetzlichen Regulierung als auch den Moderationssystemen in den sozialen Medien zu entziehen, über die sie sich verbreiten. „Ein Moderationssystem, das auf Kategorien wie wahr/falsch, authentisch/manipuliert, Information/Desinformation basiert“, erklärt der Autor, „ist strukturell schlecht gerüstet, um mit Bildern umzugehen, deren Macht gerade darin besteht, zu keiner dieser Kategorien zu gehören.“

Das Problem kommt immer wieder auf die Sichtbarkeit zurück. „Spekulative Gewalt dokumentiert nicht unbedingt eine Gewalt, die bereits stattgefunden hat, und fantasiert auch nicht nur von einer unmöglichen Gewalt“, schließt sie. „Es funktioniert in der Zukunft. Es macht heute sichtbar, was politisch inakzeptabel wäre, sodass es morgen vielleicht weniger fremd, weniger undenkbar — ja vertraut erscheint.“