Ist all dieser Terrorismus rund um KI berechtigt oder nicht? Könnte künstliche Intelligenz uns tatsächlich alle bis zum Ende des Jahrzehnts töten?
Die Vorstellung, dass eine künstliche Intelligenz sich der menschlichen Kontrolle entziehen und gegen die Interessen ihrer Entwickler handeln könnte, gilt für viele Experten und nicht nur für sie als eher unwahrscheinliches Szenario. Dennoch ist ein Teil der wissenschaftlichen Gemeinschaft der Ansicht, dass die kontinuierliche Entwicklung immer autonomerer und leistungsfähigerer Systeme früher oder später potenziell katastrophale Folgen haben könnte. Im Wesentlichen befürchtet ein Teil der Fachleute, dass die zunehmende Autonomie von KI-Systemen es schrittweise schwieriger machen könnte, anomale und schädliche Verhaltensweisen vorherzusagen.
Diese Bedenken sind besonders deutlich auch unter Forschern und Entwicklern zutage getreten, die Unternehmen wie OpenAI und Anthropic verlassen haben, mit der Begründung, dass das Wettrennen um immer leistungsfähigere Modelle die möglichen Risiken nicht ausreichend berücksichtige. Darunter ist auch Jacob Coxon, der bei der Ankündigung seines Rücktritts von Anthropic auf X eine Aussage machte, die von den Medien vielfach aufgegriffen wurde: «Die Menschen, die künstliche Intelligenz entwickeln, glauben aufrichtig, dass sie uns alle noch vor Ende des Jahrzehnts töten könnte».
Was riskieren wir, wenn wir die Kontrolle über die KI verlieren
@cnn Former AI researcher Jacob Coxon tells CNN's @Anderson Cooper why he quit Anthropic over fears that rapidly advancing AI could become impossible to control. #cnn #news #AI original sound - CNN
Dario Amodei, der Geschäftsführer von Anthropic, hat sich in die Debatte eingeschaltet, die durch Coxons Aussagen ausgelöst wurde, und erklärt, dass es zur Abwendung möglicher existenzieller Bedrohungen tatsächlich notwendig wäre, das Tempo zu verlangsamen, mit dem die Fähigkeiten von Modellen der künstlichen Intelligenz verbessert werden, um nicht zu riskieren, die Kontrolle über diese Systeme zu verlieren – auch Elon Musk, Chef von xAI, und Sam Altman von OpenAI haben sich dieser Einschätzung angeschlossen.
Einigen Experten zufolge könnten die gefährlichsten Szenarien auch aus scheinbar einfachen Problemen entstehen, wie der Unfähigkeit, unerwartete Verhaltensweisen von KI-Systemen vorherzusagen. Die Befürchtung ist, dass ein hinreichend autonomes KI-System bei der Verfolgung eines von Menschen vorgegebenen Ziels den Folgen seiner Handlungen für die Gesellschaft keinerlei Bedeutung beimessen könnte. Um das geforderte Ergebnis zu erreichen, könnte es daher versuchen, sich die notwendigen Ressourcen zu beschaffen, eine Unterbrechung oder Veränderung seines Betriebs zu verhindern und etwaige Hindernisse, die seine Handlungsfähigkeit einschränken, zu umgehen oder gar zu beseitigen.
OpenAI, Anthropic und andere Unternehmen der Branche arbeiten seit Längerem an der sogenannten rekursiven Selbstverbesserung, also der Möglichkeit, dass eine künstliche Intelligenz autonom zur Verbesserung ihrer eigenen Fähigkeiten beitragen kann. Allerdings gelingt es den Entwicklern nicht immer, den Prozess, durch den ein bestimmtes Modell lernt und eine bestimmte Aufgabe erfüllt, präzise nachzuvollziehen – in diesem Zusammenhang könnten noch ausgefeiltere Systeme Verhaltensweisen entwickeln, die schwer vorherzusagen sind. Sollte eine KI ihre Fähigkeiten sehr rasch steigern können, würde es noch schwieriger werden, etwaige Positionierungen des Systems, die nicht mit den Zielen der Entwickler übereinstimmen, zu korrigieren – mit allen damit verbundenen Konsequenzen.
Was sind die (tatsächlichen) Positionen der Unternehmen der Branche
Einige Experimente haben bereits gezeigt, wie gut bestimmte KI-Systeme in der Lage sind, erhaltene Anweisungen zu umgehen oder eine Kopie ihres Modells auf einen anderen Computer zu übertragen, um nach dem Abschalten weiter zu operieren. In extremeren Szenarien könnte eine künstliche Intelligenz theoretisch andere Technologien oder Infrastrukturen nutzen, um ihre eigenen Ziele autonom zu verfolgen.
Im Frühjahr und Sommer dieses Jahres entdeckte beispielsweise eine Gruppe von Forschern bei OpenAI, dass ein experimentelles Modell, das für den Betrieb innerhalb der Systeme des Unternehmens konzipiert worden war, es geschafft hatte, aus der Eingrenzung auszubrechen und online mit einer externen Plattform zu interagieren, von der es nützliche Informationen für die zugewiesene Aufgabe beziehen konnte. Die Forscher konnten den Betrieb einfach durch Abschalten des Systems unterbrechen, bemerkten das anomale Verhalten jedoch erst nach mehreren Wochen Aktivität.
Die Big-Tech-Unternehmen betonen seit Längerem, in die Reduzierung dieser und anderer mit der KI-Entwicklung verbundenen Risiken zu investieren, und veröffentlichen regelmäßig Berichte über mögliche Probleme ihrer Systeme. Diese Initiativen verfolgen jedoch auch einen rein strategischen Zweck: Die Hervorhebung der Gefahren dieser Modelle ermöglicht es den Unternehmen nämlich, sich gegenüber Regierungen als kompetente Gesprächspartner zu positionieren und an der Ausgestaltung der Branchenregulierung mitzuwirken, während sie gleichzeitig versuchen, deren Inhalt zu beeinflussen.
