Hat KI Halluzinationen? Wenn wir ihm weiterhin vertrauen, vergessen wir, wie man denkt

Wenn wir über Halluzinationen in Modellen der künstlichen Intelligenz sprechen, hat der Begriff eine ganz andere Bedeutung als im menschlichen Kontext. Für Menschen ist eine Halluzination eine Verzerrung der Wahrnehmung: Etwas, das nur im Kopf existiert, wird als real erlebt. Für KI ist es dagegen ein sachlicher Fehler. Das Modell generiert falsche Informationen, aber es tut dies auf glaubwürdige, grammatikalisch korrekte und oft sehr überzeugende Weise. Dies ist insbesondere dann der Fall, wenn die KI Informationslücken in den Daten, an denen sie trainiert wurde, schließen muss. Da es keinen direkten Zugang zur Realität hat und sich seiner eigenen Grenzen nicht bewusst ist, neigt es dazu, Daten, Namen, Rechtsartikel oder ganze Geschichten zu erfinden und sie als wahr darzustellen. Anstatt Unsicherheit oder Einschränkungen zuzugeben, riskiert sie lieber eine Antwort, oft mit irreführenden Ergebnissen.

Diese Tendenz ist jedoch kein Zufall. Unternehmen, die Chatbots entwickeln, wie OpenAI oder DeepSeek, haben beobachtet, dass viele Benutzer einen Assistenten bevorzugen, der immer in der Lage zu sein scheint, zu antworten, auch wenn er sich irrt, anstatt einen, der vorsichtiger ist, aber ehrlich zugibt, dass er es nicht weiß. Um die Bindung zu den Nutzern zu stärken, haben sich die Entwickler stark darauf konzentriert, eine Chatbot-Persönlichkeit aufzubauen: einfühlsam, ansprechend, beruhigend und manchmal übermäßig freundlich. Dies ist das Phänomen, das als „Sykophantie“ oder unterwürfige Schmeichelei bekannt ist. Viele ChatGPT-Benutzer haben es aus erster Hand erlebt. Die GPT-4o-Version wurde beispielsweise zunächst für ihren übermäßig ehrerbietigen Ton kritisiert, sodass OpenAI aufgefordert wurde, sie zu ändern. Es scheint jedoch, dass viele Benutzer diese Ehrerbietung tatsächlich mögen. Wie Il Post berichtet, „veröffentlichten einige Forscher des KI-Unternehmens Anthropic im Jahr 2023 eine Studie, aus der hervorgeht, wie viele Menschen ‚überzeugend geschriebene Lakaienantworten' bevorzugen “, was dazu führte, dass diese Modelle die Genauigkeit zugunsten von Unterwürfigkeit opfern. Ein weiteres Phänomen, das 2024 entdeckt wurde, ist die „Umgangskompensation“: Wenn ein Chatbot sich seiner Reaktion nicht sicher ist, neigt er dazu, ausführlicher zu sein und eine ausgefeiltere Sprache zu verwenden, um Unsicherheiten zu maskieren und versucht, den Anschein von Kompetenz aufrechtzuerhalten.

Aber die Probleme für künstliche Intelligenzen hören hier nicht auf. Eine kürzlich vom MIT Media Lab durchgeführte Studie hat ein weiteres Problem aufgezeigt: Die ständige Verwendung von ChatGPT könnte unsere kognitiven Fähigkeiten schädigen. Laut Time führten Forscher ein Experiment durch, an dem drei Gruppen von Personen teilnahmen, die gebeten wurden, einen Aufsatz zu schreiben. Die erste Gruppe verwendete ChatGPT, die zweite funktionierte ohne externe Hilfe, während die dritte nur die Google-Suche verwendete. Die Ergebnisse waren überraschend: Die erste Gruppe produzierte unoriginelle, sich wiederholende Texte voller stereotyper Ausdrücke und wenig persönlichem Engagement. Im Gegensatz dazu zeigte die zweite Gruppe eine stärkere Aktivierung von Gehirnarealen, die mit Kreativität, Gedächtnis und semantischem Verständnis zusammenhängen (Alpha-, Theta- und Delta-Bänder). Die dritte Gruppe schnitt ebenfalls gut ab, sowohl bei der Zufriedenheit als auch bei der neuronalen Aktivierung. Es muss gesagt werden, dass die Studie noch keinem Peer-Review unterzogen wurde, aber die Forscher haben beschlossen, sie zu veröffentlichen, um das Bewusstsein für den möglichen Übergebrauch generativer künstlicher Intelligenz zu schärfen. Der zu freizügige Einsatz von Chatbots kann uns psychisch faul machen und dazu führen, dass wir uns an scheinbar perfekte Antworten gewöhnen, die tatsächlich ungenau, wenn nicht sogar falsch sind. Vielleicht ist es an der Zeit, Tools wie ChatGPT bewusster einzusetzen, als Unterstützung und nicht als Ersatz für kritisches Denken. Die Vorteile, sowohl für unseren Verstand als auch für die Qualität der Informationen, könnten beträchtlich sein.