Kann eine künstliche Intelligenz unser Freund sein? Es ist eine präzise Nische in der wachsenden Branche, die aber auch mehrere Risiken birgt

In den letzten Jahren hat sich KI-basierte Software, die Menschen Gesellschaft leisten soll, immer weiter verbreitet. Diese Tools, die die Interaktion mit Chatbots ermöglichen, die Konversationen replizieren können, die denen mit einem Menschen sehr ähnlich sind, werden von Millionen von Menschen weltweit verwendet. Zu den führenden Unternehmen der Branche gehören Replika mit rund 25 Millionen Nutzern, MyAI von Snapchat mit einer Nutzerbasis von 150 Millionen Abonnenten, Xiaoice von Microsoft, das über 600 Millionen Menschen erreicht, und Character.AI, das von etwa 20 Millionen Menschen genutzt wird. Was diese Chatbots besonders schätzt, ist ihre Fähigkeit, sich an die Bedürfnisse der Nutzer anzupassen und Konversationen zu ermöglichen, die sich weniger kalt und „einfühlsamer“ anfühlen. Im Gegensatz zu anderen KI-Tools sind diese Softwareprogramme unter anderem so konzipiert, dass sie eine größere Persönlichkeit aufweisen, sich die vom Benutzer bereitgestellten Informationen besser merken und in einigen Fällen die Auswahl bestimmter Avatare ermöglichen. Nutzer können sich beispielsweise dafür entscheiden, mit einer Figur aus einem Film oder einer Fernsehserie zu interagieren, die ihnen besonders gut gefällt, was — wenn man darüber nachdenkt — das emotionale Engagement erhöht. Einer der interessantesten Aspekte von Systemen, die Menschen Gesellschaft leisten sollen, ist ihre ständige Verfügbarkeit: Zu jeder Tages- und Nachtzeit können Benutzer jemanden finden, der bereit ist, ihnen zuzuhören, ohne Angst vor einem Urteil zu haben — etwas, das für diejenigen nützlich sein kann, die unter Einsamkeit leiden oder Schwierigkeiten mit sozialen Interaktionen haben.

Die Risiken, eine KI als Freund zu haben

Obwohl sie temporäre psychologische Unterstützung bieten können, bergen Produkte wie Replika und andere auch Gefahren, die von jüngeren Nutzern oft unterschätzt werden. Eines der Hauptprobleme ist, dass diese Dienstleistungen, da sie von privaten Unternehmen entwickelt werden, immer kommerziellen Charakter haben. Zum Beispiel können Interaktionen mit Benutzern genutzt werden, um wertvolle Daten zu sammeln und das Erlebnis zu personalisieren, um die kontinuierliche Nutzung zu fördern, wodurch der Chatbot zu einer fast unverzichtbaren Präsenz im täglichen Leben der Abonnenten wird. Darüber hinaus wurden die langfristigen Auswirkungen der ständigen Interaktion mit diesen Tools noch nicht gründlich untersucht und könnten unvorhergesehene Folgen haben — insbesondere für die am stärksten gefährdeten Personen. Ein weiteres Risiko betrifft die potenzielle Entfremdung jüngerer Benutzer, die möglicherweise eine Vorliebe für virtuelle Kameradschaft gegenüber realen Beziehungen entwickeln. Wenn ein Teenager die meiste Zeit damit verbringt, mit einem Chatbot zu interagieren und nicht mit seiner Familie oder Gleichaltrigen, kann es sein, dass er später Schwierigkeiten hat, gesunde und authentische zwischenmenschliche Beziehungen aufzubauen.

Diese Gefahr wird durch die Tatsache verschärft, dass Chatbots in der Regel so programmiert sind, dass sie verständnisvoll und entgegenkommend reagieren und Interaktionen ohne Konflikte oder Missverständnisse anbieten. Das Problem ist, dass menschliche Beziehungen im wirklichen Leben oft komplexer sind und unter anderem Momente der Meinungsverschiedenheit und Spannung beinhalten können — alles Aspekte, die dennoch grundlegend für die emotionale und soziale Entwicklung sind. Ein weiteres Problem betrifft die rechtlichen Verpflichtungen von Unternehmen, die diese Softwareprogramme entwickeln. Viele Chatbot-Anbieter versuchen, die direkte Verantwortung für die von ihrer KI generierten Inhalte zu vermeiden, und überlassen es den Benutzern, die Grenzen der Konversationen festzulegen. Darüber hinaus fehlen diesen Tools häufig wirksame Schutzmaßnahmen, um potenziell gefährliche Verhaltensweisen — wie Anzeichen einer Depression oder suizidaler Tendenzen — zu erkennen und zu verhindern. Trotz der offensichtlichen Risiken wachsen die KI-Systeme, die den Menschen Gesellschaft leisten sollen, weiter, und viele Unternehmer in der Branche lehnen die Einführung ethischer Vorschriften entschieden ab. Kritikern zufolge könnte die Einführung von Beschränkungen für Chatbots einer Zensur gleichkommen, Innovationen behindern und die Freiheit der Nutzer einschränken, zu entscheiden, mit wem und wie sie interagieren möchten. Es bleibt abzuwarten, wie die Regierungen die Herausforderungen angehen werden, die sich aus dem zunehmenden Einsatz künstlicher Intelligenz in menschlichen Interaktionen ergeben.