Meta hat eine KI patentiert, die auch nach deinem Tod weiter posten wird Ein digitaler Klon könnte die Beiträge verstorbener Benutzer kommentieren

Wenn es eine Gewissheit gibt, dann ist es der Tod — aber nicht für Meta und die dystopische Welt, in der wir leben. Die Nachricht von XXXX scheint direkt aus einer Episode von Black Mirror zu stammen, doch es ist die Realität, in die wir uns zunehmend hineinversetzen. Im Dezember 2023 erhielt Meta ein Patent für ein künstliches Intelligenzsystem, das die Aktivitäten eines Benutzers in sozialen Netzwerken simulieren kann, wenn dieser Benutzer „nicht im System ist, beispielsweise während einer langen Pause oder wenn er verstorben ist“. Der Instagram-Account einer verstorbenen Person konnte dank des von Metas CTO Andrew Bosworth unterzeichneten Patents weiterhin Kommentare, Likes und Beiträge posten.

Laut Business Insider beschreibt das Patent, wie ein großes Sprachmodell die Aktivitäten einer Person in den sozialen Medien simulieren könnte, indem es ihre historischen Daten auf der Plattform analysiert und einen digitalen Klon erstellt, der mit echten Menschen interagieren und auf ihre Beiträge reagieren kann, als ob er lebendig wäre. „Die Auswirkungen auf die Nutzer sind viel schwerwiegender und dauerhafter, wenn dieser Benutzer verstorben ist und niemals zur Social-Networking-Plattform zurückkehren wird“, heißt es in dem Patent. Das Paradoxe ist, dass es als gute Tat dargestellt wird — und für Meta besteht die Lösung darin, so zu tun, als ob die verstorbene Person immer noch da ist.

Das Problem mit der Trauer-Technologie

Das Patent sieht auch die Möglichkeit vor, mehrere Modelle für denselben Benutzer zu erstellen, die an verschiedene Lebensphasen gebunden sind. Separate Versionen Ihrer digitalen Software haben anhand von Daten trainiert, die gesammelt wurden, als der Benutzer 20, 30 oder 40 Jahre alt war. Als ob der Tod nicht schon kompliziert genug wäre, um ihn zu verarbeiten, bietet Meta die Möglichkeit, in die Vergangenheit zu reisen. Ein Meta-Sprecher sagte gegenüber Business Insider, dass „wir derzeit nicht vorhaben, mit diesem Beispiel weiterzumachen“, doch die bloße Existenz des Patents verrät etwas Wichtiges darüber, wohin sich große Technologieunternehmen bewegen.

Es wirft auch beunruhigende Fragen darüber auf, wem unsere digitale Identität wirklich gehört. Meta ist in diesem Gebiet nicht allein. Die „Grief Tech“ -Branche expandiert rasant. Startups wie HereAfter AI, Eternos und StoryFile bieten bereits Dienste zur Erstellung interaktiver Avatare von Verstorbenen an. In China ermöglichen Unternehmen wie Super Brain Nutzern, eine verstorbene Person für nur 20 Yuan (etwa 3 Dollar) „digital wiederzubeleben“, wobei nur 30 Sekunden audiovisuelles Material verwendet werden.

Forscher der Universität Cambridge warnen jedoch davor, dass dieser Bereich der KI „ein ethisches Minenfeld“ ist. Dr. Katarzyna Nowaczyk-Basińska vom Leverhulme Centre for the Future of Intelligence erklärt, dass „es wichtig ist, der Würde des Verstorbenen Priorität einzuräumen und sicherzustellen, dass sie nicht durch die finanziellen Motive digitaler Dienste nach dem Tod verletzt wird“. Forscher aus Cambridge haben drei beunruhigende Szenarien skizziert, in denen Trauerbots den Lebenden schaden könnten: Avatare, die ohne Zustimmung des Verstorbenen erstellt wurden und anfangen, Werbung zu schalten (z. B. eine Großmutter, die vorschlägt, Essen bei einem bestimmten Lieferservice zu bestellen); Chatbots, die Kinder stören, indem sie darauf bestehen, dass ein verstorbener Elternteil immer noch bei ihnen ist; KI-Simulationen, die emotionale Bindungen herstellen, die so stark sind, dass Protokolle erforderlich sind, um die Beziehung zu „beenden“ emotionaler Abschluss.

Wem gehören Ihre digitalen Daten, wenn Sie sterben?

Das Meta-Patent wirft auch eine weitere Frage auf: Was passiert mit unseren Konten und digitalen Daten, wenn wir sterben? Die rechtliche Antwort ist komplex und variiert drastisch, je nachdem, wo Sie leben. In den Vereinigten Staaten gewährt der überarbeitete Uniform Fiduciary Access to Digital Assets Act (RUFADAA) Treuhändern das Recht, auf die digitalen Daten und Vermögenswerte des Verstorbenen zuzugreifen und diese zu verwalten. Laut Digital Watch Observatory gibt es jedoch Probleme: Das Gesetz könnte die Privatsphäre des Verstorbenen verletzen, und nicht alle Staaten haben es verabschiedet.

In Europa gilt die DSGVO nicht ausdrücklich für die Daten des Verstorbenen oder es wird ihre Anwendbarkeit nach dem Tod nicht geklärt. In der Praxis haben Familien oft kaum eine andere Wahl, als sich an die Nutzungsbedingungen der Plattform zu halten, es sei denn, der Verstorbene hat Anweisungen und Zeugnisse hinterlassen. Aufgrund dieser Rechtsunsicherheit führte Meta vor fast einem Jahrzehnt die Funktion „Legacy-Kontakt“ ein, die es Benutzern ermöglicht, jemanden zu benennen, der ihr Konto nach dem Tod verwaltet — was zum Patent von 2023 führte.

Es ist immer noch unklar, ob Meta jemals sein Patent umsetzen wird, um die Toten dazu zu bringen, weiter zu posten, aber die Tatsache, dass es eingereicht wurde, zeigt, wohin wir als Gesellschaft gehen. Eine Welt, in der die Grenze zwischen Lebenden und Toten zunehmend verschwimmt, in der Technologieunternehmen Trauer monetarisieren können und in der unsere digitalen Klone uns möglicherweise überleben. Die Frage ist nicht, ob die Technologie dies ermöglichen wird. Die Frage ist, ob wir es wollen sollten. Und wenn eines Tages jemand deine Instagram-Posts kommentiert, wie wirst du dann wissen, ob es wirklich er ist — oder nur ein Algorithmus, der darauf trainiert ist, so zu klingen wie sie?