Elon Musk und sein Chatbot ziehen weiterhin Skandale an Dies wird durch eine weitere Klage bestätigt, die gegen das Tool aufgrund seiner zuvor umstrittenen Funktionen eingereicht wurde
Vor Kurzem reichten drei junge Frauen in Kalifornien eine Klage gegen Xai ein, das 2023 von Elon Musk gegründete Unternehmen für künstliche Intelligenz. In dem Fall geht es um die Erstellung sexuell expliziter Bilder, die mithilfe künstlicher Intelligenz aus echten Fotos der beteiligten Personen ohne deren Zustimmung generiert wurden. Die manipulierten Bilder wurden Berichten zufolge mit Grok produziert, dem von Xai entwickelten und in X integrierten Chatbot.
@thetimes Laws to criminalise non-consensual sexual deepfakes will be brought into force this week after digital “undressing” by Elon Musk’s Grok AI chatbot prompted concerns. Women were stripped without their consent and child abuse images created by the tool have been discovered on the dark web, causing an international row. Now, Ofcom is investigating X for possible breaches of the Online Safety Act, which requires it to take down illegal content and prevent users from seeing deepfake nudes. Click the link in bio to read more #Grok #ai #deepfakes #feminism
original sound - The Times and The Sunday Times
Wie von der BBC berichtet, gab eine der drei Frauen, die die Beschwerde eingereicht haben — von denen zwei minderjährig sind — an, dass sie die Existenz von Bildern entdeckt habe, auf denen sie abgebildet ist, nachdem sie auf Instagram eine anonyme Nachricht erhalten hatte, in der sie zu einigen Dateien weitergeleitet wurde, die auf Discord geteilt wurden, einer Online-Plattform, die es Benutzern ermöglicht, private Server und Chats zum Austausch von Nachrichten, Bildern und Videos einzurichten. Untersuchungen zufolge zeigten ähnliche Bilder, die mit Grok erstellt wurden, auf derselben Plattform mindestens achtzehn weitere minderjährige Mädchen.
Die Anwälte, die die drei Frauen vertreten, argumentieren, dass in diesem Fall die Verantwortung für den Verstoß nicht allein dem Benutzer zugeschoben werden sollte, der die manipulierten Bilder erstellt und verbreitet hat, sondern auch Xai selbst — das die Technologie dafür bereitgestellt hat. Nach Angaben der Staatsanwaltschaft führte Musks Unternehmen diese Funktionen mit dem Ziel ein, die Anzahl der aktiven Nutzer von Grok und damit der Abonnenten von X zu erhöhen, während es sich des möglichen Missbrauchs des Tools bewusst war.
Rechtsfälle gegen Grok
Der Fall Kalifornien ist nicht das einzige Rechtsproblem, an dem Musk indirekt beteiligt ist. Im Februar durchsuchte die französische Polizei die Pariser Büros von X im Rahmen einer Untersuchung, die der örtliche Staatsanwalt im vergangenen Jahr eingeleitet hatte, nachdem der Parlamentarier Eric Bothorel, Mitglied von Renaissance, der zentristischen Partei von Präsident Emmanuel Macron, einen Bericht eingereicht hatte. Zu den in der Untersuchung untersuchten Elementen gehört auch die inzwischen deaktivierte Grok-Funktion, mit der auf der Plattform geteilte Fotos verändert werden konnten, indem die abgebildeten Personen „entkleidet“ wurden. Der Staatsanwalt gab außerdem bekannt, dass Musk und Linda Yaccarino, die von 2023 bis 2025 als CEO von X tätig waren, zu einem Interview nach Paris geladen wurden.
Zu den Ermittlungen gegen Grok in den Vereinigten Staaten und Frankreich gesellen sich die bereits laufenden Ermittlungen in Australien und dem Vereinigten Königreich, während Indonesien und Malaysia den Zugang direkt gesperrt hatten. Auch in Indien kritisierte das Ministerium für Elektronik und Informationstechnologie die lokale Niederlassung von X scharf und warf der Plattform vor, die Verbreitung sexuell expliziter Inhalte zu fördern. Angesichts dieses Drucks kündigte Xai im Januar die Einführung neuer Einstellungen an, um die Grok-Funktion zu verhindern, mit der Bilder von echten Menschen so verändert werden können, dass sie „in freizügiger Kleidung wie Bikinis“ gezeigt werden, so eine Unternehmenserklärung.
Woher diese Skandale kommen
KI-gestützte Software, die in der Lage ist, Motive auf Fotos digital „auszuziehen“, werden „Nacktbilder“ genannt: Sie existieren seit mehreren Jahren, sind aber größtenteils auf abgelegene Ecken des Internets beschränkt geblieben. Die Einführung einer Funktion, die mithilfe des Grok-Chatbots die Funktionsweise von „Nacktbildnern“ nachahmt, auf X — das monatlich über 500 Millionen Nutzer hat — hat die Online-Verbreitung künstlicher sexuell expliziter und nicht einvernehmlicher Inhalte erheblich ausgeweitet, mit allen Konsequenzen für die beteiligten Personen.
Dies hat weltweit zu erheblichen Kontroversen und Diskussionen über den Schutz der Privatsphäre und die Verantwortung von Musks Plattform und des Unternehmers selbst bei der Verbreitung solch problematischen Materials geführt. Musk ist derzeit mit einem geschätzten Nettovermögen von fast 840 Milliarden US-Dollar die reichste Person der Welt; daher würde man angesichts seiner sozialen Position und der verfügbaren Ressourcen irgendeine Form von Philanthropie von ihm erwarten.
Stattdessen hat er in den letzten Jahren einen Skandal nach dem anderen angehäuft, angefangen mit der Übernahme von Twitter und der Umwandlung in eine Plattform — umbenannt in X —, auf der die Verbreitung kontroverser Inhalte gefördert wird, die oft rechtsextremen politischen Strömungen angehören. Es ist daher nicht verwunderlich, dass die Nachrichtenagentur Reuters vor einigen Monaten berichtete, dass bei der Analyse von Anfragen an Grok mehr als 100 Versuche, Fotos so zu modifizieren, dass sie die Personen in Bikinis zeigen, in nur zehn Minuten aufgezeichnet wurden.
