Macht das Label „Created with AI“ noch Sinn? Immer mehr Unternehmen führen es ein, obwohl es die Verbreitung von Deepfakes nicht einschränkt

Vor Kurzem kündigte Anthropic an, ein System einzuführen, mit dem eine Art Etikett angebracht wird — das von Computersystemen maschinenlesbar ist —, das Inhalte und Dateien, die von seinem Chatbot Claude verarbeitet werden, identifizierbar macht, ebenso wie die von Claude Code, seinem Tool, das bei Webentwicklern sehr beliebt ist, erstellt wurden.

Anthropic erklärte, dass bei Bildern das Wasserzeichen in den jeweiligen Metadaten — also den Informationen, die der Datei zugeordnet sind und deren Eigenschaften beschreiben — angebracht wird, wo darauf hingewiesen wird, dass generative künstliche Intelligenz verwendet wurde.

Die Maßnahme folgt einem zunehmend beliebten Ansatz bei Unternehmen der Branche, die mit neuen Lösungen experimentieren, um diese Wasserzeichen effektiver zu machen. Solche Tools verhindern jedoch nicht die Verbreitung von Deepfake-Bildern und -Videos, die zu Propagandazwecken verwendet werden. Aus diesem Grund stellen einige Experten auch die tatsächliche Nützlichkeit der Kennzeichnung von Inhalten in Frage, die mit künstlicher Intelligenz generiert wurden.

So wird das Wasserzeichen von Anthropic funktionieren

Das Unternehmen von Dario Amodei hat erklärt, dass das fragliche Kennzeichnungssystem für die Nutzer nicht wahrnehmbar sein wird und die Darstellung von Inhalten in keiner Weise beeinflussen wird — ob visuell oder anderweitig. Darüber hinaus bleibt das Wasserzeichen auch dann vorhanden, wenn einzelne Dateien nachträglich geändert werden.

Tatsache ist jedoch, dass das Etikett von Anthropic nicht angeben kann, zu welchem Zeitpunkt und mit welcher Absicht Claude verwendet wurde. Das Unternehmen selbst erklärte in einer Erklärung, dass das „Wasserzeichen“ nur darauf hinweisen kann, dass Claude wahrscheinlich irgendwann an der Erstellung des Inhalts beteiligt war. Es kann nicht unterscheiden zwischen „Claude hat das geschrieben“ und „Claude hat dieses andere Ding stark bearbeitet“. All diese Merkmale geben den kritischeren Beobachtern Anlass zur Skepsis.

Woher dieses Kennzeichnungssystem stammt

Ein Erkennungssystem, das dem von Anthropic ähnelt, wurde ebenfalls von der Substack-Plattform in Zusammenarbeit mit Pangram (einem bekannten Tool zur Identifizierung von Texten, die von Chatbots generiert wurden) eingeführt. In diesem Fall basiert die Methode jedoch auf der Analyse von Sprachmustern, syntaktischen Strukturen und Schreibstilen, die für Texte typisch sind, die mit künstlicher Intelligenz erstellt wurden.

Andere große Technologieunternehmen, darunter Microsoft und OpenAI, haben ebenfalls ihre eigenen Kennzeichnungssysteme eingeführt. Die Maßnahme wurde durch den AI Act, das europäische Gesetz zur Regelung der Entwicklung und Nutzung künstlicher Intelligenzsysteme, verbindlich vorgeschrieben, das 2024 verabschiedet wurde und am 2. August in Kraft tritt. Einzelne Unternehmen haben jedoch eine Frist von 4 Monaten, um die verschiedenen Bestimmungen einzuhalten.

Obwohl die Regeln des AI Act nur für den europäischen Markt gelten, hat Anthropic beschlossen, sein System zur Kennzeichnung der Produkte von Claude weltweit auszuweiten — ganz im Einklang mit dem Image eines besonders vorsichtigen Unternehmens, das es sich innerhalb der Branche aufgebaut hat.