Macht das Label „Created with AI“ noch Sinn? Immer mehr Unternehmen führen es ein, obwohl es die Verbreitung von Deepfakes nicht einschränkt
Vor Kurzem kündigte Anthropic an, ein System einzuführen, mit dem eine Art Etikett angebracht wird — das von Computersystemen maschinenlesbar ist —, das Inhalte und Dateien, die von seinem Chatbot Claude verarbeitet werden, identifizierbar macht, ebenso wie die von Claude Code, seinem Tool, das bei Webentwicklern sehr beliebt ist, erstellt wurden.
Anthropic erklärte, dass bei Bildern das Wasserzeichen in den jeweiligen Metadaten — also den Informationen, die der Datei zugeordnet sind und deren Eigenschaften beschreiben — angebracht wird, wo darauf hingewiesen wird, dass generative künstliche Intelligenz verwendet wurde.
Die Maßnahme folgt einem zunehmend beliebten Ansatz bei Unternehmen der Branche, die mit neuen Lösungen experimentieren, um diese Wasserzeichen effektiver zu machen. Solche Tools verhindern jedoch nicht die Verbreitung von Deepfake-Bildern und -Videos, die zu Propagandazwecken verwendet werden. Aus diesem Grund stellen einige Experten auch die tatsächliche Nützlichkeit der Kennzeichnung von Inhalten in Frage, die mit künstlicher Intelligenz generiert wurden.
So wird das Wasserzeichen von Anthropic funktionieren
@willfrancis24 Claude will soon be watermarking all texts that it generates. Anthropic's popular AI will use a clever watermarking system which uses its choice of words to create patterns that are recognisable by an AI detector. This means that the usual methods of evading AI detection, such as prompts to humanise text or even some editing of AI-generated text, won't remove these signs of AI writing. Here's everything we know so far about when Claude models such as Fable, Opus, and Sonnet will start to use these patterns in its output. #claude #anthropic #llm #ai #aitools #artificialintelligence #tech #technology #learnontiktok original sound - Will Francis - AI + Marketing
Das Unternehmen von Dario Amodei hat erklärt, dass das fragliche Kennzeichnungssystem für die Nutzer nicht wahrnehmbar sein wird und die Darstellung von Inhalten in keiner Weise beeinflussen wird — ob visuell oder anderweitig. Darüber hinaus bleibt das Wasserzeichen auch dann vorhanden, wenn einzelne Dateien nachträglich geändert werden.
Tatsache ist jedoch, dass das Etikett von Anthropic nicht angeben kann, zu welchem Zeitpunkt und mit welcher Absicht Claude verwendet wurde. Das Unternehmen selbst erklärte in einer Erklärung, dass das „Wasserzeichen“ nur darauf hinweisen kann, dass Claude wahrscheinlich irgendwann an der Erstellung des Inhalts beteiligt war. Es kann nicht unterscheiden zwischen „Claude hat das geschrieben“ und „Claude hat dieses andere Ding stark bearbeitet“. All diese Merkmale geben den kritischeren Beobachtern Anlass zur Skepsis.
Woher dieses Kennzeichnungssystem stammt
Ein Erkennungssystem, das dem von Anthropic ähnelt, wurde ebenfalls von der Substack-Plattform in Zusammenarbeit mit Pangram (einem bekannten Tool zur Identifizierung von Texten, die von Chatbots generiert wurden) eingeführt. In diesem Fall basiert die Methode jedoch auf der Analyse von Sprachmustern, syntaktischen Strukturen und Schreibstilen, die für Texte typisch sind, die mit künstlicher Intelligenz erstellt wurden.
Andere große Technologieunternehmen, darunter Microsoft und OpenAI, haben ebenfalls ihre eigenen Kennzeichnungssysteme eingeführt. Die Maßnahme wurde durch den AI Act, das europäische Gesetz zur Regelung der Entwicklung und Nutzung künstlicher Intelligenzsysteme, verbindlich vorgeschrieben, das 2024 verabschiedet wurde und am 2. August in Kraft tritt. Einzelne Unternehmen haben jedoch eine Frist von 4 Monaten, um die verschiedenen Bestimmungen einzuhalten.
Obwohl die Regeln des AI Act nur für den europäischen Markt gelten, hat Anthropic beschlossen, sein System zur Kennzeichnung der Produkte von Claude weltweit auszuweiten — ganz im Einklang mit dem Image eines besonders vorsichtigen Unternehmens, das es sich innerhalb der Branche aufgebaut hat.
