Ha ancora senso l'etichetta “Creato con IA”? Sempre più aziende la stanno introducendo, anche se non limita la diffusione dei deepfake
Anthropic ha annunciato che introdurrà un sistema per applicare una sorta di etichetta, interpretabile da un sistema informatico, che renda riconoscibili i contenuti e i file elaborati dal suo chatbot Claude – oltre che da Claude Code, il rispettivo tool molto popolare tra chi si occupa di sviluppo web.
Anthropic ha spiegato che per quanto riguarda le immagini il watermark verrà applicato nei rispettivi metadati, cioè nelle informazioni associate al file che ne descrivono le caratteristiche, dove verrò indicato che è stata utilizzata l’intelligenza artificiale generativa.
La misura si rifà a un approccio sempre più popolare tra le aziende del settore, che stanno sperimentando nuove soluzioni per rendere questi watermark più efficaci. Tali strumenti, tuttavia, non impediscono la diffusione di immagini e video deepfake utilizzati per scopi propagandistici: è anche per questo che alcuni esperti si interrogano sulla reale utilità dell’etichettatura dei contenuti generati dall’intelligenza artificiale.
Come funzionerà il watermark di Anthropic
@willfrancis24 Claude will soon be watermarking all texts that it generates. Anthropic's popular AI will use a clever watermarking system which uses its choice of words to create patterns that are recognisable by an AI detector. This means that the usual methods of evading AI detection, such as prompts to humanise text or even some editing of AI-generated text, won't remove these signs of AI writing. Here's everything we know so far about when Claude models such as Fable, Opus, and Sonnet will start to use these patterns in its output. #claude #anthropic #llm #ai #aitools #artificialintelligence #tech #technology #learnontiktok original sound - Will Francis - AI + Marketing
L'azienda di Dario Amodei ha detto che il sistema di etichettatura in questione sarà impercettibile agli utenti e non influenzerà in alcun modo la resa dei contenuti – visivi e non. Inoltre, il watermark continuerà a essere presente anche quando i singoli file verranno ulteriormente modificati.
Resta il fatto che l'etichetta di Anthropic non è in grado di indicare in quale momento Claude è stato usato e con quali intenti. La stessa azienda ha spiegato in una nota che il «watermark può solamente determinare che Claude è stato probabilmente coinvolto nella creazione del contenuto a un certo punto. Non è in grado di distinguere tra "Claude ha scritto questo" e "Claude ha modificato pesantemente quest’altro"». Tutte caratteristiche, queste, che rendono scettici i più critici.
Da dove arriva questo sistema di etichettatura
Un sistema di rilevamento simile a quello di Anthropic è stato introdotto anche dalla piattaforma Substack, in collaborazione con Pangram (noto strumento progettato per riconoscere i i testi generati dai chatbot): in questo caso, però, il metodo si basa sull’analisi di ricorrenze linguistiche, strutture sintattiche e stili di scrittura tipici dei testi prodotti dall’intelligenza artificiale.
Ma anche altre grandi aziende tecnologiche, tra cui Microsoft e OpenAI, hanno previsto dei propri sistemi di etichettatura. La misura è stata resa obbligatoria dall’AI Act, la legge europea che regola lo sviluppo e l’utilizzo dei sistemi di intelligenza artificiale, approvata nel 2024 ed entrata in vigore il 2 agosto – le singole società hanno però un periodo di 4 mesi per adeguarsi alle varie norme previste.
Nonostante le regole dell'AI Act si applichino al solo mercato europeo, Anthropic ha scelto di estendere il sistema di marcatura degli output di Claude a livello globale – in linea con l’immagine di azienda particolarmente prudente che si è costruita all'interno del settore.