Indice
Anthropic introduce un watermark invisibile nei testi generati da Claude. Ecco come funziona, quali sono i limiti e cosa c’entra l’AI Act.
I testi generati da Claude avranno una sorta di firma invisibile. Anthropic sta introducendo un sistema di watermarking pensato per rendere riconoscibili i contenuti prodotti dall’intelligenza artificiale senza inserire simboli, caratteri nascosti o altre informazioni visibili all’utente.
La tecnologia è stata progettata anche in risposta agli obblighi di trasparenza previsti dall’AI Act europeo, che richiedono di rendere riconoscibili in formato leggibile dalle macchine determinati contenuti generati o manipolati dall’intelligenza artificiale.
La particolarità del sistema è che la firma non viene aggiunta al testo dopo la generazione. Viene costruita direttamente attraverso la scelta delle parole effettuata dal modello.
Il watermark di Claude è nascosto nelle parole
Per capire come funziona bisogna partire dal modo in cui un modello linguistico genera una risposta. Claude costruisce il testo progressivamente, scegliendo ogni volta tra diverse parole possibili in base alla probabilità che risultino appropriate nel contesto.
Se, per esempio, una frase può essere completata con diverse parole dal significato simile, il modello ha normalmente una certa componente di casualità nella scelta.
Il sistema di Anthropic sfrutta proprio questo meccanismo. Quando esistono più alternative plausibili, il modello può orientare statisticamente la selezione delle parole seguendo un determinato schema. La scelta viene influenzata da una chiave e da alcune delle parole già presenti nel testo.
Una singola scelta non permette naturalmente di riconoscere nulla. Ma ripetendo il meccanismo lungo una risposta sufficientemente estesa, può formarsi un pattern statistico invisibile a chi legge, ma riconoscibile attraverso strumenti progettati per individuarlo.
L’approccio è simile a quello utilizzato da SynthID-Text, la tecnologia sviluppata da Google DeepMind per identificare i testi generati dai propri modelli.
Non ci saranno simboli o caratteri nascosti
Uno degli aspetti più interessanti riguarda proprio ciò che il watermark non è. Non si tratta di un carattere speciale inserito all’interno delle parole, di uno spazio invisibile o di una sequenza di simboli nascosti nel documento.
La firma è incorporata nella distribuzione delle parole. Questo permette al testo di rimanere apparentemente normale. Un utente che legge una risposta di Claude non dovrebbe quindi vedere alcuna differenza rispetto a un testo privo di watermark.
Secondo Anthropic, inoltre, il sistema non dovrebbe avere conseguenze pratiche sulla qualità, sulla creatività o sul contenuto delle risposte e non dovrebbe richiedere token aggiuntivi.
Il watermark non serve neppure a identificare chi ha prodotto il contenuto. Non contiene informazioni sull’utente, sull’organizzazione che utilizza Claude o sulla singola conversazione.
Il suo scopo è molto più limitato: indicare che un determinato testo potrebbe essere stato generato, almeno in parte, da Claude.
Il sistema non può riconoscere qualsiasi testo
Il watermark non deve però essere interpretato come una sorta di prova matematica dell’utilizzo di Claude. Esistono infatti diversi casi nei quali la firma può diventare difficile da individuare.
Il primo riguarda i testi molto brevi. Se ci sono poche parole a disposizione, il modello ha meno occasioni per costruire il pattern statistico necessario al riconoscimento.
Un problema simile può emergere con testi molto vincolati dal punto di vista fattuale. Quando esiste una sola formulazione realmente corretta, il modello ha meno libertà nel modificare la scelta delle parole senza alterare il significato.
Anche il codice rappresenta un caso particolare. Sostituire una parola o un elemento con un’alternativa statisticamente più favorevole può modificare il funzionamento del programma. Per questo motivo il meccanismo è molto meno adatto a questo tipo di contenuti.
Cosa succede quando Claude modifica un testo umano
Un altro caso interessante riguarda i contenuti che non vengono scritti interamente dall’AI. Se una persona scrive un testo e utilizza Claude soltanto per correggere grammatica, punteggiatura o piccoli errori, gran parte delle parole originali rimane invariata. Il modello ha quindi meno possibilità di introdurre il pattern necessario al watermark.
Il risultato può essere una firma troppo debole per essere riconosciuta. La situazione cambia con una traduzione. In questo caso Claude deve infatti riscrivere una parte molto più consistente del testo e dispone quindi di molte più occasioni per applicare il proprio schema statistico.
Anche le modifiche successive possono influire sul riconoscimento. Piccoli interventi potrebbero non essere sufficienti a eliminare il pattern, mentre una riscrittura profonda può renderlo irriconoscibile.
Per questo Anthropic considera il watermark un indicatore della possibile provenienza del testo e non una prova assoluta.
Il watermark serve anche per l’AI Act europeo
La scelta di Anthropic arriva in un momento nel quale la trasparenza sui contenuti generati dall’intelligenza artificiale assume un’importanza crescente.
Il riferimento è all’AI Act europeo, che prevede specifici obblighi per i fornitori di sistemi di intelligenza artificiale generativa. Dal 2 agosto 2026, secondo quanto riportato nella fonte, determinati contenuti generati o manipolati dall’AI devono essere resi riconoscibili in formato leggibile dalle macchine. Il watermark dei testi rappresenta quindi una delle soluzioni adottate da Anthropic per affrontare questo requisito.
Per immagini e altri contenuti compatibili, invece, l’azienda utilizzerà le Content Credentials basate sullo standard C2PA. In questo caso le informazioni sulla provenienza vengono associate ai contenuti attraverso metadati e firme crittografiche.
La differenza è importante: per il testo la firma viene incorporata statisticamente nella generazione, mentre per altri contenuti può essere utilizzata una struttura di provenienza basata sui metadati.
Una nuova forma di identificazione dei contenuti AI
Il watermark di Claude rappresenta quindi un approccio diverso rispetto ai sistemi che cercano di capire, dopo la pubblicazione, se un testo “sembra scritto dall’AI”.
In questo caso la provenienza viene associata nel momento stesso in cui il modello genera il contenuto.
È una distinzione importante perché i tradizionali strumenti di rilevamento possono cercare caratteristiche stilistiche o statistiche presenti nel testo, mentre un watermark costruito direttamente durante la generazione segue un principio differente.
Rimangono comunque dei limiti. Un testo può essere troppo breve, troppo vincolato oppure successivamente riscritto al punto da rendere il watermark difficile o impossibile da riconoscere.
L’obiettivo di Anthropic non sembra quindi essere quello di creare una firma impossibile da cancellare, ma di fornire un segnale tecnico che permetta di verificare la possibile origine AI di un contenuto.
In un panorama nel quale i testi generati dall’intelligenza artificiale sono sempre più difficili da distinguere da quelli scritti dagli esseri umani, strumenti di questo tipo potrebbero diventare una componente importante della gestione della provenienza dei contenuti.
