Come capire se un romanzo è stato scritto dall’intelligenza artificiale

Uno studio su 600 libri ha individuato più somiglianze linguistiche nelle opere associate all’AI. Ecco cosa significano i risultati e quali sono i limiti.

L’intelligenza artificiale è ormai in grado di generare racconti, saggi e romanzi completi in pochi minuti. Basta indicare un argomento, scegliere un’ambientazione e fornire qualche istruzione per ottenere un testo articolato, spesso con una struttura narrativa coerente. Ma quanto c’è di originale in ciò che viene prodotto da questi strumenti? E, soprattutto, è possibile capire se un libro è stato scritto da una persona oppure da un’intelligenza artificiale?

Sono domande sempre più importanti per il mondo dell’editoria. La diffusione di strumenti come ChatGPT ha reso più semplice produrre grandi quantità di testo, ma ha anche complicato il lavoro di chi deve valutarne l’origine. Un libro scritto con l’aiuto dell’AI può essere difficile da distinguere da uno realizzato interamente da un autore umano. Allo stesso tempo, anche testi autenticamente umani possono essere scambiati per contenuti generati artificialmente.

Per affrontare il problema, un gruppo di ricercatori guidato da Tuhin Chakrabarty, informatico della Stony Brook University, ha analizzato centinaia di libri alla ricerca di somiglianze linguistiche particolari. I risultati suggeriscono che esistono indizi interessanti per individuare alcune opere prodotte con l’intelligenza artificiale, ma non una prova definitiva valida per qualsiasi libro.

Lo studio su 600 libri per cercare le tracce dell’AI

La ricerca si distingue dai metodi più comuni per individuare i testi generati artificialmente. Molti strumenti di rilevamento, infatti, analizzano singole frasi o brevi passaggi per cercare caratteristiche statistiche associate alla scrittura dei modelli linguistici.

Il gruppo di Chakrabarty ha scelto invece di concentrarsi su opere molto più lunghe, cercando di capire se nei libri fosse possibile individuare schemi ricorrenti e somiglianze con altri testi già pubblicati.

Lo studio ha preso in esame 600 libri, suddivisi in tre categorie, e ha confrontato le loro caratteristiche linguistiche. Secondo i risultati riportati, 200 opere sono state classificate come ampiamente generate dall’intelligenza artificiale.

L’obiettivo non era semplicemente stabilire se un testo apparisse troppo ordinato, ripetitivo o generico. I ricercatori hanno cercato qualcosa di più concreto: sequenze di parole relativamente rare che comparivano in forma identica anche in altri libri.

Per farlo, hanno utilizzato un archivio composto da centinaia di migliaia di titoli disponibili attraverso Google Books. Questo ha permesso di confrontare le opere analizzate con un patrimonio molto ampio di testi già esistenti.

Il risultato principale è stato significativo: i libri classificati come generati dall’AI presentavano il maggior numero di sovrapposizioni linguistiche, mentre le opere letterarie premiate mostravano il livello più basso.

La differenza suggerisce che alcuni testi prodotti dai modelli linguistici possano contenere combinazioni di parole già presenti in altre opere con una frequenza superiore rispetto a quanto osservato nei libri letterari più apprezzati.

Perché ChatGPT può riprodurre espressioni già esistenti

Per capire il significato di questi risultati bisogna considerare come funzionano i modelli linguistici. Sistemi come ChatGPT vengono addestrati su grandi quantità di testi, utilizzati per imparare le relazioni tra le parole, le strutture delle frasi e i modi in cui vengono sviluppati gli argomenti.

Quando ricevono una richiesta, generano una risposta scegliendo progressivamente le parole più adatte al contesto. Non si limitano necessariamente a copiare un libro esistente, ma producono testo sulla base delle regolarità linguistiche apprese durante l’addestramento.

Questo processo può portare alla riproduzione di espressioni, metafore e costruzioni narrative ricorrenti. Alcune combinazioni di parole possono risultare particolarmente naturali per un modello proprio perché sono frequenti nei testi sui quali è stato addestrato.

Il fenomeno non riguarda soltanto le frasi più comuni, come quelle utilizzate per introdurre un argomento o descrivere un ambiente. Può coinvolgere anche sequenze più articolate, che diventano interessanti quando vengono ritrovate identiche in opere differenti.

È proprio questo il punto al centro dello studio: non una generica somiglianza nello stile, ma la presenza di combinazioni linguistiche che ricompaiono in altri libri e che, nel campione esaminato, risultano più frequenti nelle opere associate all’AI.

Questo non significa, però, che ogni frase simile a quella contenuta in un altro libro sia stata necessariamente copiata da un modello. La lingua è fatta di espressioni condivise, convenzioni narrative e modi di dire che possono essere utilizzati indipendentemente da autori diversi.

Le somiglianze linguistiche non dimostrano che un libro sia artificiale

È proprio qui che bisogna evitare interpretazioni troppo semplicistiche. La presenza di sequenze di parole identiche può rappresentare un indizio utile, ma non basta da sola a dimostrare che un’opera sia stata generata dall’intelligenza artificiale.

Anche gli scrittori umani possono utilizzare espressioni simili, riprendere metafore già presenti nella letteratura o adottare strutture narrative comuni. Questo accade soprattutto nei generi caratterizzati da convenzioni riconoscibili, come il giallo, il fantasy o il romanzo sentimentale.

Inoltre, il metodo descritto non permette automaticamente di distinguere tra un libro scritto interamente da un modello e un’opera realizzata da una persona che ha utilizzato l’AI soltanto per alcune parti. Un autore potrebbe, per esempio, aver impiegato un assistente per rivedere un capitolo, correggere una frase o elaborare una prima bozza, intervenendo poi profondamente sul risultato.

In uno scenario simile, stabilire l’origine di ogni passaggio diventerebbe molto più difficile.

Il risultato dello studio va quindi interpretato nel contesto del campione analizzato. Il fatto che le opere associate all’AI presentino più sovrapposizioni non significa che tutti i libri generati artificialmente possiedano questa caratteristica, né che ogni libro con numerose corrispondenze sia stato scritto da un algoritmo.

La ricerca individua una possibile traccia, non un metodo infallibile per certificare l’origine di un testo. Per arrivare a conclusioni più solide sarebbe necessario considerare anche altri elementi, come la storia editoriale dell’opera, le modalità con cui è stata realizzata e l’eventuale documentazione fornita dall’autore.

Il problema riguarda anche il diritto d’autore e la trasparenza

La possibilità di riconoscere un libro generato dall’intelligenza artificiale non è soltanto una questione tecnica. Il tema coinvolge direttamente editori, autori, lettori e piattaforme di pubblicazione.

Da una parte, l’AI consente di accelerare alcune attività e offre nuovi strumenti per lavorare sui testi. Dall’altra, la sua diffusione solleva interrogativi sull’originalità delle opere, sulla provenienza dei contenuti e sulla necessità di dichiarare quando un libro è stato realizzato con un contributo significativo dell’intelligenza artificiale.

Se un sistema genera passaggi che presentano somiglianze con opere già esistenti, diventa importante capire la natura di queste corrispondenze. Una coincidenza linguistica non dimostra automaticamente una violazione del diritto d’autore, ma può essere un elemento da approfondire quando emergono dubbi sulla provenienza di determinati contenuti.

Anche la trasparenza nei confronti dei lettori assume un ruolo importante. Chi acquista un romanzo potrebbe voler sapere se il testo è stato scritto interamente da una persona, prodotto da un modello oppure realizzato attraverso una collaborazione tra autore e AI.

Non tutte queste situazioni sono equivalenti, e la semplice presenza dell’intelligenza artificiale nel processo creativo non racconta necessariamente quanto abbia contribuito al risultato finale. Proprio per questo, riconoscere con precisione il ruolo dell’AI è una questione più complessa del semplice tentativo di individuare uno stile artificiale.

Esiste un modo sicuro per riconoscere un libro scritto dall’AI?

La risposta, almeno sulla base dei risultati descritti, è che non esiste un singolo indizio sufficiente a stabilire con certezza l’origine di qualsiasi libro.

Le somiglianze linguistiche individuate dai ricercatori possono aiutare a identificare opere che meritano ulteriori verifiche. Non sono però una garanzia assoluta, soprattutto quando si analizzano testi nei quali l’intervento umano e quello artificiale si intrecciano.

Il problema è destinato a diventare ancora più rilevante man mano che i modelli migliorano. Se gli strumenti di generazione producono testi sempre più vari e naturali, distinguere le opere attraverso le sole caratteristiche linguistiche potrebbe diventare più difficile. Allo stesso tempo, anche gli strumenti di rilevamento dovranno dimostrare di saper distinguere le coincidenze normali della scrittura da quelle che possono indicare una somiglianza significativa.

La ricerca di Chakrabarty e del suo gruppo offre un contributo interessante proprio perché sposta l’attenzione dalle singole frasi all’analisi di interi libri. I risultati mostrano una differenza tra le categorie esaminate, ma non autorizzano a considerare il metodo una prova definitiva.

In definitiva, la sfida non consiste soltanto nel capire se un testo sia stato prodotto da una macchina. Occorre anche stabilire quanto sia originale, quale contributo abbia dato l’autore umano e quali informazioni debbano essere comunicate ai lettori. Sono questioni che la tecnologia può aiutare a esaminare, ma per le quali serviranno ancora metodi affidabili, verifiche e criteri condivisi.