Indice
OpenAI lancia un nuovo sistema di verifica delle immagini AI basato su C2PA e SynthID di Google DeepMind. Ecco come funziona il portale di controllo.
La diffusione delle immagini generate con intelligenza artificiale sta rendendo sempre più complesso distinguere contenuti reali e sintetici. In risposta a questo scenario, OpenAI ha annunciato un nuovo sistema di verifica che introduce un approccio multi-livello alla tracciabilità dei contenuti generati dai propri modelli.
L’obiettivo è chiaro: rendere più difficile la perdita delle informazioni di origine quando un’immagine viene modificata, ricondivisa o compressa su piattaforme diverse.
Un doppio sistema di identificazione per i contenuti AI
La novità principale riguarda l’integrazione tra due tecnologie di provenienza differenti: i Content Credentials basati sullo standard C2PA e il watermark SynthID sviluppato da Google DeepMind.
Il primo sistema, C2PA, si basa su metadati e firme crittografiche che accompagnano il file, fornendo informazioni dettagliate sulla sua origine e sulle eventuali modifiche subite. Il problema di questo approccio è però noto: i metadati possono essere rimossi o persi durante operazioni comuni come compressione, screenshot o ricondivisione su piattaforme non compatibili.
SynthID interviene proprio su questo punto debole, inserendo un watermark invisibile direttamente nell’immagine, progettato per resistere anche a trasformazioni del file. L’idea è quella di garantire un secondo livello di verifica indipendente dai metadati.
Perché servono due sistemi insieme
Secondo quanto riportato, i due sistemi non sono alternativi ma complementari. C2PA fornisce un contesto dettagliato sull’origine del contenuto, mentre SynthID garantisce la persistenza di un segnale identificabile anche quando i metadati vengono rimossi.
In altre parole, se uno dei due livelli fallisce, l’altro può comunque fornire indicazioni utili sulla natura del contenuto. Questo approccio riduce il rischio che immagini generate con AI diventino indistinguibili da contenuti autentici una volta diffuse online.
Il punto centrale è proprio la resilienza delle informazioni di provenienza, un aspetto sempre più critico nell’era dei deepfake e della manipolazione visiva.
Il nuovo portale di verifica OpenAI
Accanto all’integrazione tecnologica, OpenAI ha lanciato anche un portale pubblico di verifica delle immagini. Gli utenti possono caricare un file e controllare la presenza di metadati AI o watermark riconducibili ai sistemi supportati.
Nella fase iniziale, il sistema è focalizzato esclusivamente sui contenuti generati dagli strumenti OpenAI, come ChatGPT, Codex e le API ufficiali. Il portale analizza i segnali disponibili e indica se l’immagine è associabile a una generazione AI.
OpenAI ha però chiarito un punto importante: l’assenza di segnali non equivale automaticamente a una prova di autenticità. Se i metadati o i watermark non vengono rilevati, potrebbe trattarsi semplicemente di informazioni rimosse durante la manipolazione del file.
Un sistema ancora in evoluzione
La società ha confermato di voler estendere il supporto anche ad altri strumenti e piattaforme nel futuro. L’obiettivo è costruire un ecosistema più ampio di standard condivisi per la provenienza dei contenuti digitali.
OpenAI partecipa già al C2PA Conformance Program e allo Steering Committee della Coalition for Content Provenance and Authenticity, che lavora proprio alla definizione di standard aperti per la tracciabilità dei contenuti.
L’integrazione tra watermarking e metadati rappresenta quindi un passo verso una possibile infrastruttura globale di verifica, anche se la sua efficacia dipenderà dall’adozione su larga scala da parte delle piattaforme.
Il nuovo sistema introdotto da OpenAI segna un’evoluzione importante nella gestione dei contenuti generati con AI. L’idea di combinare più livelli di verifica non elimina completamente il problema dei deepfake, ma aumenta significativamente la difficoltà nel mascherare l’origine artificiale di un contenuto.
Si tratta di un passo tecnico, ma anche politico e industriale, verso una maggiore trasparenza nel mondo dell’intelligenza artificiale.
