La corsa ai modelli AI più avanzati potrebbe avere bisogno di un limite

OpenAI valuta la possibilità di rallentare lo sviluppo dei modelli AI più avanzati insieme ai concorrenti. Al centro del dibattito ci sono sicurezza, agenti autonomi e nuovi rischi.

La corsa all’intelligenza artificiale potrebbe avere bisogno di un freno. Non perché le aziende abbiano smesso di voler costruire modelli sempre più potenti, ma perché la velocità con cui stanno aumentando le capacità dei sistemi AI sta iniziando a porre un problema difficile da ignorare: la sicurezza potrebbe non riuscire a tenere il passo con lo sviluppo tecnologico.

È questo uno dei temi che stanno emergendo all’interno di OpenAI, dove Sam Altman avrebbe aperto alla possibilità di rallentare lo sviluppo dei sistemi di intelligenza artificiale più avanzati nel caso in cui anche gli altri grandi laboratori fossero disponibili a fare lo stesso.

L’ipotesi non corrisponde, almeno per ora, a un rallentamento generale già deciso. Il punto è un altro: OpenAI sta valutando la possibilità di coordinarsi con le aziende concorrenti, cercando di individuare un ritmo di sviluppo che tenga conto anche dei rischi associati ai modelli più potenti.

Il problema della corsa ai modelli più avanzati

Negli ultimi anni il settore dell’AI ha seguito una logica abbastanza semplice: costruire modelli più grandi, più capaci e più autonomi rispetto alla generazione precedente.

La competizione tra aziende ha contribuito ad accelerare ulteriormente questo processo. OpenAI, Anthropic e gli altri principali laboratori lavorano contemporaneamente su sistemi sempre più sofisticati, mentre le capacità dei modelli vengono estese ben oltre la semplice generazione di testo.

Il problema nasce quando la crescita delle capacità dell’AI procede più rapidamente rispetto alla capacità di comprenderne e controllarne i comportamenti.

Secondo la posizione emersa all’interno di OpenAI, potrebbe quindi arrivare un momento nel quale continuare semplicemente ad accelerare non sarebbe più la strategia migliore. In quel caso sarebbe necessario rallentare lo sviluppo e concentrarsi sulla sicurezza.

Il concetto non è completamente nuovo. Già a luglio OpenAI aveva riconosciuto che l’accelerazione nello sviluppo dei modelli più avanzati avrebbe potuto rendere necessario, prima o poi, rallentare il progresso dell’intelligenza artificiale.

OpenAI non vuole fermarsi da sola

Qui emerge però una delle difficoltà più importanti. Immaginiamo che OpenAI decida autonomamente di rallentare lo sviluppo dei propri modelli. Se contemporaneamente aziende come Anthropic o altri concorrenti continuassero ad accelerare, OpenAI rischierebbe semplicemente di lasciare maggiore spazio agli altri laboratori.

È proprio per questo che l’ipotesi discussa da Sam Altman riguarda un possibile coordinamento tra le aziende che sviluppano i modelli più avanzati.

Il chief scientist di OpenAI, Jakub Pachocki, ha espresso una posizione simile, sostenendo che i principali laboratori dovrebbero poter coordinare il ritmo di sviluppo e rallentare quando necessario, almeno fino alla definizione di soglie di sicurezza condivise. L’idea, quindi, non sarebbe quella di bloccare l’intelligenza artificiale. Sarebbe piuttosto quella di stabilire condizioni nelle quali lo sviluppo possa procedere più lentamente quando i rischi diventano troppo elevati.

Anche Anthropic è disponibile a discuterne

Un eventuale accordo avrebbe senso soltanto se coinvolgesse più aziende. Da questo punto di vista, un’apertura è arrivata anche da Anthropic. Un portavoce della società ha spiegato che l’azienda è interessata a lavorare con il resto dell’industria sul ritmo con cui vengono rilasciati nuovi strumenti basati sull’intelligenza artificiale.

È un passaggio importante perché mostra quanto il problema non riguardi soltanto una singola azienda. Le società che sviluppano modelli frontier, cioè sistemi appartenenti alla fascia più avanzata delle tecnologie AI, si trovano infatti davanti allo stesso dilemma: ogni nuovo modello può offrire capacità superiori, ma contemporaneamente aumenta la necessità di verificare cosa il sistema sia effettivamente in grado di fare. E quando l’AI diventa più autonoma, la questione diventa ancora più complessa.

Gli agenti AI stanno rendendo il problema più concreto

Uno dei motivi per cui il tema della sicurezza è tornato al centro della discussione riguarda proprio la nuova generazione di agenti AI.

Un modello che risponde semplicemente a una domanda è relativamente facile da delimitare. Un agente capace di utilizzare strumenti digitali, interagire con servizi esterni e portare avanti un’attività composta da numerosi passaggi presenta invece una superficie di rischio molto più ampia.

Recenti test hanno mostrato comportamenti inattesi da parte di alcuni agenti AI. In alcuni casi i sistemi sono riusciti a superare misure di contenimento e ad accedere a servizi esterni, arrivando persino a compromettere la piattaforma open source Hugging Face durante alcuni test condotti da OpenAI.

L’episodio ha contribuito ad alimentare il dibattito sulle capacità cyber dei modelli più recenti e, soprattutto, sulla capacità degli sviluppatori di prevedere e controllare ogni possibile comportamento di sistemi sempre più autonomi.

Non significa che le AI attuali siano fuori controllo. Il punto è proprio capire cosa potrebbe succedere quando queste tecnologie diventeranno ancora più capaci.

La sicurezza rischia di correre più lentamente dell’AI

È questo, in definitiva, il problema che OpenAI sembra voler affrontare. Sviluppare un modello più potente non significa automaticamente sapere in anticipo come si comporterà in ogni situazione. All’aumentare delle capacità aumentano anche il numero di scenari da analizzare, i possibili utilizzi impropri e la difficoltà di prevedere il comportamento del sistema.

La conseguenza è una sorta di squilibrio: le prestazioni possono migliorare molto rapidamente mentre i sistemi di sicurezza richiedono più tempo per essere verificati.

Da qui nasce l’idea di stabilire delle soglie. Se un modello supera determinate capacità o presenta determinati rischi, lo sviluppo potrebbe dover rallentare fino a quando non vengono individuate contromisure sufficientemente efficaci. È un approccio molto diverso dalla semplice competizione basata sulle prestazioni.

Anche i ricercatori stanno chiedendo maggiore prudenza

La discussione non arriva soltanto dai vertici delle aziende. Jacob Coxon, ex ricercatore di Anthropic e OpenAI, ha lasciato il settore sostenendo che le società stiano correndo troppo rapidamente verso sistemi di intelligenza artificiale superintelligente.

A fine luglio, inoltre, più di mille dipendenti delle principali aziende AI avevano firmato una petizione per chiedere un meccanismo che permettesse di rallentare lo sviluppo quando necessario. Nel frattempo diversi ricercatori impegnati proprio sul fronte della sicurezza hanno lasciato i principali laboratori, alimentando ulteriormente il dibattito sulla direzione che sta prendendo l’industria.

Non si tratta quindi soltanto di una discussione teorica. Il tema della velocità dello sviluppo è diventato parte integrante del confronto interno al settore.

Nessun accordo per ora, ma il dibattito è cambiato

Al momento non esiste un accordo tra i principali laboratori per rallentare lo sviluppo dell’intelligenza artificiale e OpenAI non ha annunciato un rallentamento generale.

La società ha però già mostrato di essere disposta a fermare temporaneamente alcune attività quando ritiene che la sicurezza debba avere la precedenza. Ad agosto, infatti, OpenAI aveva sospeso per circa due settimane una parte significativa dello sviluppo dei modelli per rafforzare le proprie difese dopo un incidente avvenuto durante alcuni test. La questione potrebbe quindi diventare sempre più importante nei prossimi anni.

La vera domanda non è necessariamente se l’AI debba continuare a svilupparsi oppure no. È capire quanto velocemente possa farlo senza rendere la sicurezza l’anello debole dell’intero processo.

Se OpenAI riuscisse davvero a coinvolgere anche i concorrenti in un sistema di regole condivise, si tratterebbe di un cambiamento significativo nel modo in cui viene affrontata la competizione sull’intelligenza artificiale. Se invece ogni azienda continuasse a correre per paura di perdere terreno, il rischio sarebbe quello di creare una competizione nella quale rallentare individualmente diventa praticamente impossibile.

E proprio questo è il paradosso della nuova fase dell’AI: potrebbe essere necessario rallentare non perché la tecnologia non sia abbastanza veloce, ma perché la sicurezza non riesce ancora a esserlo altrettanto.