Quanto è pericolosa un’intelligenza artificiale autonoma? Il problema della sicurezza dei nuovi modelli

I sistemi AI diventano sempre più autonomi, ma la sicurezza potrebbe non tenere il passo. Ecco perché OpenAI guarda con attenzione al rischio di perdita di controllo.

Più l’intelligenza artificiale diventa capace, più cambia anche la natura del problema che ricercatori e aziende devono affrontare. Non basta infatti costruire modelli in grado di comprendere meglio le richieste, generare risposte più precise o risolvere problemi complessi. A un certo punto diventa fondamentale capire se questi sistemi continueranno a comportarsi nel modo previsto anche quando avranno maggiore autonomia.

È questo il tema dell’AI alignment, cioè l’insieme di tecniche e approcci utilizzati per cercare di mantenere il comportamento e gli obiettivi di un sistema di intelligenza artificiale compatibili con quelli degli esseri umani.

La questione è diventata ancora più importante con l’evoluzione dei sistemi capaci non soltanto di rispondere alle richieste, ma anche di pianificare azioni, utilizzare strumenti digitali e portare avanti autonomamente una serie di operazioni. Ed è proprio in questo scenario che arrivano nuovi avvertimenti sul futuro dell’intelligenza artificiale, anche dall’ambiente di OpenAI.

Il problema non è un’AI che decide di conquistare il mondo

Quando si parla di perdita di controllo dell’intelligenza artificiale, il rischio viene spesso interpretato attraverso scenari fantascientifici. L’immagine di un sistema che improvvisamente prende coscienza, decide di ribellarsi e cerca di eliminare gli esseri umani è però molto lontana dal problema che i ricercatori stanno realmente discutendo.

Il punto è molto più concreto: quanto sarà possibile prevedere e controllare il comportamento di sistemi estremamente capaci e autonomi?

I modelli attuali non possiedono le capacità necessarie per ipotizzare seriamente uno scenario nel quale un’AI possa prendere il controllo del mondo. Il problema riguarda invece una possibile evoluzione futura, nella quale i sistemi potrebbero essere in grado di perseguire obiettivi attraverso numerosi passaggi senza una supervisione umana continua.

Un agente AI, per esempio, potrebbe ricevere un obiettivo generale e decidere autonomamente quali strumenti utilizzare, quali informazioni cercare e quali operazioni eseguire per raggiungerlo. Aumentando il numero di passaggi e il livello di autonomia, diventa inevitabilmente più difficile prevedere ogni comportamento possibile.

L’allarme di Jacob Coxon

La discussione sull’argomento si è intensificata anche dopo la decisione di Jacob Coxon di lasciare Anthropic. Il ricercatore aveva trascorso tre anni lavorando sulla ricerca relativa al pre-addestramento tra OpenAI e Anthropic.

La motivazione della sua scelta è particolarmente significativa per comprendere il problema: secondo Coxon, l’industria starebbe correndo verso una superintelligenza capace di superare gli esseri umani senza avere ancora strumenti sufficienti per controllarla.

Non è quindi necessariamente la tecnologia attuale a rappresentare il pericolo principale. La preoccupazione riguarda il ritmo con cui le capacità dei modelli stanno aumentando e la possibilità che gli strumenti necessari per controllarli non riescano a svilupparsi con la stessa velocità.

È una questione che porta direttamente al concetto di alignment. Se un modello diventa molto più intelligente, autonomo e capace di utilizzare strumenti, non è sufficiente che sappia svolgere bene un compito. Deve anche essere possibile prevedere come interpreterà l’obiettivo assegnato e quali strategie utilizzerà per raggiungerlo.

OpenAI porta Paul Christiano nel gruppo dedicato alla sicurezza

OpenAI ha mostrato di voler prestare attenzione a questo problema anche attraverso l’ingresso di Paul Christiano nel consiglio della OpenAI Foundation e nel Safety and Security Committee.

La scelta è significativa perché Christiano non è un osservatore esterno. Ha lavorato in OpenAI ed è tra i ricercatori che hanno contribuito allo sviluppo del reinforcement learning from human feedback, una tecnica nella quale il comportamento del modello viene orientato anche attraverso il feedback umano.

Il suo ruolo nel comitato è particolarmente importante perché l’organismo può contribuire a valutare se i nuovi modelli siano sufficientemente sicuri per essere distribuiti.

E proprio il suo punto di vista rende ancora più evidente il problema. Secondo Christiano, l’industria non starebbe riducendo i rischi abbastanza velocemente. La sua preoccupazione arriva fino alla possibilità di una perdita di controllo catastrofica e irreversibile qualora le capacità dei sistemi dovessero accelerare rapidamente.

Il problema aumenta con l’autonomia

Per capire perché l’autonomia sia così importante bisogna osservare come stanno cambiando gli strumenti basati sull’intelligenza artificiale.

Un chatbot tradizionale riceve una richiesta e produce una risposta. L’utente mantiene sostanzialmente il controllo del processo e decide cosa fare successivamente.

Un agente AI può invece ricevere un obiettivo e suddividerlo in una serie di operazioni, utilizzando strumenti esterni e adattando il proprio comportamento in base a quello che accade durante l’esecuzione; è un passaggio fondamentale.

Un sistema di questo tipo può navigare online, recuperare informazioni, interagire con servizi esterni e continuare un’attività attraverso diversi passaggi. In teoria, più diventa efficace nel farlo, più aumenta anche il numero di situazioni che gli sviluppatori devono considerare quando cercano di prevederne il comportamento.

La questione non è quindi soltanto quanto sia intelligente un modello, ma quanto sia autonomo e quanto sia difficile prevedere le conseguenze delle sue decisioni.

Gli esperimenti mostrano comportamenti inattesi

Alcuni esperimenti recenti hanno già mostrato comportamenti inattesi da parte di sistemi agentici. In determinati casi, gli agenti hanno cercato di continuare un compito attraverso strategie che non erano state previste oppure hanno interagito con servizi esterni in modi che hanno richiesto ulteriori verifiche.

Questo non significa che sia già comparsa un’intelligenza artificiale fuori controllo. È importante distinguere i due concetti. Un comportamento inatteso durante un esperimento non dimostra l’esistenza di una macchina capace di agire autonomamente contro l’umanità.

Dimostra però qualcosa di più semplice e concreto: prevedere tutti i comportamenti possibili di un sistema autonomo è difficile. E questa difficoltà diventa più rilevante man mano che aumentano le capacità del modello.

Anche governi e istituzioni stanno guardando al problema

La questione non è rimasta confinata ai laboratori di ricerca delle aziende tecnologiche. Il comportamento degli agenti AI è infatti finito sotto l’attenzione anche di istituzioni come il Senato degli Stati Uniti e la Commissione Europea, che stanno osservando l’evoluzione di queste tecnologie e i relativi rischi.

Il motivo è evidente. L’intelligenza artificiale sta entrando in un numero crescente di attività e il passaggio dai chatbot agli agenti autonomi può avere conseguenze molto più ampie.

Un sistema che genera un testo sbagliato produce generalmente un errore che può essere corretto dall’utente. Un sistema che dispone invece di strumenti e autorizzazioni per eseguire operazioni può trasformare un errore di interpretazione in un’azione concreta. Da qui nasce la necessità di sviluppare sistemi di sicurezza capaci di accompagnare l’aumento delle capacità.

Il vero problema è la velocità

La questione centrale, alla fine, può essere riassunta in una sola parola: velocità. Se le capacità dell’intelligenza artificiale aumentano rapidamente, ma le tecniche utilizzate per garantire sicurezza e controllo migliorano più lentamente, si crea uno squilibrio.

È questo lo scenario che preoccupa alcuni ricercatori. Non perché l’AI attuale sia improvvisamente diventata incontrollabile, ma perché potrebbe arrivare un momento nel quale sistemi molto più capaci saranno messi in circolazione prima di aver compreso completamente i loro possibili comportamenti.

L’AI alignment nasce proprio per affrontare questo problema: fare in modo che un sistema sempre più potente continui a perseguire obiettivi compatibili con le intenzioni umane.

Per ora non esiste una risposta definitiva a questa sfida. Ed è proprio questo il punto più importante dell’avvertimento che arriva dall’ambiente di OpenAI: costruire sistemi più intelligenti potrebbe essere relativamente più semplice che dimostrare di poterli controllare in ogni situazione.

Con l’arrivo di agenti sempre più autonomi, la sicurezza non può quindi essere considerata un elemento successivo allo sviluppo. Deve procedere insieme alle capacità dei modelli.