Chi controlla le dimostrazioni dell’intelligenza artificiale?

OpenAI sostiene che un suo modello abbia risolto oltre 100 problemi matematici aperti. Ora la sfida è verificare le dimostrazioni e capire quali risultati siano davvero validi.

Un problema matematico può rimanere aperto per anni, a volte per decenni. Quando qualcuno propone una possibile soluzione, però, il lavoro della comunità scientifica non termina: comincia una fase altrettanto importante, quella della verifica.

Bisogna controllare ogni passaggio della dimostrazione, individuare eventuali errori, confrontare il risultato con ciò che è già noto e capire se l’eventuale soluzione introduce strumenti o idee che possono essere utilizzati anche in altri problemi.

È proprio questo il punto sul quale si concentra il dibattito nato dopo l’ultimo annuncio di OpenAI. L’azienda sostiene che un proprio modello interno abbia risolto oltre 100 problemi matematici rimasti aperti da tempo, affrontando quesiti appartenenti a diversi settori della matematica. Tra i risultati già resi pubblici figura anche una proposta di soluzione per il problema di Navier–Stokes, legato alla descrizione matematica del comportamento dei fluidi.

Il numero è impressionante, ma solleva una domanda ancora più importante: chi verifica tutte queste soluzioni?

Risolvere un problema non significa averlo dimostrato

Nel mondo della ricerca matematica esiste una differenza fondamentale tra produrre una possibile soluzione e arrivare a una dimostrazione accettata dalla comunità scientifica.

Una dimostrazione deve essere leggibile, controllabile e sufficientemente dettagliata da permettere ad altri matematici di verificare che ogni passaggio sia corretto.

Con l’intelligenza artificiale questo processo rischia di diventare particolarmente complicato. Un modello può infatti produrre una grande quantità di materiale matematico in tempi molto più brevi rispetto a quelli necessari a un essere umano per studiarlo. Il problema, quindi, non è soltanto capire se l’AI sia in grado di trovare una soluzione.

È capire se la comunità scientifica riesca a verificare tutte le soluzioni alla stessa velocità con cui vengono generate.

Ed è proprio questa asimmetria tra produzione e verifica a rappresentare uno degli aspetti più delicati della vicenda.

OpenAI parla di oltre 100 problemi risolti

Secondo quanto dichiarato dall’azienda, il modello avrebbe affrontato più di 100 problemi aperti in diversi campi della matematica. Alcuni risultati sono già stati resi pubblici, compresa una proposta relativa al problema di Navier–Stokes.

Quest’ultimo riguarda le equazioni utilizzate per descrivere il movimento dei fluidi e rappresenta uno dei problemi matematici più noti e complessi ancora aperti.

Tuttavia, la comunicazione di OpenAI non ha incluso un elenco completo delle dimostrazioni che permetta di considerare tutti gli oltre 100 risultati come verificati dalla comunità matematica. Questa distinzione è fondamentale.

Dire che un modello ha prodotto una possibile soluzione non equivale a dire che quella soluzione sia stata controllata, pubblicata e accettata dai ricercatori.

Il rischio è che il numero diventi più importante delle idee

Il timore espresso da alcuni matematici riguarda proprio il modo in cui questi risultati vengono comunicati.

Se un’intelligenza artificiale è capace di proporre decine o centinaia di possibili soluzioni in tempi molto brevi, il rischio è che l’attenzione si concentri sul numero dei problemi risolti invece che sulla qualità delle dimostrazioni.

Una soluzione matematica, però, non acquista valore semplicemente perché è stata generata da un sistema molto potente; bisogna capire se è corretta, se utilizza passaggi validi, se risolve effettivamente il problema posto e se contiene idee nuove.

Quest’ultimo elemento è particolarmente importante. Una dimostrazione può essere formalmente corretta senza necessariamente rappresentare una svolta per il settore. Al contrario, una nuova tecnica o un nuovo approccio possono avere conseguenze molto più ampie del singolo problema dal quale sono partiti.

Alcuni matematici hanno criticato l’approccio

La questione ha portato alcuni matematici a firmare una lettera aperta nella quale viene criticato l’utilizzo dei grandi problemi irrisolti come banco di prova per l’intelligenza artificiale.

Il problema non riguarda necessariamente il fatto che l’AI venga utilizzata per fare ricerca matematica. Il nodo è piuttosto la velocità con cui eventuali risultati possono essere prodotti e diffusi.

Una dimostrazione pubblicata rapidamente potrebbe infatti lasciare meno tempo ai ricercatori per controllare ogni passaggio, individuare eventuali contributi precedenti e soprattutto comprendere se dietro una soluzione ci sia un’idea realmente nuova. La ricerca matematica non consiste soltanto nel raggiungere una risposta.

Una parte essenziale del lavoro consiste nel capire perché quella risposta funziona e quali conseguenze può avere.

Nasce un gruppo indipendente di nove matematici

Proprio per affrontare questo problema è stato costituito un gruppo composto da nove matematici, ospitato dall’Institute for Advanced Study. La nascita del gruppo è legata anche ai contatti avuti da OpenAI con alcuni matematici per la creazione di un comitato esterno.

La proposta, però, si è evoluta in una direzione diversa: i matematici hanno scelto di creare un organismo indipendente, che possa formulare raccomandazioni non soltanto nei confronti di OpenAI, ma anche di altre aziende che dovessero trovarsi davanti allo stesso problema.

Il gruppo non avrà il potere di decidere cosa debba fare OpenAI né potrà stabilire il ritmo di sviluppo dei suoi modelli.

Il suo ruolo sarà soprattutto quello di fornire indicazioni su come comunicare e distribuire i risultati matematici prodotti dall’intelligenza artificiale.

La verifica diventa il vero collo di bottiglia

È probabilmente questo l’aspetto più interessante dell’intera vicenda. Per molto tempo, uno dei limiti principali dell’intelligenza artificiale è stato considerato la sua capacità di produrre risultati corretti in problemi complessi.

Se i modelli diventano invece abbastanza potenti da generare autonomamente nuove dimostrazioni matematiche, il problema cambia. Il collo di bottiglia può spostarsi dalla generazione alla verifica.

Immaginiamo un sistema capace di produrre cento possibili dimostrazioni. Anche se soltanto una parte fosse corretta, i matematici dovrebbero comunque leggere, controllare e comprendere una quantità enorme di materiale.

La situazione potrebbe diventare ancora più complessa se le dimostrazioni utilizzassero tecniche nuove o difficili da interpretare.

In quel caso non basterebbe verificare formalmente che i passaggi siano coerenti: bisognerebbe anche comprendere il significato matematico del risultato.

L’AI potrebbe cambiare anche il modo di fare ricerca

Questo è il punto nel quale la vicenda potrebbe andare oltre OpenAI. Se i sistemi di intelligenza artificiale iniziano a produrre regolarmente risultati matematici originali, la comunità scientifica potrebbe dover sviluppare nuovi strumenti e procedure per valutarli.

Potrebbe diventare necessario distinguere con maggiore precisione tra una soluzione generata automaticamente, una soluzione verificata formalmente, una soluzione controllata da matematici e una soluzione che abbia già prodotto nuove conseguenze teoriche.

Il problema non è soltanto tecnologico, ma anche organizzativo e scientifico. La matematica dispone già di strumenti molto rigorosi per verificare le dimostrazioni, ma questi strumenti non risolvono automaticamente il problema della comprensione e della selezione dei risultati più importanti.

Se un modello produce migliaia di pagine di dimostrazioni, qualcuno dovrà comunque decidere quali meritano di essere studiate per prime.

Chi verificherà le soluzioni di OpenAI?

Al momento, il punto centrale rimane proprio questo. OpenAI sostiene che il proprio modello abbia risolto oltre 100 problemi aperti, ma il materiale relativo all’annuncio non presenta un elenco completo di dimostrazioni che consenta di considerare ogni risultato già verificato dalla comunità.

Il nuovo gruppo di nove matematici potrà fornire raccomandazioni su come affrontare la situazione, ma non avrà il controllo sulle decisioni dell’azienda.

Per questo la verifica dei risultati rimane un processo che dovrà necessariamente coinvolgere la comunità matematica. E sarà probabilmente molto più interessante osservare quante di queste soluzioni resisteranno a un esame indipendente, piuttosto che fermarsi al numero iniziale annunciato da OpenAI.

La vera sfida non è più soltanto risolvere

La vicenda mostra una possibile trasformazione nel rapporto tra intelligenza artificiale e ricerca scientifica. Se un modello riesce a generare nuove dimostrazioni a una velocità superiore a quella con cui gli esseri umani riescono a esaminarle, il problema non è più semplicemente chiedersi se l’AI sappia fare matematica.

La domanda diventa: come facciamo a capire quali risultati sono davvero corretti, nuovi e importanti? Perché una macchina che produce una soluzione può accelerare la ricerca. Ma senza un processo affidabile di verifica, il numero di risultati prodotti rischia di crescere più rapidamente della nostra capacità di comprenderli.

Ed è proprio su questo terreno che si giocherà una parte importante del futuro della matematica assistita dall’intelligenza artificiale.