Cosa può fare — e cosa non può fare — il nuovo gruppo matematico di OpenAI

La risposta di OpenAI alle polemiche sulla presunta soluzione del problema di Navier–Stokes è la creazione dell’Advisory Group on Mathematics and Artificial Intelligence, ospitato dall’Institute for Advanced Study (IAS) di Princeton. Il gruppo offre a matematici di primo piano un canale formale per consigliare l’azienda sulla valutazione e sulla divulgazione di risultati generati dall’IA. Non è però una rivista scientifica, un ente autonomo di certificazione delle dimostrazioni o un’autorità di vigilanza sull’attività di ricerca di OpenAI. 332

Perché OpenAI ha istituito il gruppo

L’8 settembre OpenAI ha pubblicato un manoscritto di 166 pagine e una formalizzazione in Lean, sostenendo che un flusso tridimensionale di Navier–Stokes inizialmente regolare, sottoposto a una forza regolare, possa sviluppare una singolarità in tempo finito. L’azienda presenta il lavoro come una soluzione del problema di esistenza e regolarità di Navier–Stokes. 6

La formalizzazione in Lean mette a disposizione un artefatto verificabile meccanicamente; il manoscritto resta invece l’esposizione dell’argomento pensata per i lettori umani. Dopo la pubblicazione, è stato riferito che la dimostrazione richiedeva tempo per essere analizzata e che il gruppo consultivo è nato in risposta alle preoccupazioni sul modo in cui grandi risultati matematici prodotti dall’IA vengono esaminati e diffusi. 2

C’è poi una controversia separata su priorità e attribuzione. Tristan Buckmaster e Levent Alpöge hanno pubblicato, nello stesso periodo, risultati verificati in Lean su problemi collegati nelle equazioni dei fluidi; le rispettive pubblicazioni hanno aperto una disputa pubblica sul riconoscimento dei contributi. Non è la stessa questione della correttezza formale della prova di OpenAI: riguarda origine delle idee, accesso al lavoro altrui e credito accademico. 1

I nove membri fondatori

Il panel iniziale è composto da:

• François Charles
• Camillo De Lellis
• Timothy Gowers
• Martin Hairer
• Nikhil Srivastava
• Ulrike Tillmann
• Ravi Vakil
• Edward Witten
• Melanie Matchett Wood 26

Il gruppo è ospitato dall’IAS, ma viene descritto come indipendente da OpenAI. 33

Quali poteri ha il gruppo

Secondo OpenAI, il gruppo fornirà consulenza sulla valutazione e comunicazione di nuovi risultati matematici: la loro rilevanza, la diffusione coordinata e l’applicazione di standard accademici e professionali. 1733

L’indipendenza dichiarata ha alcuni elementi concreti:

• i membri non sono retribuiti da OpenAI;
• possono offrire consigli che OpenAI non ha richiesto;
• possono commentare pubblicamente l’impatto di OpenAI sulla matematica;
• possono rendere pubblici i propri pareri;
• possono modificare autonomamente la composizione del gruppo. 33

Queste condizioni danno ai consiglieri la possibilità di contestare pubblicamente OpenAI, anziché limitarsi a confronti riservati. L’autorità del gruppo resta tuttavia consultiva, non vincolante. 33

Cosa non può fare

Il panel non ha potere decisionale sulla direzione o sulle tempistiche della ricerca matematica di OpenAI. L’azienda afferma esplicitamente che il gruppo non si occuperà di consigliare il ritmo dei suoi progressi interni nel settore. 332

In pratica, il mandato annunciato non gli attribuisce il potere di:

• bloccare un annuncio di ricerca;
• obbligare OpenAI a pubblicare una dimostrazione, un modello o la documentazione interna della ricerca;
• imporre modifiche alla strategia di pubblicazione dell’azienda;
• stabilire che una tesi matematica sia ufficialmente accettata dalla comunità scientifica;
• risolvere da solo una controversia pregressa su priorità o attribuzione.

La distinzione è decisiva: il gruppo può raccomandare standard e rendere pubbliche le proprie obiezioni, ma OpenAI conserva il controllo sui modelli, sui processi interni, sui materiali messi a disposizione e sull’adozione delle raccomandazioni. Va quindi interpretato come un ponte tra un laboratorio di IA e la comunità matematica, non come un sostituto della revisione tra pari indipendente. 332

Indipendenza e rappresentatività: le questioni aperte

Lo statuto lascia al gruppo una notevole libertà di parola e di pubblicazione, ma la sua efficacia dipenderà dalla volontà dei membri di esercitarla e da quella di OpenAI di rispondere. Il fatto che non possa intervenire sul ritmo della ricerca è particolarmente rilevante, perché gli annunci rapidi e molto mediatizzati erano al centro delle critiche rivolte ai laboratori di IA. 233

I componenti sono studiosi di grande prestigio, e questo rafforza la credibilità dell’iniziativa. Nove persone, però, non rappresentano automaticamente tutte le prospettive rilevanti: specialisti dei metodi formali, ricercatori dei sottosettori coinvolti, matematici a inizio carriera e comunità esterne alle istituzioni presenti nel panel possono avere posizioni diverse su revisione, accesso ai materiali, attribuzione e norme editoriali. Sono state inoltre sollevate domande sulle modalità di selezione dei membri. 37

L’assenza di compensi può rafforzare la distanza da OpenAI, ma significa anche che la capacità di condurre verifiche continuative e potenzialmente conflittuali dipenderà dal tempo disponibile dei membri e dall’accesso ai materiali di base.

Cosa cambia per la rivendicazione su Navier–Stokes

La verifica con Lean è importante: può controllare meccanicamente se un teorema segue dalle definizioni, dagli assiomi e dai lemmi codificati nella dimostrazione. Ma una formalizzazione verificata non rende automaticamente l’argomento comprensibile agli esseri umani, non dimostra da sola che ogni scelta di modellazione rifletta l’enunciato informale inteso e non risolve le questioni di rilevanza o spiegazione.

Il nuovo gruppo non modifica questa divisione dei compiti. Può consigliare come valutare e comunicare un risultato; matematici indipendenti devono comunque esaminare manoscritto, artefatti formali, ipotesi e rapporto tra il teorema dichiarato e il problema originario. 332

Allo stesso modo, l’istituzione del panel non risolve di per sé la disputa sull’attribuzione legata a Buckmaster. Una conclusione credibile richiederebbe un processo fondato su prove che ricostruisca cronologia, contributi, accesso ai materiali e corretto riconoscimento accademico, non una semplice raccomandazione consultiva. 1

Il banco di prova: le oltre 100 ulteriori soluzioni rivendicate

OpenAI afferma che il suo modello interno abbia risolto più di 100 ulteriori problemi matematici aperti e che il gruppo consultivo contribuirà a una pubblicazione responsabile dei risultati. 3633

Il panel potrebbe rendere il processo più credibile incoraggiando una sequenza di pubblicazione che consenta una valutazione indipendente effettiva:

1. Definire con precisione ogni problema. Un elenco pubblico dovrebbe distinguere teoremi stabiliti, soluzioni dichiarate, estensioni e risultati correlati.
2. Pubblicare lavori leggibili e verificabili meccanicamente. Le prove per lettori umani spiegano perché un risultato conta; gli artefatti formali consentono ad altri di riprodurre la verifica automatica.
3. Garantire una revisione per disciplina. Un risultato in dinamica dei fluidi, algebra, geometria o logica deve essere esaminato da specialisti del settore, non soltanto da un panel generalista.
4. Documentare provenienza e contributi. Registri chiari sono essenziali quando possono essere contestati priorità, accesso ai modelli o impiego di lavori precedenti non pubblicati.
5. Separare la scoperta dalla validazione. Un sistema di IA può produrre una prova promettente, ma l’accettazione da parte della comunità dipende da un esame aperto e da una comunicazione scientifica durevole.

Il nuovo gruppo è dunque un esperimento di governance significativo, non una risposta definitiva alla controversia. Il suo valore dipenderà da quanto i suoi pareri saranno pubblici, da quante prove OpenAI renderà disponibili per verifiche esterne e dal fatto che le prossime pubblicazioni diano a revisione e attribuzione lo stesso peso dato all’annuncio iniziale.