Hvad OpenAI’s nye rådgivningsgruppe for matematik faktisk kan gøre

OpenAI har oprettet en Advisory Group on Mathematics and Artificial Intelligence som svar på debatten om selskabets påståede Navier–Stokes-resultat. Gruppen har til huse på Institute for Advanced Study (IAS) i Princeton og skal give fremtrædende matematikere en formel mulighed for at rådgive om vurdering og offentliggørelse af AI-genererede resultater.

Men konstruktionen har en tydelig grænse: Det er en rådgivende gruppe – ikke et tidsskrift, en uafhængig instans til at certificere beviser eller en myndighed, der kan regulere OpenAI’s forskningsprogram. 332

Baggrunden: Navier–Stokes og en strid om anerkendelse

Den 8. september offentliggjorde OpenAI et manuskript på 166 sider samt en formalisering i Lean. OpenAI hævder, at arbejdet løser Navier–Stokes-problemet om eksistens og glathed ved at vise, at en jævn tredimensionel strømning under en jævn ydre kraft kan udvikle en singularitet på endelig tid. 6

Lean er et formelt bevissystem: Det kan mekanisk kontrollere, om en matematisk sætning følger af de definitioner, aksiomer og delresultater, der er kodet i beviset. Det erstatter dog ikke nødvendigvis en menneskelig forklaring på, hvorfor argumentet virker, eller hvad det betyder matematisk. Ifølge omtalen efter offentliggørelsen er det 166 sider lange bevis stadig tidskrævende at gennemskue. Samtidig blev den nye rådgivningsgruppe præsenteret efter bekymring om, hvordan store AI-genererede fund bliver vurderet og formidlet. 2

Der er også en særskilt debat om ophav og prioritet. Tristan Buckmaster og Levent Alpöge offentliggjorde Lean-verificerede resultater om beslægtede ligninger for væsker omtrent samtidig, og udgivelserne førte til en offentlig strid om kreditering. Det er ikke det samme spørgsmål som, om OpenAI’s formaliserede bevis kan tjekkes: Det handler om tidslinje, adgang til idéer og rimelig akademisk anerkendelse. 1

De ni stiftende medlemmer

Det første panel består af:

• François Charles
• Camillo De Lellis
• Timothy Gowers
• Martin Hairer
• Nikhil Srivastava
• Ulrike Tillmann
• Ravi Vakil
• Edward Witten
• Melanie Matchett Wood 26

Gruppen er tilknyttet IAS, men beskrives som uafhængig af OpenAI. 33

Det kan gruppen gøre

OpenAI oplyser, at gruppen skal rådgive om vurdering og kommunikation af nye matematiske resultater. Det omfatter blandt andet resultaternes betydning, koordineret formidling og relevante akademiske og faglige standarder. 1733

Dens erklærede uafhængighed har flere konkrete elementer:

• Medlemmerne modtager ikke betaling fra OpenAI.
• De må give råd, som OpenAI ikke har bedt om.
• De kan offentligt kommentere OpenAI’s påvirkning af matematikken.
• De kan offentliggøre deres råd.
• De kan selv ændre gruppens medlemskab. 33

Det giver medlemmerne mulighed for at udfordre OpenAI offentligt – ikke kun i lukkede møder. Men deres indflydelse er rådgivende og ikke bindende. 33

Det kan gruppen ikke gøre

Panelet har ingen beslutningsmagt over OpenAI’s forskningsretning eller tidsplan. OpenAI siger direkte, at gruppen ikke skal rådgive om tempoet i virksomhedens interne matematikforskning. 332

Det betyder blandt andet, at gruppen ikke kan:

• stoppe en forskningsmeddelelse;
• kræve, at OpenAI frigiver et bevis, en model eller interne forskningsoptegnelser;
• pålægge OpenAI at ændre sin publiceringsstrategi;
• afgøre, om et matematisk resultat er accepteret af forskningsmiljøet; eller
• alene afgøre en tidligere strid om prioritet og kreditering.

Gruppen kan altså anbefale standarder og gøre indsigelser synlige, men OpenAI bevarer kontrollen med modeller, intern arbejdsgang, materialeudgivelser og beslutningen om at følge anbefalingerne. Den bør derfor ses som en bro mellem et AI-laboratorium og matematikmiljøet – ikke som en erstatning for uafhængig fagfællebedømmelse. 332

Uafhængighed og repræsentation er stadig åbne spørgsmål

Reglerne giver gruppen frihed til at udtale sig og offentliggøre råd. I praksis afhænger dens gennemslagskraft af, om medlemmerne bruger den frihed, og om OpenAI reagerer på kritikken. At gruppen ikke har indflydelse på forskningstempoet, er særligt væsentligt, fordi hurtige, opsigtsvækkende annonceringer har været en del af kritikken af AI-laboratoriers håndtering af matematiske påstande. 233

Medlemmernes faglige tyngde giver gruppen troværdighed. Men ni personer kan ikke automatisk repræsentere alle berørte perspektiver. Specialister i formelle metoder, forskere inden for de konkrete delområder, yngre matematikere og miljøer uden for de institutioner, der er repræsenteret i startpanelet, kan have andre syn på bedømmelse, adgang, kreditering og publiceringsnormer. Der er også rejst spørgsmål om, hvordan medlemmerne blev udvalgt. 37

At arbejdet er ulønnet kan styrke afstanden til OpenAI, men det kan samtidig begrænse, hvor meget vedvarende og kritisk gennemgang medlemmerne realistisk kan udføre – særligt hvis de ikke får adgang til det nødvendige baggrundsmateriale.

Hvad betyder det for Navier–Stokes-påstanden?

En Lean-formalisering er vigtig, fordi den kan kontrollere den formelle beviskæde. Men den gør ikke automatisk et argument let at forstå for mennesker, garanterer ikke alene, at alle modelleringer svarer præcist til den uformelle problemformulering, og afgør heller ikke resultatets faglige betydning.

Den nye rådgivningsgruppe ændrer ikke den arbejdsdeling. Den kan rådgive om, hvordan et resultat bør vurderes og formidles. Uafhængige matematikere må fortsat granske manuskriptet, de formelle artefakter, forudsætningerne og forholdet mellem den formulerede sætning og det oprindelige problem. 332

Oprettelsen af gruppen løser heller ikke i sig selv striden om Buckmaster-relateret kreditering. En troværdig afklaring kræver en dokumenteret proces om tidslinje, bidrag, adgang og akademisk anerkendelse – ikke blot en rådgivende udtalelse. 1

Den næste prøve: Påstanden om mere end 100 yderligere resultater

OpenAI siger, at en intern model har løst mere end 100 yderligere åbne matematiske problemer. Rådgivningsgruppen ventes at hjælpe med en ansvarlig offentliggørelse af resultaterne. 3633

Gruppen kan øge troværdigheden, hvis den presser på for en proces, der reelt muliggør ekstern kontrol:

1. Præcise problemformuleringer. En offentlig oversigt bør skelne mellem etablerede sætninger, påståede løsninger, udvidelser og beslægtede fund.
2. Både læsbare og maskinkontrollerbare beviser. Den menneskelige fremstilling forklarer betydningen; de formelle filer gør den mekaniske kontrol reproducerbar.
3. Vurdering af relevante specialister. Resultater i eksempelvis væskedynamik, algebra, geometri eller logik kræver kritik fra forskere med ekspertise på området – ikke kun et generelt panel.
4. Dokumentation for ophav og bidrag. Klare optegnelser er vigtige, når prioritet, modeladgang eller brug af tidligere ikke-offentliggjort arbejde kan blive bestridt.
5. Adskillelse af opdagelse og validering. Et AI-system kan frembringe et lovende bevis, men faglig accept afhænger af åben undersøgelse og varig videnskabelig formidling.

Rådgivningsgruppen er dermed et reelt forsøg på ny styring af AI-genereret matematik, men ikke et endeligt svar på kontroversen. Dens værdi vil afhænge af, om rådene bliver offentlige, om OpenAI frigiver nok materiale til uafhængig kontrol, og om fremtidige udgivelser giver bedømmelse og kreditering samme vægt som selve annonceringen.