Poradní skupina OpenAI pro matematiku není arbitrem jejích důkazů

OpenAI reagovala na kritiku svého oznámeného výsledku k Navierovým–Stokesovým rovnicím podporou nové Poradní skupiny pro matematiku a umělou inteligenci. Skupinu hostí Institute for Advanced Study (IAS) v Princetonu a má významným matematikům nabídnout formální cestu, jak radit s posuzováním a zveřejňováním výsledků vytvořených AI.

Nejde však o vědecký časopis, nezávislý úřad pro ověřování důkazů ani orgán, který by reguloval výzkumný program OpenAI. Její úloha je poradní. 332

Co bylo bezprostředním podnětem

OpenAI 8. září zveřejnila 166stránkový rukopis a formalizaci v systému Lean. Firma tvrdí, že ukazují, jak se u hladkého trojrozměrného proudění popsaného Navierovými–Stokesovými rovnicemi může při působení hladké vnější síly objevit singularita v konečném čase. OpenAI práci označuje za řešení problému existence a hladkosti Navierových–Stokesových rovnic, jednoho z Problémů tisíciletí. 6

Lean je prostředí pro formální důkazy: umožňuje strojově ověřit, že tvrzení plyne z přesně zapsaných definic, axiomů a pomocných vět. Vedle tohoto strojově kontrolovatelného artefaktu ale zůstává 166stránkový rukopis lidským výkladem argumentu. Podle následného zpravodajství trvá rozplétání důkazu týdny; poradní skupina byla oznámena jako reakce na otázky, jak mají být velké matematické výsledky vytvořené AI posuzovány a šířeny. 2

Samostatnou věcí je spor o autorství a prioritu. Tristan Buckmaster a Levent Alpöge zhruba ve stejné době zveřejnili Leanem ověřené výsledky týkající se příbuzných problémů rovnic proudění. Následoval veřejný spor o připsání zásluh. Ten se netýká jen toho, zda se formální důkaz OpenAI zkontroluje, ale také původu myšlenek, přístupu k nim a přiměřeného odborného uznání. 1

Kdo v panelu zasedá

Zakládajícími členy jsou:

• François Charles
• Camillo De Lellis
• Timothy Gowers
• Martin Hairer
• Nikhil Srivastava
• Ulrike Tillmann
• Ravi Vakil
• Edward Witten
• Melanie Matchett Wood 26

Skupinu hostí IAS, podle zveřejněného uspořádání ale působí nezávisle na OpenAI. 33

Co poradní skupina dělat může

OpenAI uvádí, že skupina bude radit při hodnocení a komunikaci nových matematických výsledků. To zahrnuje posouzení jejich významu, koordinované zveřejňování a otázky akademických a profesních standardů. 1733

Její deklarovaná nezávislost má několik konkrétních rysů:

• členové nejsou placeni OpenAI;
• mohou poskytovat i nevyžádaná doporučení;
• mohou se veřejně vyjadřovat k dopadu OpenAI na matematiku;
• mohou svá doporučení zveřejnit;
• o změnách vlastního členství mohou rozhodovat sami. 33

Právě možnost veřejně vystoupit je podstatná: poradci tak mohou s OpenAI otevřeně nesouhlasit, nikoli pouze diskutovat neveřejně. Jejich autorita je nicméně doporučující, nikoli závazná. 33

Co naopak rozhodovat nemůže

Panel nemá rozhodovací pravomoc nad směřováním ani časovým plánem matematického výzkumu OpenAI. Firma výslovně uvádí, že skupina nebude radit, jak rychle má OpenAI ve svém interním matematickém výzkumu postupovat. 332

Z toho plyne, že skupina sama nemůže:

• nařídit OpenAI zastavení či odklad oznámení;
• vynutit zveřejnění důkazu, modelu nebo interních výzkumných záznamů;
• donutit firmu změnit publikační strategii;
• rozhodnout, zda matematická komunita tvrzení přijme;
• sama uzavřít dřívější spor o prioritu či připsání autorství.

Nejde tedy o náhradu nezávislého peer review. Skupina může doporučovat standardy a veřejně upozorňovat na problémy, kontrolu nad modely, interním pracovním postupem, uvolňováním podkladů i přijetím doporučení si ale ponechává OpenAI. Nejlépe ji lze chápat jako prostředníka mezi laboratoří AI a matematickou komunitou. 332

Proč zůstávají otázky nezávislosti a zastoupení

Charta dává členům prostor mluvit a publikovat, její praktická váha však bude záviset na tom, zda jej využijí — a zda na jejich doporučení OpenAI zareaguje. Skutečnost, že skupina nemá vliv na rychlost interního výzkumu, je významná zejména proto, že právě rychlá, mediálně výrazná oznámení patřila mezi terče kritiky přístupu AI laboratoří k matematickým tvrzením. 233

Devět členů má mimořádnou odbornou reputaci, což skupině dodává důvěryhodnost. Devítičlenný panel ale nemůže automaticky pokrýt všechny relevantní pohledy: specialisté na formální metody, vědci z přímo dotčených podoborů, začínající matematici či lidé mimo instituce zastoupené v zakládajícím složení mohou mít odlišné názory na recenzování, přístup k podkladům, autorství i publikační zvyklosti. Ve zpravodajství zazněly také otázky, jak byli členové vybráni. 37

Neplacená forma může posílit odstup od OpenAI. Současně ale znamená, že možnost provádět dlouhodobou a kritickou kontrolu bude záviset na čase členů a na jejich přístupu k podkladům.

Co to znamená pro tvrzení o Navierových–Stokesových rovnicích

Ověření v Leanu je důležité: stroj může zkontrolovat, zda věta skutečně vyplývá z formalizovaných definic, axiomů a lemmat. Samo o sobě však nezaručuje, že je argument pro člověka srozumitelný, že každá volba při modelování přesně odpovídá zamýšlenému neformálnímu tvrzení, ani že je jasný význam či vysvětlení výsledku.

Vznik poradní skupiny toto rozdělení rolí nemění. Může radit, jak výsledek hodnotit a komunikovat; nezávislí matematici stále musí zkoumat rukopis, formální artefakty, předpoklady i vztah formulované věty k původnímu problému. 332

Stejně tak samotné založení skupiny neřeší spor o autorství spojený s Buckmasterem. Důvěryhodné vyřešení by vyžadovalo postup založený na důkazech — tedy posouzení časové osy, příspěvků, přístupu k informacím a odborného uznání — nikoli pouze poradní stanovisko. 1

Zátěžová zkouška: více než 100 dalších výsledků

OpenAI tvrdí, že její interní model vyřešil dalších více než 100 otevřených matematických problémů. Poradní skupina má pomoci s odpovědným zveřejňováním těchto výsledků. 3633

Důvěryhodnost takového procesu by mohla zvýšit prosazováním postupu, který umožní skutečně nezávislé posouzení:

1. Přesně vymezit každý problém. Veřejný seznam by měl odlišit prokázané věty, deklarovaná řešení, rozšíření a příbuzné výsledky.
2. Zveřejnit čitelný i strojově ověřitelný podklad. Lidský důkaz objasňuje význam; formální artefakt umožňuje opakovat mechanickou kontrolu.
3. Zajistit posouzení specialisty. Výsledek z dynamiky tekutin, algebry, geometrie či logiky musí hodnotit lidé, kteří v dané oblasti pracují — nejen obecný poradní panel.
4. Dokumentovat původ a příspěvky. Jasné záznamy jsou zvlášť důležité tam, kde se může zpochybňovat priorita, přístup k modelu nebo využití dřívější nepublikované práce.
5. Oddělit objev od validace. AI může vytvořit slibný důkaz, přijetí komunitou však vyžaduje otevřené prověření a trvalou odbornou komunikaci.

Nový panel je proto podstatným experimentem ve správě vědy, nikoli konečnou odpovědí na spor. Jeho skutečná hodnota se ukáže podle toho, zda budou doporučení veřejná, zda OpenAI poskytne dostatek podkladů pro vnější ověřování a zda budou budoucí zveřejněné výsledky přikládat recenzi i autorství stejnou váhu jako samotnému oznámení.