Co nowa grupa doradcza OpenAI ds. matematyki może faktycznie zrobić

OpenAI odpowiedziało na krytykę dotyczącą deklarowanego wyniku dla równań Naviera–Stokesa, wspierając nową Grupę Doradczą ds. Matematyki i Sztucznej Inteligencji. Grupę gości Institute for Advanced Study (IAS) w Princeton — renomowany niezależny ośrodek badawczy w USA. Ma ona stworzyć formalny kanał, przez który uznani matematycy będą doradzać w sprawie oceny i publikowania rezultatów wygenerowanych przez AI.

To ważna różnica: jest to ciało doradcze, a nie czasopismo naukowe, niezależny urząd weryfikujący dowody ani regulator badań OpenAI. 332

Co wywołało tę reakcję

8 września OpenAI opublikowało 166-stronicowy manuskrypt oraz formalizację w Lean, deklarując rozwiązanie problemu istnienia i gładkości dla równań Naviera–Stokesa. Według firmy dowód pokazuje, że gładki trójwymiarowy przepływ pod działaniem gładkiej siły zewnętrznej może w skończonym czasie wytworzyć osobliwość. 6

Formalizacja w Lean jest artefaktem, który można mechanicznie sprawdzić. Manuskrypt pozostaje natomiast opisem argumentu przeznaczonym dla ludzi. Po publikacji pojawiły się relacje, że przeanalizowanie dowodu wymaga czasu; wskazywano też, że grupa doradcza została ogłoszona w odpowiedzi na pytania o sposób recenzowania i rozpowszechniania ważnych wyników matematycznych generowanych przez AI. 2

Osobnym problemem jest spór o autorstwo i pierwszeństwo. Tristan Buckmaster i Levent Alpöge opublikowali zweryfikowane w Lean wyniki dotyczące pokrewnych problemów równań płynów mniej więcej w tym samym okresie. Stało się to przedmiotem publicznego sporu o przypisanie заслug. Nie jest to to samo pytanie co poprawność formalnego dowodu OpenAI: dotyczy ono pochodzenia pomysłów, dostępu do nich oraz właściwego uznania wkładu naukowego. 1

Dziewięciu członków założycielskich

W pierwszym składzie znaleźli się:

• François Charles
• Camillo De Lellis
• Timothy Gowers
• Martin Hairer
• Nikhil Srivastava
• Ulrike Tillmann
• Ravi Vakil
• Edward Witten
• Melanie Matchett Wood 26

Grupę gości IAS, ale ma ona działać niezależnie od OpenAI. 33

Do czego grupa jest uprawniona

OpenAI deklaruje, że grupa będzie doradzać w sprawie oceny i komunikowania nowych wyników matematycznych: ich znaczenia, skoordynowanego upowszechniania oraz odpowiednich standardów akademickich i zawodowych. 1733

Jej deklarowana niezależność ma kilka konkretnych elementów:

• członkowie nie otrzymują wynagrodzenia od OpenAI;
• mogą przekazywać rady, o które OpenAI nie prosiło;
• mogą publicznie komentować wpływ OpenAI na matematykę;
• mogą publikować własne rekomendacje;
• mogą samodzielnie zmieniać skład grupy. 33

To istotne, ponieważ daje doradcom możliwość publicznego zakwestionowania działań OpenAI, a nie tylko formułowania uwag za zamkniętymi drzwiami. Nadal jednak ich rola ma charakter doradczy, nie wiążący. 33

Czego grupa nie może zrobić

Panel nie ma władzy decyzyjnej nad tempem wewnętrznych badań matematycznych OpenAI. Firma wyraźnie stwierdza, że grupa nie będzie doradzać, jak szybko OpenAI ma rozwijać swoje prace w matematyce. 332

W praktyce oznacza to, że grupa nie może:

• zatrzymać ogłoszenia badawczego;
• nakazać OpenAI ujawnienia dowodu, modelu ani wewnętrznej dokumentacji badawczej;
• wymusić zmiany strategii publikacyjnej firmy;
• rozstrzygnąć, czy dane twierdzenie zostało oficjalnie zaakceptowane przez społeczność naukową;
• samodzielnie osądzić wcześniejszego sporu o pierwszeństwo lub autorstwo.

To rozróżnienie jest zasadnicze. Grupa może zalecać standardy i publicznie zgłaszać zastrzeżenia, ale kontrola nad modelami, wewnętrznym procesem pracy, udostępnianiem materiałów dowodowych oraz przyjmowaniem rekomendacji pozostaje po stronie OpenAI. Najtrafniej traktować ją więc jako pomost między laboratorium AI a środowiskiem matematyków — nie jako zamiennik niezależnej recenzji naukowej. 332

Dlaczego pytania o niezależność i reprezentację nie znikają

Statut daje grupie realną swobodę wypowiedzi i publikowania, ale jej znaczenie będzie zależeć od tego, czy członkowie zechcą z tej swobody korzystać oraz czy OpenAI będzie reagować na ich zalecenia. Brak wpływu na tempo badań jest szczególnie istotny, ponieważ szybkie, szeroko nagłaśniane ogłoszenia należały do głównych punktów krytyki podejścia laboratoriów AI do twierdzeń matematycznych. 233

Członkowie panelu są wybitnymi badaczami, co wzmacnia jego wiarygodność. Dziewięcioosobowa grupa nie może jednak automatycznie reprezentować wszystkich istotnych perspektyw. Specjaliści od metod formalnych, badacze danych poddziedzin, matematycy na wcześniejszym etapie kariery czy środowiska spoza instytucji reprezentowanych w początkowym składzie mogą inaczej oceniać zasady recenzji, dostęp do materiałów, autorstwo i normy publikacyjne. Pojawiły się też pytania o sposób wyboru członków. 37

Brak wynagrodzenia może wzmacniać dystans wobec OpenAI, ale oznacza również, że możliwość prowadzenia długotrwałej, krytycznej analizy będzie zależała od czasu członków grupy i ich dostępu do materiałów źródłowych.

Co to oznacza dla twierdzenia o Navierze–Stokesie

Weryfikacja Lean ma znaczenie, ponieważ pozwala mechanicznie sprawdzić, czy twierdzenie wynika z formalnie zakodowanych definicji, aksjomatów i lematów. Sam fakt maszynowego sprawdzenia nie czyni jednak argumentu łatwym do zrozumienia dla człowieka, nie dowodzi automatycznie, że każdy wybór modelowy dokładnie oddaje zamierzoną nieformalną tezę, ani nie rozstrzyga o znaczeniu i wyjaśniającej wartości wyniku.

Powołanie grupy doradczej nie zmienia tego podziału zadań. Może ona doradzać, jak rezultat ocenić i zakomunikować; niezależni matematycy nadal muszą badać manuskrypt, artefakty formalne, założenia oraz związek deklarowanego twierdzenia z pierwotnym problemem. 332

Podobnie utworzenie grupy nie rozwiązuje samo przez się sporu o przypisanie wkładu związanego z Buckmasterem. Wiarygodne rozstrzygnięcie wymagałoby opartego na dowodach procesu analizującego chronologię, wkład poszczególnych osób, dostęp do materiałów i zasady uznania naukowego — a nie wyłącznie rekomendacji ciała doradczego. 1

Pierwszy poważny sprawdzian: deklarowane ponad 100 kolejnych wyników

OpenAI twierdzi, że jego wewnętrzny model rozwiązał ponad 100 dodatkowych otwartych problemów matematycznych, a grupa doradcza ma pomóc w odpowiedzialnym publikowaniu tych rezultatów. 3633

Wiarygodność tego procesu mogłoby zwiększyć zalecanie kolejności publikacji, która pozwala na rzeczywistą niezależną ocenę:

1. Precyzyjne określenie każdego problemu. Publiczna lista powinna odróżniać ustalone twierdzenia, deklarowane rozwiązania, rozszerzenia i wyniki powiązane.
2. Udostępnienie prac czytelnych dla ludzi i sprawdzalnych maszynowo. Dowód napisany dla człowieka wyjaśnia znaczenie wyniku; artefakty formalne umożliwiają odtworzenie mechanicznej weryfikacji.
3. Recenzja przez specjalistów z danej dziedziny. Wynik z dynamiki płynów, algebry, geometrii czy logiki powinien oceniać badacz aktywny w tym obszarze, a nie tylko ogólny panel doradczy.
4. Dokumentowanie pochodzenia i wkładów. Jasne rejestry są szczególnie ważne tam, gdzie mogą powstać spory o pierwszeństwo, dostęp do modelu lub wykorzystanie wcześniejszych nieopublikowanych prac.
5. Oddzielenie odkrycia od walidacji. System AI może wygenerować obiecujący dowód, lecz akceptacja przez społeczność zależy od otwartej analizy i trwałej komunikacji naukowej.

Nowy panel jest zatem znaczącym eksperymentem w zarządzaniu wynikami AI, lecz nie stanowi ostatecznej odpowiedzi na kontrowersje. O jego wartości przesądzi to, czy zalecenia będą publiczne, czy OpenAI udostępni wystarczające dowody do weryfikacji zewnętrznej oraz czy w przyszłych publikacjach recenzja i autorstwo będą traktowane równie poważnie jak samo ogłoszenie.