OpenAI’nin matematik danışma grubu: Yetkisi nerede başlıyor, nerede bitiyor?

OpenAI, Navier–Stokes sonucu hakkındaki tartışmaların ardından Matematik ve Yapay Zekâ Danışma Grubunu destekledi. Princeton’daki Institute for Advanced Study (IAS) ev sahipliğindeki bu yapı, önde gelen matematikçilere yapay zekânın ürettiği sonuçların nasıl değerlendirileceği ve kamuoyuna nasıl sunulacağı konusunda resmî bir danışma kanalı açıyor.

Ancak bu kurul bir bilimsel dergi, bağımsız ispat doğrulama makamı veya OpenAI araştırmalarını denetleyen bir düzenleyici değil. Yetkisi tavsiye vermekle sınırlı. 332

Tartışmayı başlatan neydi?

OpenAI, 8 Eylül’de 166 sayfalık bir makale ve Lean ile hazırlanmış biçimsel bir ispat yayımladı. Şirket, düzgün bir dış kuvvet altındaki düzgün üç boyutlu Navier–Stokes akışının sonlu zamanda tekillik geliştirebileceğini öne sürüyor; bunu Navier–Stokes varlık ve düzgünlük probleminin çözümü olarak tanımlıyor. 6

Lean biçimselleştirmesi, araştırmacılara makine tarafından denetlenebilen bir çalışma sunuyor. Buna karşılık makale, ispatın insanlar tarafından okunup anlaşılması için yazılmış kısmı. Yayından sonraki haberler, 166 sayfalık argümanın çözülüp anlaşılmasının zaman aldığını; danışma grubunun da büyük yapay zekâ kaynaklı matematik bulgularının incelenmesi ve yayılmasıyla ilgili endişelere yanıt olarak duyurulduğunu aktardı. 2

Ayrı bir tartışma ise öncelik ve atıf meselesi. Tristan Buckmaster ile Levent Alpöge, aynı dönemde ilgili akışkan denklemleri üzerine Lean ile doğrulanmış sonuçlar yayımladı. Ardından, katkıların nasıl tanınacağına ilişkin kamuya açık bir anlaşmazlık doğdu. Bu mesele, OpenAI’nin biçimsel ispatının teknik olarak denetlenip denetlenemeyeceğinden farklı: fikirlerin kaynağı, fikirlere erişim ve akademik emeğin doğru biçimde kredilendirilmesiyle ilgili. 1

Kurulun dokuz kurucu üyesi

İlk üyeler şunlar:

• François Charles
• Camillo De Lellis
• Timothy Gowers
• Martin Hairer
• Nikhil Srivastava
• Ulrike Tillmann
• Ravi Vakil
• Edward Witten
• Melanie Matchett Wood 26

Grup IAS bünyesinde barındırılıyor, ancak OpenAI’den bağımsız çalışacağı belirtiliyor. 33

Danışma grubu ne yapabilecek?

OpenAI’ye göre kurul, yeni matematiksel sonuçların değerlendirilmesi ve iletişimi konusunda tavsiyede bulunacak. Buna sonuçların bilimsel önemi, koordineli biçimde duyurulması ile akademik ve mesleki standartlar da dahil. 1733

Bağımsızlık iddiasını desteklemesi amaçlanan bazı kurallar da var:

• Üyelere OpenAI tarafından ücret ödenmeyecek.
• OpenAI’nin istemediği konularda da tavsiye verebilecekler.
• OpenAI’nin matematik üzerindeki etkisi hakkında kamuya açık yorum yapabilecekler.
• Tavsiyelerini kamuoyuyla paylaşabilecekler.
• Kurulun üyeliğini kendileri değiştirebilecek. 33

Bu düzenlemeler, üyelerin gerekirse yalnızca kapalı kapılar ardında değil, açık biçimde de şirkete itiraz edebilmesi açısından önemli. Yine de grubun yetkisi bağlayıcı değil; kararları zorla uygulatma gücü bulunmuyor. 33

Ne yapamayacak?

Kurulun, OpenAI’nin araştırma yönü veya araştırma takvimi üzerinde karar yetkisi yok. OpenAI açıkça, grubun şirket içindeki matematik çalışmalarının hangi hızla yürütüleceği konusunda tavsiyede bulunmayacağını söylüyor. 332

Dolayısıyla kurul:

• Bir araştırma duyurusunu durduramaz;
• OpenAI’yi bir ispatı, modeli ya da alttaki araştırma kayıtlarını yayımlamaya zorlayamaz;
• Şirketin yayın stratejisinde değişiklik emredemez;
• Bir matematik iddiasının araştırma topluluğu tarafından resmen kabul edilip edilmediğine karar veremez;
• Geçmişe dönük öncelik veya atıf ihtilaflarını tek başına hükme bağlayamaz.

Bu ayrım kritik. Kurul standart önerebilir, itirazlarını açıklayabilir ve kamuoyu tartışmasına katkı sunabilir. Fakat modeller, kurum içi çalışma akışı, kanıtların ne kadarının açıklanacağı ve önerilerin uygulanıp uygulanmayacağı üzerindeki denetim OpenAI’de kalıyor. Bu nedenle grubu, yapay zekâ laboratuvarı ile matematik topluluğu arasında bir köprü olarak görmek daha doğru; bağımsız hakem değerlendirmenin yerine geçen bir yapı olarak değil. 332

Bağımsızlık ve temsil tartışması neden sürüyor?

Tüzük, kurula konuşma ve yayımlama özgürlüğü tanıyor. Fakat bu özgürlüğün gerçek etkisi, üyelerin bunu kullanma isteğine ve OpenAI’nin eleştirilere nasıl yanıt vereceğine bağlı olacak. Araştırma hızına ilişkin yetkinin özellikle dışarıda bırakılması önemli; çünkü hızlı ve duyuru odaklı açıklamalar, yapay zekâ laboratuvarlarının matematik iddialarına yaklaşımında eleştirilerin merkezindeydi. 233

Üyeler, alanlarında son derece saygın isimler. Bu durum kurula ağırlık kazandırıyor. Ancak dokuz kişilik bir yapı, biçimsel yöntem uzmanları, doğrudan ilgili alt alanlarda çalışan araştırmacılar, kariyerinin başındaki matematikçiler veya kurucu panelde temsil edilmeyen kurum ve toplulukların tüm görüşlerini kendiliğinden temsil edemez. İncelemeye erişim, atıf ve yayın normları konusunda bu kesimlerin farklı beklentileri olabilir. Haberlerde üyelerin hangi yöntemle seçildiğine dair soruların da dile getirildiği görüldü. 37

Üyelerin ücret almaması OpenAI’den mesafeyi güçlendirebilir. Öte yandan, uzun soluklu ve eleştirel bir inceleme yapabilmeleri; ayırabilecekleri zamana ve temel materyallere erişimlerine bağlı olacak.

Bu, Navier–Stokes iddiası bakımından ne anlama geliyor?

Lean doğrulaması önem taşıyor. Sistem, biçimsel ispata kodlanan tanımlar, aksiyomlar ve lemmalardan bir teoremin mantıksal olarak çıkıp çıkmadığını mekanik biçimde kontrol edebiliyor. Ancak makine denetimi tek başına argümanın insanların anlayacağı kadar açıklayıcı olduğu, her modelleme tercihinin hedeflenen gayriresmî iddiayı tam yansıttığı ya da sonucun bilimsel öneminin netleştiği anlamına gelmiyor.

Yeni danışma grubu bu iş bölümünü değiştirmiyor. Grup, bir sonucun nasıl değerlendirilmesi ve anlatılması gerektiği konusunda öneri sunabilir. Buna rağmen bağımsız matematikçilerin makaleyi, Lean dosyalarını, varsayımları ve teoremin özgün problemle ilişkisini incelemesi gerekiyor. 332

Aynı şekilde kurulun oluşturulması, Buckmaster’la bağlantılı atıf anlaşmazlığını çözmüş değil. Güvenilir bir sonuç için kronolojiyi, katkıları, fikirlere erişimi ve akademik krediyi kanıta dayalı olarak ele alan bir süreç gerekir; yalnızca bir danışma tavsiyesi yeterli olmaz. 1

Asıl sınav: OpenAI’nin 100’ü aşkın ek sonuç iddiası

OpenAI, kurum içi modelinin 100’den fazla ek açık matematik problemini çözdüğünü söylüyor. Danışma grubunun bu sonuçların sorumlu biçimde yayımlanmasına katkı vermesi bekleniyor. 3633

Kurul, gerçek anlamda bağımsız incelemeyi mümkün kılan bir yayımlama sırası önerirse süreci daha güvenilir hâle getirebilir:

1. Her problemi açık ve kesin tanımlamak: Kamuya açık bir listede kanıtlanmış teoremler, çözüm iddiaları, genişletmeler ve ilgili sonuçlar birbirinden ayrılmalı.
2. Okunabilir metinle makine denetlenebilir çalışmayı birlikte yayımlamak: İnsanların okuyabildiği ispatlar sonucun neden önemli olduğunu açıklar; biçimsel dosyalar ise mekanik doğrulamanın yeniden yapılmasına imkân verir.
3. Alan bazlı incelemeyi sağlamak: Akışkanlar dinamiği, cebir, geometri veya mantıktaki bir iddia, yalnızca genel bir kurulun değil, ilgili alanda çalışan uzmanların incelemesini gerektirir.
4. Kaynak ve katkı kayıtlarını belgelemek: Öncelik, model erişimi veya daha önce yayımlanmamış çalışmalardan yararlanma tartışmalıysa, açık kayıtlar özellikle önemlidir.
5. Keşfi doğrulamadan ayırmak: Bir yapay zekâ sistemi umut verici bir ispat üretebilir; ancak topluluğun kabulü açık inceleme ve kalıcı bilimsel iletişimle oluşur.

Sonuç olarak yeni kurul, dikkate değer bir yönetişim denemesi. Fakat tartışmayı tek başına bitiren bir yanıt değil. Değeri; tavsiyelerinin kamuya açıklanıp açıklanmayacağına, OpenAI’nin dışarıdan inceleme için yeterli kanıt sunup sunmayacağına ve gelecek duyurularda inceleme ile atfa en az duyurunun kendisi kadar öncelik verilip verilmeyeceğine bağlı olacak.