Apa yang Panel Matematik Baharu OpenAI Boleh — dan Tidak Boleh — Lakukan

OpenAI menjawab kritikan terhadap dakwaan hasil Navier–Stokesnya dengan menyokong penubuhan Kumpulan Penasihat Matematik dan Kecerdasan Buatan (Advisory Group on Mathematics and Artificial Intelligence), yang dihoskan oleh Institute for Advanced Study (IAS) di Princeton. Susunan ini memberi ahli matematik terkemuka saluran rasmi untuk menasihati tentang cara hasil janaan AI dinilai dan diumumkan.

Namun, badan ini ialah kumpulan penasihat — bukannya jurnal akademik, pihak bebas yang mengesahkan bukti, atau pengawal selia program penyelidikan OpenAI. 332

Mengapa kumpulan ini ditubuhkan

Pada 8 September, OpenAI menerbitkan manuskrip 166 halaman dan pemformalan Lean yang mendakwa aliran Navier–Stokes tiga dimensi yang licin, di bawah daya luar yang licin, boleh membentuk singulariti dalam masa terhingga. OpenAI menggambarkan kerja itu sebagai penyelesaian kepada masalah kewujudan dan kelicinan Navier–Stokes. 6

Pemformalan Lean menyediakan artifak yang boleh diperiksa secara mekanikal, manakala manuskrip itu ialah penerangan hujah untuk pembaca manusia. Laporan selepas penerbitan menyatakan bahawa bukti tersebut mengambil masa untuk dihuraikan, dan pengumuman kumpulan penasihat baharu itu dibuat sebagai respons kepada kebimbangan tentang cara penemuan matematik utama yang dijana AI disemak serta disebarkan. 2

Terdapat juga pertikaian berasingan tentang kredit dan keutamaan. Tristan Buckmaster dan Levent Alpöge menerbitkan hasil yang disahkan Lean tentang masalah persamaan bendalir berkaitan dalam tempoh yang hampir sama, lalu mencetuskan pertikaian awam mengenai atribusi. Isu ini berbeza daripada persoalan sama ada bukti formal OpenAI lulus semakan: ia melibatkan asal-usul idea, akses kepada idea, dan kredit akademik yang wajar. 1

Sembilan ahli pengasas

Panel awal terdiri daripada:

• François Charles
• Camillo De Lellis
• Timothy Gowers
• Martin Hairer
• Nikhil Srivastava
• Ulrike Tillmann
• Ravi Vakil
• Edward Witten
• Melanie Matchett Wood 26

Kumpulan ini dihoskan oleh IAS, tetapi digambarkan sebagai beroperasi secara bebas daripada OpenAI. 33

Apa yang boleh dilakukan oleh kumpulan penasihat

Menurut OpenAI, kumpulan itu akan menasihati tentang penilaian dan komunikasi hasil matematik baharu, termasuk kepentingannya, penyebaran yang diselaraskan, serta standard akademik dan profesional yang berkaitan. 1733

Kebebasan yang dinyatakan itu mempunyai beberapa ciri khusus:

• Ahli tidak dibayar oleh OpenAI.
• Mereka boleh memberi nasihat yang tidak diminta oleh OpenAI.
• Mereka boleh mengulas secara terbuka tentang kesan OpenAI terhadap matematik.
• Mereka boleh menerbitkan nasihat mereka.
• Mereka boleh mengubah keahlian kumpulan sendiri. 33

Peruntukan ini penting kerana ia membuka ruang kepada penasihat untuk mencabar OpenAI secara terbuka, bukan hanya di belakang tabir. Namun, kuasa kumpulan itu kekal sebagai nasihat dan bukannya mengikat. 33

Apa yang tidak boleh dilakukan

Panel ini tidak mempunyai kuasa membuat keputusan ke atas arah atau garis masa penyelidikan OpenAI. OpenAI secara jelas menyatakan bahawa kumpulan tersebut tidak akan menasihati tentang kadar kemajuan kerja matematik dalaman syarikat itu. 332

Ini bermaksud ia tidak boleh:

• menghentikan pengumuman penyelidikan;
• mewajibkan OpenAI menerbitkan bukti, model atau rekod penyelidikan asas;
• memaksa perubahan pada strategi penerbitan OpenAI;
• memutuskan sama ada sesuatu dakwaan matematik diterima secara rasmi oleh komuniti penyelidikan; atau
• mengadili sendiri pertikaian keutamaan atau atribusi yang telah berlaku.

Perbezaan ini penting. Kumpulan tersebut boleh mengesyorkan piawaian dan menyatakan bantahan, tetapi OpenAI masih mengawal modelnya, aliran kerja dalaman, pelepasan bukti dan keputusan sama ada mahu menerima sesuatu cadangan. Justeru, ia lebih tepat dilihat sebagai jambatan antara makmal AI dengan komuniti matematik — bukan pengganti semakan rakan sebaya yang bebas. 332

Mengapa isu kebebasan dan perwakilan masih timbul

Piagam OpenAI memberi kumpulan itu kebebasan bermakna untuk bersuara dan menerbitkan pandangan, tetapi pengaruhnya bergantung pada kesediaan ahli menggunakan kebebasan itu serta kesediaan OpenAI untuk bertindak balas. Ketiadaan kuasa terhadap kelajuan penyelidikan sangat penting kerana pengumuman pantas yang berorientasikan publisiti menjadi antara kritikan terhadap pendekatan makmal AI kepada dakwaan matematik. 233

Ahli panel ialah tokoh yang sangat berpengaruh, dan kedudukan itu memberinya kredibiliti. Tetapi sebuah kumpulan sembilan orang tidak semestinya mewakili semua sudut pandang yang relevan. Pakar kaedah formal, penyelidik dalam subbidang yang terjejas, ahli matematik peringkat awal kerjaya, dan komuniti di luar institusi yang diwakili panel pengasas mungkin mempunyai pandangan berbeza tentang semakan, akses, kredit dan norma penerbitan. Laporan juga membangkitkan persoalan tentang cara ahli dipilih. 37

Struktur tanpa bayaran mungkin mengukuhkan pemisahan daripada OpenAI. Pada masa yang sama, keupayaan untuk menjalankan semakan yang berterusan dan bersifat mencabar bergantung pada masa ahli serta akses mereka kepada bahan asas.

Maksudnya kepada dakwaan Navier–Stokes

Pengesahan Lean penting kerana ia boleh memeriksa secara mekanikal sama ada suatu teorem benar-benar mengikuti takrif, aksiom dan lema yang dikodkan dalam sesuatu bukti. Tetapi pemformalan yang diperiksa mesin, dengan sendirinya, tidak menjadikan hujah mudah difahami oleh manusia, tidak menjamin setiap pilihan pemodelan menangkap dakwaan tidak formal yang dimaksudkan, dan tidak menjawab persoalan tentang kepentingan atau penjelasannya.

Kumpulan penasihat OpenAI tidak mengubah pembahagian tugas asas itu. Ia boleh menasihati tentang cara sesuatu hasil patut dinilai dan dikomunikasikan; ahli matematik bebas masih perlu meneliti manuskrip, artifak formal, andaian, serta hubungan antara teorem yang dinyatakan dan masalah asal. 332

Begitu juga, penubuhan kumpulan ini tidak dengan sendirinya menyelesaikan pertikaian atribusi yang berkaitan dengan Buckmaster. Penyelesaian yang boleh dipercayai memerlukan proses berasaskan bukti tentang kronologi, sumbangan, akses dan kredit akademik — bukan sekadar saranan penasihat. 1

Ujian sebenar: dakwaan lebih 100 hasil tambahan

OpenAI menyatakan model dalamannya telah menyelesaikan lebih 100 masalah matematik terbuka tambahan, manakala kumpulan penasihat itu dijangka membantu menjadikan penerbitan hasil tersebut lebih bertanggungjawab. 3633

Kumpulan itu boleh meningkatkan kredibiliti proses tersebut dengan menggalakkan susunan penerbitan yang membolehkan penilaian bebas yang sebenar:

1. Nyatakan setiap masalah dengan tepat. Senarai awam perlu membezakan teorem yang telah mantap, penyelesaian yang didakwa, peluasan dan hasil berkaitan.
2. Terbitkan kerja yang mudah dibaca serta boleh diperiksa mesin. Bukti untuk manusia menerangkan kepentingan sesuatu hasil; artifak formal membolehkan pihak lain mengulangi pengesahan mekanikal.
3. Benarkan semakan mengikut kepakaran bidang. Hasil dalam dinamik bendalir, algebra, geometri atau logik perlu diteliti oleh penyelidik bidang tersebut, bukan hanya panel penasihat umum.
4. Dokumentasikan asal-usul dan sumbangan. Rekod yang jelas amat penting jika keutamaan, akses model atau penggunaan kerja terdahulu yang belum diterbitkan dipertikaikan.
5. Pisahkan penemuan daripada pengesahan. Sistem AI mungkin menjana bukti yang menjanjikan, tetapi penerimaan komuniti bergantung pada penelitian terbuka dan komunikasi ilmiah yang berkekalan.

Jadi, panel baharu ini ialah percubaan tadbir urus yang bermakna, tetapi bukan jawapan muktamad kepada kontroversi tersebut. Nilainya akan diukur melalui sama ada nasihatnya diterbitkan, sama ada OpenAI menyediakan bukti mencukupi untuk pengesahan luar, dan sama ada penerbitan masa depan memberi keutamaan yang sama kepada semakan serta atribusi seperti kepada pengumuman awal.