קבוצת הייעוץ של OpenAI למתמטיקה: השפעה על הפרסום, לא סמכות לאשר הוכחות

תגובתה של OpenAI לביקורת על הטענה לפתרון בעיית נאוויה–סטוקס היא הקמת הקבוצה המייעצת למתמטיקה ובינה מלאכותית (Advisory Group on Mathematics and Artificial Intelligence). הקבוצה מתארחת במכון למחקר מתקדם בפרינסטון (IAS), ומעניקה למתמטיקאים בולטים ערוץ רשמי לייעץ על אופן ההערכה והפרסום של תוצאות שנוצרו ב-AI. אבל זהו גוף מייעץ בלבד — לא כתב עת, לא רשות בלתי תלויה לאימות הוכחות ולא רגולטור של תוכנית המחקר של OpenAI. 332

מה הוביל להקמת הקבוצה

ב-8 בספטמבר פרסמה OpenAI כתב יד בן 166 עמודים ופורמליזציה ב-Lean — עוזר הוכחות המאפשר בדיקה ממוכנת של טענות מתמטיות. החברה טענה שהראתה כי זרימה תלת-ממדית חלקה של משוואות נאוויה–סטוקס, תחת כוח חיצוני חלק, עשויה לפתח סינגולריות בזמן סופי; מבחינת OpenAI, מדובר בפתרון לבעיית הקיום והחלקות של נאוויה–סטוקס. 6

הפורמליזציה מספקת לחוקרים תוצר שניתן לבדיקה ממוחשבת, ואילו כתב היד הוא ההסבר המיועד לקוראים אנושיים. לפי דיווחים לאחר הפרסום, נדרש זמן כדי לפענח את ההוכחה, והקבוצה החדשה הוכרזה על רקע חששות לגבי האופן שבו ממצאים מתמטיים גדולים שנוצרו ב-AI נבדקים ומופצים. 2

לצד זאת התעוררה מחלוקת נפרדת על קרדיט וקדימות. טריסטן בקמאסטר ולוונט אלפוגה פרסמו בערך באותה תקופה תוצאות מאומתות ב-Lean על בעיות קשורות במשוואות זורמים, והפרסומים עוררו ויכוח פומבי על ייחוס. זו אינה אותה שאלה כמו השאלה אם ההוכחה הפורמלית של OpenAI עוברת בדיקה: היא עוסקת במקור הרעיונות, בגישה אליהם ובקרדיט אקדמי ראוי. 1

תשעת חברי היסוד

הפאנל הראשוני כולל את:

• פרנסואה שארל
• קמילו דה לליס
• טימותי גאוורס
• מרטין היירר
• ניקיל סריווסטאבה
• אולריקה טילמן
• ראווי וקיל
• אדוארד ויטן
• מלאני מאצ'ט ווד 26

הקבוצה מתארחת ב-IAS, אך מתוארת כגוף הפועל באופן עצמאי מ-OpenAI. 33

מה הקבוצה כן מוסמכת לעשות

לפי OpenAI, הקבוצה תייעץ בנוגע להערכה ולתקשורת של תוצאות מתמטיות חדשות: חשיבותן, הפצה מתואמת שלהן ועמידה בנורמות אקדמיות ומקצועיות רלוונטיות. 1733

העצמאות המוצהרת שלה כוללת כמה מאפיינים מעשיים:

• חברי הקבוצה אינם מקבלים שכר מ-OpenAI.
• הם רשאים להציע עצות שלא התבקשו לתת.
• הם יכולים להתבטא בפומבי על השפעת OpenAI על המתמטיקה.
• הם רשאים לפרסם את עצותיהם ברבים.
• הם רשאים לשנות בעצמם את הרכב החברים בקבוצה. 33

הסעיפים האלה חשובים משום שהם מאפשרים ליועצים לאתגר את OpenAI בפומבי, ולא רק בשיחות סגורות. עם זאת, סמכות הקבוצה היא מייעצת ולא מחייבת. 33

מה הקבוצה אינה יכולה לעשות

לפאנל אין כוח החלטה על כיוון המחקר של OpenAI או על לוחות הזמנים שלו. החברה מציינת במפורש שהקבוצה לא תייעץ לה לגבי קצב ההתקדמות במחקר המתמטי הפנימי שלה. 332

לכן, הקבוצה אינה יכולה:

• לעצור הכרזת מחקר;
• לחייב את OpenAI לפרסם הוכחה, מודל או תיעוד מחקרי פנימי;
• לכפות שינוי באסטרטגיית הפרסום של החברה;
• להחליט שטענה מתמטית התקבלה רשמית בידי קהילת המחקר;
• להכריע לבדה במחלוקת עבר על קדימות או ייחוס.

זהו ההבדל המכריע: הקבוצה יכולה להמליץ על סטנדרטים ולהשמיע התנגדויות, אך OpenAI שומרת בידיה את השליטה במודלים שלה, בתהליכי העבודה הפנימיים, בחשיפת הראיות ובהחלטה אם לאמץ המלצה כלשהי. לכן נכון יותר לראות בה גשר בין מעבדת AI לקהילה המתמטית — לא תחליף לביקורת עמיתים עצמאית. 332

מדוע העצמאות והייצוגיות עדיין עומדות למבחן

אמנת הקבוצה מעניקה לה חופש משמעותי להתבטא ולפרסם, אך השפעתה תלויה בנכונות החברים להשתמש בחופש הזה ובנכונות OpenAI להגיב. היעדר סמכות על קצב המחקר משמעותי במיוחד, משום שהכרזות מהירות וממוקדות-פרסום היו חלק מרכזי מהביקורת על גישתן של מעבדות AI לטענות מתמטיות. 233

לחברי הפאנל מעמד אקדמי גבוה, המעניק לו אמינות. אולם תשעה אנשים אינם יכולים לייצג אוטומטית את כל נקודות המבט הרלוונטיות: מומחים לשיטות פורמליות, חוקרים בתחומי המשנה שנפגעו ישירות, מתמטיקאים בתחילת דרכם וקהילות מחוץ למוסדות המיוצגים בפאנל עשויים להחזיק בעמדות שונות בנושאי ביקורת, גישה לחומרים, קרדיט ונורמות פרסום. בדיווחים עלו גם שאלות על אופן בחירת החברים. 37

המבנה הלא-מתוגמל עשוי לחזק את ההפרדה מ-OpenAI, אך גם פירושו שהיכולת לבצע בדיקה מתמשכת, ביקורתית ותובענית תלויה בזמן הפנוי של החברים ובגישה שיקבלו לחומרים שבבסיס הטענות.

מה זה אומר לגבי הטענה על נאוויה–סטוקס

אימות ב-Lean חשוב מפני שהוא יכול לבדוק מכנית אם משפט נובע מההגדרות, האקסיומות והלמות שקודדו בהוכחה. אך פורמליזציה שנבדקה במכונה אינה הופכת, כשלעצמה, את הטיעון לברור לבני אדם; היא גם אינה מוכיחה שכל בחירת מודל אכן תואמת את הטענה הלא-פורמלית שהתכוונו להוכיח, ואינה מיישבת שאלות על חשיבות מדעית או על הסבר.

קבוצת הייעוץ של OpenAI אינה משנה את חלוקת העבודה הבסיסית הזאת. היא יכולה להמליץ כיצד להעריך ולתקשר תוצאה, אך מתמטיקאים עצמאיים עדיין צריכים לבחון את כתב היד, הקבצים הפורמליים, ההנחות והקשר בין המשפט המוצהר לבין הבעיה המקורית. 332

בדומה לכך, עצם הקמת הקבוצה אינה פותרת את מחלוקת הייחוס הקשורה לבקמאסטר. פתרון אמין יחייב תהליך מבוסס ראיות שיבחן את ציר הזמן, התרומות, הגישה לרעיונות והקרדיט האקדמי — ולא רק המלצה של גוף מייעץ. 1

מבחן המקרה: הטענה ליותר מ-100 תוצאות נוספות

OpenAI אומרת שהמודל הפנימי שלה פתר יותר מ-100 בעיות מתמטיות פתוחות נוספות, ושקבוצת הייעוץ צפויה לסייע בפרסום אחראי של התוצאות. 3633

הקבוצה יכולה לחזק את אמינות התהליך אם תעודד סדר פרסום שמאפשר בדיקה עצמאית ממשית:

1. להגדיר כל בעיה במדויק. רשימה פומבית צריכה להבחין בין משפטים מוכחים, פתרונות נטענים, הרחבות ותוצאות קשורות.
2. לפרסם גם עבודה קריאה וגם תוצרים שניתן לבדוק במכונה. הוכחה אנושית מסבירה מדוע התוצאה חשובה; קבצים פורמליים מאפשרים לשחזר את הבדיקה המכנית.
3. לאפשר ביקורת של מומחים בכל תחום. תוצאה בדינמיקת זורמים, באלגברה, בגאומטריה או בלוגיקה זקוקה לבחינה של חוקרים הפועלים בתחום — ולא רק של פאנל כללי.
4. לתעד מקור ותרומות. רישום ברור חיוני במיוחד במקרים שבהם עשויה להתעורר מחלוקת על קדימות, גישה למודל או שימוש בעבודה קודמת שלא פורסמה.
5. להפריד בין גילוי לאימות. מערכת AI יכולה להפיק הוכחה מבטיחה, אך קבלה בקהילה תלויה בבחינה פתוחה ובתקשורת מדעית יציבה לאורך זמן.

הפאנל החדש הוא אפוא ניסוי ממשלי בעל משמעות, אך אינו תשובה סופית למחלוקת. ערכו יימדד בשאלה אם עצותיו יתפרסמו, אם OpenAI תספק די ראיות כדי שמתמטיקאים חיצוניים יוכלו לבדוק את הטענות, ואם בפרסומים הבאים ביקורת וקרדיט יקבלו אותה עדיפות כמו ההכרזה עצמה.