הצהרת ליידן: כיצד 150+ מתמטיקאים משרטטים קו אדום מול הבינה המלאכותית

חמשת האיומים שמעצבים מחדש את פני המתמטיקה

ההצהרה מזהה חמישה איומים נפרדים אך שלובים זה בזה, שכל אחד מהם פוגע בערך יסודי של הפרקטיקה המתמטית.

1. הוכחות לא אמינות ובלתי ניתנות לאימות
המתמטיקה בנויה על הוכחות שניתן לאמת באופן עצמאי ולהבין לעומקן. מערכות AI, לעומת זאת, מייצרות טיעונים הנראים סבירים אך עלולים להכיל שגיאות כמעט בלתי נראות — הוכחות כזב שאנשים מתקשים לתפוס . בעיה זו אינה מוגבלת ליצירת טקסט לא פורמלי; היא מופיעה גם במערכות הוכחה פורמליות כאשר ההיגיון הבסיסי נותר עמום .

2. קריסת מערך הייחוס והפרת זכויות יוצרים נרחבת
מודלי AI מאומנים על עבודות אנושיות שפורסמו ללא הסכמה, ולעיתים קרובות נכשלים בציון מקורות. התוצאה היא קריסה מערכתית של מתן הקרדיט, המונעת את היכולת להתחקות אחר שושלת אינטלקטואלית או לתגמל הוגים מקוריים. ההצהרה מתעקשת כי על המחברים לחפש באופן יזום מקורות קודמים, וכאשר ייחוס מלא אינו אפשרי, לציין מגבלה זו במפורש .

3. מערכת דו-שכבתית של תלות ואי-שוויון
כאשר מחקר חדשני הופך להיות כרוך במודלים קנייניים יקרים ובמשאבי מחשוב עצומים, המתמטיקה ניצבת בפני עתיד שבו רק מעבדות מבוססות כלכלית יכולות להתחרות. מצב זה יוצר אי-שוויון מבני המערער את אופייה הפתוח והמריטוקרטי של הדיסציפלינה .

4. הייפ מוגזם שמטעה קובעי מדיניות
חברות טכנולוגיה, המונעות מתמריצים מסחריים חזקים, מנפחות את יכולות הכלים שלהן בתחום המתמטיקה . הן מכריזות על תוצאות בלוחות זמנים שיווקיים באמצעות הודעות לעיתונות, ולא דרך מדע שעבר ביקורת עמיתים, ומשתמשות בביצועים במבחני מתמטיקה כבפרוקסי שיווקי לאינטליגנציה כללית — טענה שההצהרה דוחה על הסף . המחברים דוחקים בממשלות לפנות להערכת מומחים, ולא ליחסי ציבור, בעת גיבוש מדיניות מדעית .

5. אובדן האוטונומיה המחקרית
כאשר אינטרסים תאגידיים והיתכנות טכנית מכתיבים מה ייחקר, המתמטיקה מסתכנת באובדן השליטה על סדר היום שלה. סדרי העדיפויות המחקריים עוברים לכיוון תשואות מסחריות קצרות טווח, במקום חקר עמוק המונע מסקרנות, ובכך מאיימים על בריאותה ארוכת הטווח של הדיסציפלינה .

מה דורשת ההצהרה

במקום להסתפק באבחון בעיות, הצהרת ליידן מתווה נורמות ספציפיות וישימות עבור ארבע קבוצות מפתח .

חוקרים יחידים חייבים:

• לחשוף את כל כלי ה-AI, ההנחיות (Prompts) והשיטות שבהן השתמשו בעבודתם .
• להתייחס ל-AI כאל כלי עבודה בלבד — לעולם לא כאל מחבר שותף. בני אדם נושאים באחריות המלאה לנכונות, לייחוס ולשימוש האתי .
• להישאר מעודכנים לגבי טכנולוגיות מתפתחות ולקחת חלק בדיון הציבורי על השלכותיהן .

מוסדות, כתבי עת וגופי מימון חייבים:

• לפתח מדיניות מחייבת בנושאי AI: מחברוּת, שקיפות, ביקורת עמיתים וקניין רוחני .
• לבנות תשתיות תמיכה משפטיות ואתיות שיסייעו לחוקרים במשא ומתן מול חברות טכנולוגיה חזקות .
• לשלב את ערכי הליבה של ההצהרה בקריטריוני ההערכה והחלטות המימון, במקום לתגמל מהירות חישובית גרידא .

ממשלות חייבות:

• להפסיק לקבל את הצהרות היכולת של התאגידים כפשוטן, ובמקום זאת להיוועץ בקבוצות מומחים עצמאיות .
• להסדיר את תעשיית ה-AI כדי למנוע שליטה מונופוליסטית על תשתיות המחקר .
• להשקיע בחלופות ציבוריות ופתוחות לכלי ה-AI המסחריים, כך שהגישה אליהם לא תהיה תלויה בעושר מוסדי .

התעשייה חייבת:

• לזנוח את הנוהג של שימוש במאמרי מחקר כנתוני אימון (Training Data) ללא הסכמה, ולאפשר מנגנוני הסרה אמיתיים (Opt-out) למחברים .
• לעמוד באותם סטנדרטים של שקיפות וייחוס שהאקדמיה דורשת מעצמה, בכל עת שמעבדות תעשייתיות מפרסמות לצד שותפים אקדמיים .

המאבק הגדול יותר: הוכחה, כוח ואמון הציבור

הצהרת ליידן אינה עוסקת רק במתמטיקה. מחבריה ממסגרים את המאבק כתמרור אזהרה למדיניות המדע בכל תחום. לטענתם, אותן מערכות AI המייצרות הוכחות בלתי אמינות יכולות לשמש גם כנשק בלוחמה ובמעקב המוני, והם דוחקים במתמטיקאים להעריך את עבודתם מבחינה אתית ואף לפרוש מפרויקטים מזיקים .

האזהרה העמוקה יותר היא אפיסטמולוגית: כאשר לוחות זמנים מסחריים מחליפים את ביקורת העמיתים, וכאשר ההייפ התאגידי מטביע את קול הזהירות המומחה, ההבנה הציבורית של מהי אמת מדעית נעשית מעוותת . המתמטיקה — תחום שגאה זה מכבר בסטנדרטים בהירים ועל-זמניים — ניצבת כעת בחזית הקרב הגדול הזה.

כמעט כל המלצה בהצהרה סובבת סביב עיקרון אחד: שקיפות. מבלי לדעת מתי וכיצד נעשה שימוש ב-AI, הקהילה המדעית אינה יכולה לאמת תוצאות, להעניק קרדיט או להגן על הסטנדרטים שלה. עם למעלה מ-130 חותמים בעת ההשקה, וגיבוי מוסדי מגופים כמו האיגוד המתמטי הבינלאומי (IMU), הצהרת ליידן כבר הפכה ליותר מהצהרה: היא טיוטת עבודה של הנורמות שלדעת המתמטיקאים עידן ה-AI דורש .