סימן המים של Claude נעקף בתוך שעות — ומה זה מלמד על מקורו של טקסט

לפי הדיווח על השיטה של מאייר, מודל שפה שאינו מסומן מייצר כמה גרסאות חלופיות של אותו טקסט. הוא מחליף מילים נרדפות, משנה את מבנה המשפטים ומנסה לשמור על המשמעות המקורית — תוך שינוי דפוס בחירת המילים שעליו נשען סימן המים.

כלים אחרים הזמינים דרך הדפדפן מתמקדים בשכבות שונות של הטקסט: הסרת תווי Unicode בלתי נראים או תווים דומים למראה, שינוי סדר משפטים והחלפת מילים נרדפות. גם קיצור טקסט או תרגומו לשפה אחרת ואז חזרה לשפת המקור מתוארים כשיטות שעלולות לשבש דפוס סטטיסטי.

חשוב להבחין בין הפעולות האלה לבין הסרת סימן המים המרכזי של Claude. Anthropic אומרת שהסימון הטקסטואלי אינו מורכב מתווים נסתרים או ממטא-נתונים שמתווספים לטקסט; הוא מוטמע בדפוס הבחירה הסטטיסטי של המילים.

מה הסימון יכול להראות — ומה לא

Anthropic אומרת שהטכנולוגיה מבוססת על גרסה של SynthID-Text, גישה שפותחה ב-Google DeepMind. בעת בחירות בעלות חשיבות נמוכה — למשל בחירה בין כמה מילים אפשריות שמתאימות באותה מידה — Claude משתמש באקראיות הנשענת על מפתח סודי ועל המילים הקודמות. לאחר מכן יכול מנגנון אימות להעריך אם הרצף שהתקבל מתאים סטטיסטית לבחירות האלה.

הסימון מתוכנן להיות בלתי נראה לקוראים, לא להוסיף תווים או טוקנים, ולא להשפיע באופן מעשי על המשמעות, האיכות, היצירתיות, הקריאות או העלות של הטקסט. Anthropic מוסיפה שהוא אינו כולל מידע מזהה, ואי אפשר לקשר אותו לאדם, לארגון או לשיחה מסוימים.

לכן מדובר באות לייחוס אפשרי — לא בטביעת אצבע אישית. החברה מציגה את תוצאת הזיהוי כהסתברות לכך ש-Claude היה מעורב בכתיבת הקטע. התוצאה אינה יכולה להוכיח מי כתב אותו, להוכיח שאדם לא כתב אותו, לזהות פלט של מודל אחר או לספק הערכה אמינה לגבי קטעים קצרים.

המגבלה הזו חשובה במיוחד בשימושים כמו הגהה, עריכה קלה, סיכום או תרגום. Anthropic אומרת שטקסט שעבר עריכה קלה עשוי לשמר את הסימון רק במילים המעטות ש-Claude בחר בעצמו — כמות אות שעלולה להיות קטנה מדי לזיהוי מהימן.

למה מפתחים מתנגדים להפיכת הזיהוי להוכחת מחברוּת

הביקורת המיוחסת למאייר אינה בהכרח התנגדות לייחוס תוכן ל-AI. הוא מבחין בין ייחוס תוכן לבין סימן בלתי נראה שעלול להפוך לראיה נגד אדם. החשש הוא שאות הסתברותי לא יבחין היטב בין כתיבה שנעשתה ברובה באמצעות AI לבין סיוע מוגבל, כמו הגהה או עריכה.

זו למעשה בעיית מקור רחבה יותר. גם אם כלי זיהוי מוצא שטקסט מתאים סטטיסטית למעורבות של Claude, הוא אינו מגלה כמה מהנוסח הסופי נכתב בידי Claude, כמה שונה בידי אדם, או מי הגה את הרעיונות שעליהם מבוסס הטקסט. לאחר שכתוב משמעותי, תרגום, קיצור או בנייה מחדש, הגבול בין "טקסט שנוצר ב-AI" לבין "טקסט שנכתב בידי אדם בעזרת AI" נעשה מטושטש יותר.

הראיות הזמינות אינן מצביעות על כך שסימן המים משנה את הבעלות על פלט של Claude או את הזכויות המהותיות של המשתמשים. Anthropic מציגה את המערכת ככלי להערכת מעורבות אפשרית של Claude, ולא כתביעת בעלות.

מדוע שכתוב מחליש סימני מים סטטיסטיים

סימן מים סטטיסטי נשען על דפוס שמתפזר לאורך בחירות רבות של מילים. אם הטקסט נשאר כמעט ללא שינוי, הדפוס עשוי לעבור איתו בהעתקה ובהדבקה ואף לשרוד עריכה מסוימת. לעומת זאת, פרפרזה נרחבת, תרגום או שכתוב יכולים לשנות מספיק מהניסוח כדי שהאות לא יהיה ניתן לזיהוי.

חוקרים שצוטטו ב-Nature ספקנים באופן דומה מכך שסימני מים לטקסט ירתיעו לאורך זמן אדם נחוש מלשכתב פלט של AI — גם באמצעות מודל שפה אחר. החשש הוא שאפשר להסיר את האות תוך שמירה במידה רבה על המשמעות.

אין פירוש הדבר שסימני מים חסרי תועלת. הם יכולים לספק רמז קריא-מכונה בבדיקות שגרתיות, במיוחד כאשר הטקסט ארוך מספיק ונשאר קרוב לצורתו המקורית. אבל הם חלשים יותר כהוכחה יציבה לכך שהטקסט לא השתנה או שמקורו האנושי או המכונתי חד-משמעי.

מה דורש חוק ה-AI האירופי — ומה הראיות אינן מראות

הדרישה הרלוונטית בחוק האירופי מטילה את החובה העיקרית על ספקי מערכות AI: עליהם לשלב פתרונות טכניים שתומכים בסימון קריא-מכונה ובזיהוי של פלט שנוצר או עבר מניפולציה באמצעות AI, תוך התחשבות באפשרות הטכנית. החוק מזכיר סימני מים וטכניקות אחרות כאפשרויות, אך אינו מבטיח ששיטה אחת תעבוד בכל מצב.

המקורות שנבדקו כאן אינם מבססים איסור כללי בדין האירופי על יצירה או שימוש של צדדים שלישיים בכלים להסרת סימן מים. הם גם אינם מסבירים מדוע Anthropic לא יכלה בתחילה להגביל את התכונה גיאוגרפית למשתמשים באיחוד האירופי. הגישה המוצהרת של החברה היא להחיל את הסימון ברחבי העולם, בכל מקום שבו מודלי Claude נתמכים זמינים.

השורה התחתונה

ההשקה של Anthropic הראתה בו-זמנית את התועלת ואת השבריריות של סימון מים לטקסט שנוצר ב-AI. הסימון יכול לשמש אות הסתברותי לכך ש-Claude תרם לקטע מסוים, אך הוא אינו מטא-נתונים נסתרים, אינו מזהה אישי ואינו הוכחה חותכת לכך ש-Claude כתב את הטקסט הסופי.

הופעתם המהירה של כלי שכתוב — החל מהפרויקט של מאייר בתוך ארבע שעות — ממחישה מדוע יש להבין את דרישת הסימון הקריא-מכונה של האיחוד האירופי כאמצעי שקיפות, ולא כשרשרת משמורת חסינה מפני שכתוב מכוון.