מתחזקי קוד פתוח כבר דיווחו שהם מוצפים במבול של תרומות שנוצרו על ידי AI, תופעה שאנליסטים מתארים לעתים כ"גל AI סלופ" שמותח את יכולת הסקירה והניהול של הפרויקטים.

סיכוני אבטחה: יותר פרצות נכנסות לסביבת הייצור

אחד החששות החמורים ביותר הוא אבטחה.

חוקרי אבטחה תיעדו עלייה מדידה בפרצות הקשורות לקוד שנוצר על ידי AI. לדוגמה, חוקרים העוקבים אחר חשיפות פרצות דיווחו על לפחות 35 ערכים חדשים של CVE במרץ 2026 שקשורים ישירות לקוד שנוצר על ידי AI, כאשר המספר האמיתי כנראה גבוה יותר מכיוון שמקרים רבים חסרים מטא-דאטה שניתן לזהות.

מחקרים מרובים גם מצביעים על כך שכלי קידוד AI משחזרים לעתים קרובות דפוסים לא מאובטחים מנתוני האימון שלהם. בדיקות על פני מודלים מרכזיים מצאו כי כ-45% מדגימות הקוד שנוצרו הציגו פרצות אבטחה נפוצות, כולל בעיות בקטגוריות OWASP Top 10.

סיכון נוסף הוא דליפת סיסמאות וסודות (secret leakage). ניתוח של זרימות עבודה אמיתיות מצא שקומיטים בסיוע AI חשפו תעודות גישה ביותר מפי שניים בתדירות מאשר קומיטים אנושיים בלבד (3.2% לעומת 1.5%), מה שתורם לעלייה רחבה יותר בסיסמאות מקודדות במאגרים ציבוריים.

יחד, מגמות אלו מגדילות את ההסתברות שפרצות, תצורות לא מאובטחות או סיסמאות ידלפו ויגיעו למערכות ייצור.

דוגמת OpenClaw: כשמערכות AI נחשפות לאינטרנט

הסיכונים הופכים ברורים במיוחד במערכות הבנויות סביב סוכני AI וכלי אוטומציה.

פלטפורמת עוזר ה-AI בקוד הפתוח OpenClaw צוטטה על ידי חוקרי אבטחה כדוגמה מרכזית לתשתית AI חשופה. חקירות זיהו עשרות אלפי פריסות הנגישות דרך האינטרנט, שרבות מהן פגיעות להשתלטות עקב תצורה שגויה או תוכנה מיושנת.

בסריקות מסוימות, נמצאו יותר מ-21,000 מופעים נגישים לציבור באינטרנט, כאשר מערכות שהוגדרו בצורה שגויה הדליפו מפתחות API, אסימוני OAuth ותעודות גישה בטקסט פשוט.

ניתוח נוסף של מערכת ההרחבות של הפלטפורמה חשף גם בעיות: סריקה של כמעט 4,000 "מיומנויות" (Skills) גילתה 283 חבילות — כ-7.1% — המכילות ליקויים קריטיים בטיפול בתעודות גישה שעלולים לחשוף מידע רגיש.

תקריות אלו ממחישות בעיה רחבה יותר: כאשר סוכני AI חזקים נפרסים ללא נוהלי אבטחה חזקים, הם עלולים להפוך למעשה ללוחות בקרה ציבוריים עבור המערכות שאליהם הם מחוברים.

למה מהנדסים חוששים ממשתמשים לא מיומנים

מפתחים רבים מדגישים שהסכנה האמיתית אינה הכלים עצמם, אלא מי משתמש בהם ואיך.

פיתוח תוכנה מסורתי מניח שהאדם שכותב את הקוד מבין את הארכיטקטורה, התלויות וגבולות האבטחה שלו. "ווייב קודינג" שובר את ההנחה הזו.

אם מישהו לא יכול לקרוא או להבין את הקוד שנוצר, הוא עדיין עשוי להיות מסוגל לפרוס יישום שעובד – אבל הוא עלול לא לזהות:

• פרצות נסתרות
• תהליכי הזדהות לא בטוחים
• שרשראות תלויות לא מאובטחות
• כשלים במקרי קצה עדינים

בפועל, הדבר יכול לייצר תוכנה שעובדת בהדגמות אך נכשלת בתנאים אמיתיים. מהנדסים מתארים לעתים קרובות מערכות אלו כ**"תוכנת Happy-Path"** — יישומים שמתפקדים רק בתרחישים אידיאליים מכיוון שיוצריהם אינם יכולים להעריך באופן מלא את ההיגיון הבסיסי.

העלות ארוכת הטווח: חוב טכני בהיקף עצום

גם כשקוד שנוצר על ידי AI עובד נכון, הוא עלול לצבור חוב טכני במהירות.

מכיוון ש-AI מגדיל באופן דרמטי את כמות הקוד שמיוצרת על ידי מפתח בודד, ארגונים מוצאים עצמם מנהלים מאגרי קוד גדולים ומורכבים יותר. אם קוד זה מכיל לוגיקה כפולה, דפוסי עיצוב לא עקביים או תיעוד חלש, שינויים עתידיים הופכים ליקרים ומסוכנים יותר.

חוקרי אבטחה מזהירים שהדינמיקה הזו יוצרת סוג של "חוב אבטחה", שבו פרצות מצטברות מהר יותר ממה שארגונים יכולים לזהות ולתקן אותן.

במילים אחרות, הרווח בתפוקה הוא מיידי – אבל עלויות התחזוקה מופיעות מאוחר יותר.

בעיה מקבילה שצצה במחקר המדעי

אותה דינמיקה — ייצור זול בשילוב הערכה יקרה — מתחילה להופיע גם במדע.

מערכות AI משמשות יותר ויותר לחיפוש בספרות, יצירת השערות, ניסוח מאמרים וסיוע בתהליכי ביקורת עמיתים.

במקרים מסוימים, התוצאות מבטיחות. ניסויים מראים שמודלי שפה יכולים ליצור השערות מדעיות סבירות ולעיתים אף חדשניות, שניתן לבדוק בניסויים.

עם זאת, מחקרים רחבי היקף המשווים רעיונות מחקר אנושיים לאלו שנוצרו על ידי AI מצביעים על כך שהשערות שנוצרו על ידי AI לרוב מצליחות פחות כשבוחנים אותן בניסוי.

עורכים וחוקרים מודאגים יותר ויותר מהאפשרות של אפקט "AI סלופ" גם באקדמיה. מאמר מערכת משנת 2026 בכתב העת Science הזהיר ששימוש לא מוצהר או מוגזם ב-Bינה מלאכותית בהפקת כתבי יד עלול לפגוע באמינות הרשומה המדעית אם הפיקוח לא יעמוד בקצב.

צוואר הבקבוק האמיתי: שיקול דעת אנושי

גם בהנדסת תוכנה וגם במחקר, סוגיית הליבה זהה.

AI מפחית באופן דרמטי את העלות של ייצור תפוקות — קוד, מאמרים, השערות או עיצובים. אבל העלות של הערכת התפוקות האלה עדיין תלויה בשיקול דעת אנושי מומחה.

כאשר הייצור הופך כמעט ללא עלות אך ההערכה נותרה נדירה, מערכות עלולות להיות מוצפות בעבודות סבירות אך לא מהימנות. בתוכנה, זה מופיע כקוד לא מאובטח ומערכות שבריריות. במדע, זה עשוי להופיע כמויות גדולות של השערות חלשות או כתבי יד באיכות ירודה.

האתגר עבור ארגונים ומוסדות אינו רק אימוץ כלי AI – הוא בניית תהליכי הסקירה, נוהלי האבטחה והממשל הדרושים כדי למנוע מהשטף של תפוקות להפוך לוייב סלופ.

מתחזקי קוד פתוח כבר דיווחו שהם מוצפים במבול של תרומות שנוצרו על ידי AI, תופעה שאנליסטים מתארים לעתים כ"גל AI סלופ" שמותח את יכולת הסקירה והניהול של הפרויקטים.

סיכוני אבטחה: יותר פרצות נכנסות לסביבת הייצור

אחד החששות החמורים ביותר הוא אבטחה.

חוקרי אבטחה תיעדו עלייה מדידה בפרצות הקשורות לקוד שנוצר על ידי AI. לדוגמה, חוקרים העוקבים אחר חשיפות פרצות דיווחו על לפחות 35 ערכים חדשים של CVE במרץ 2026 שקשורים ישירות לקוד שנוצר על ידי AI, כאשר המספר האמיתי כנראה גבוה יותר מכיוון שמקרים רבים חסרים מטא-דאטה שניתן לזהות.

מחקרים מרובים גם מצביעים על כך שכלי קידוד AI משחזרים לעתים קרובות דפוסים לא מאובטחים מנתוני האימון שלהם. בדיקות על פני מודלים מרכזיים מצאו כי כ-45% מדגימות הקוד שנוצרו הציגו פרצות אבטחה נפוצות, כולל בעיות בקטגוריות OWASP Top 10.

סיכון נוסף הוא דליפת סיסמאות וסודות (secret leakage). ניתוח של זרימות עבודה אמיתיות מצא שקומיטים בסיוע AI חשפו תעודות גישה ביותר מפי שניים בתדירות מאשר קומיטים אנושיים בלבד (3.2% לעומת 1.5%), מה שתורם לעלייה רחבה יותר בסיסמאות מקודדות במאגרים ציבוריים.

יחד, מגמות אלו מגדילות את ההסתברות שפרצות, תצורות לא מאובטחות או סיסמאות ידלפו ויגיעו למערכות ייצור.

דוגמת OpenClaw: כשמערכות AI נחשפות לאינטרנט

הסיכונים הופכים ברורים במיוחד במערכות הבנויות סביב סוכני AI וכלי אוטומציה.

פלטפורמת עוזר ה-AI בקוד הפתוח OpenClaw צוטטה על ידי חוקרי אבטחה כדוגמה מרכזית לתשתית AI חשופה. חקירות זיהו עשרות אלפי פריסות הנגישות דרך האינטרנט, שרבות מהן פגיעות להשתלטות עקב תצורה שגויה או תוכנה מיושנת.

בסריקות מסוימות, נמצאו יותר מ-21,000 מופעים נגישים לציבור באינטרנט, כאשר מערכות שהוגדרו בצורה שגויה הדליפו מפתחות API, אסימוני OAuth ותעודות גישה בטקסט פשוט.

ניתוח נוסף של מערכת ההרחבות של הפלטפורמה חשף גם בעיות: סריקה של כמעט 4,000 "מיומנויות" (Skills) גילתה 283 חבילות — כ-7.1% — המכילות ליקויים קריטיים בטיפול בתעודות גישה שעלולים לחשוף מידע רגיש.

תקריות אלו ממחישות בעיה רחבה יותר: כאשר סוכני AI חזקים נפרסים ללא נוהלי אבטחה חזקים, הם עלולים להפוך למעשה ללוחות בקרה ציבוריים עבור המערכות שאליהם הם מחוברים.

למה מהנדסים חוששים ממשתמשים לא מיומנים

מפתחים רבים מדגישים שהסכנה האמיתית אינה הכלים עצמם, אלא מי משתמש בהם ואיך.

פיתוח תוכנה מסורתי מניח שהאדם שכותב את הקוד מבין את הארכיטקטורה, התלויות וגבולות האבטחה שלו. "ווייב קודינג" שובר את ההנחה הזו.

אם מישהו לא יכול לקרוא או להבין את הקוד שנוצר, הוא עדיין עשוי להיות מסוגל לפרוס יישום שעובד – אבל הוא עלול לא לזהות:

• פרצות נסתרות
• תהליכי הזדהות לא בטוחים
• שרשראות תלויות לא מאובטחות
• כשלים במקרי קצה עדינים

בפועל, הדבר יכול לייצר תוכנה שעובדת בהדגמות אך נכשלת בתנאים אמיתיים. מהנדסים מתארים לעתים קרובות מערכות אלו כ**"תוכנת Happy-Path"** — יישומים שמתפקדים רק בתרחישים אידיאליים מכיוון שיוצריהם אינם יכולים להעריך באופן מלא את ההיגיון הבסיסי.

העלות ארוכת הטווח: חוב טכני בהיקף עצום

גם כשקוד שנוצר על ידי AI עובד נכון, הוא עלול לצבור חוב טכני במהירות.

מכיוון ש-AI מגדיל באופן דרמטי את כמות הקוד שמיוצרת על ידי מפתח בודד, ארגונים מוצאים עצמם מנהלים מאגרי קוד גדולים ומורכבים יותר. אם קוד זה מכיל לוגיקה כפולה, דפוסי עיצוב לא עקביים או תיעוד חלש, שינויים עתידיים הופכים ליקרים ומסוכנים יותר.

חוקרי אבטחה מזהירים שהדינמיקה הזו יוצרת סוג של "חוב אבטחה", שבו פרצות מצטברות מהר יותר ממה שארגונים יכולים לזהות ולתקן אותן.

במילים אחרות, הרווח בתפוקה הוא מיידי – אבל עלויות התחזוקה מופיעות מאוחר יותר.

בעיה מקבילה שצצה במחקר המדעי

אותה דינמיקה — ייצור זול בשילוב הערכה יקרה — מתחילה להופיע גם במדע.

מערכות AI משמשות יותר ויותר לחיפוש בספרות, יצירת השערות, ניסוח מאמרים וסיוע בתהליכי ביקורת עמיתים.

במקרים מסוימים, התוצאות מבטיחות. ניסויים מראים שמודלי שפה יכולים ליצור השערות מדעיות סבירות ולעיתים אף חדשניות, שניתן לבדוק בניסויים.

עם זאת, מחקרים רחבי היקף המשווים רעיונות מחקר אנושיים לאלו שנוצרו על ידי AI מצביעים על כך שהשערות שנוצרו על ידי AI לרוב מצליחות פחות כשבוחנים אותן בניסוי.

עורכים וחוקרים מודאגים יותר ויותר מהאפשרות של אפקט "AI סלופ" גם באקדמיה. מאמר מערכת משנת 2026 בכתב העת Science הזהיר ששימוש לא מוצהר או מוגזם ב-Bינה מלאכותית בהפקת כתבי יד עלול לפגוע באמינות הרשומה המדעית אם הפיקוח לא יעמוד בקצב.

צוואר הבקבוק האמיתי: שיקול דעת אנושי

גם בהנדסת תוכנה וגם במחקר, סוגיית הליבה זהה.

AI מפחית באופן דרמטי את העלות של ייצור תפוקות — קוד, מאמרים, השערות או עיצובים. אבל העלות של הערכת התפוקות האלה עדיין תלויה בשיקול דעת אנושי מומחה.

כאשר הייצור הופך כמעט ללא עלות אך ההערכה נותרה נדירה, מערכות עלולות להיות מוצפות בעבודות סבירות אך לא מהימנות. בתוכנה, זה מופיע כקוד לא מאובטח ומערכות שבריריות. במדע, זה עשוי להופיע כמויות גדולות של השערות חלשות או כתבי יד באיכות ירודה.

האתגר עבור ארגונים ומוסדות אינו רק אימוץ כלי AI – הוא בניית תהליכי הסקירה, נוהלי האבטחה והממשל הדרושים כדי למנוע מהשטף של תפוקות להפוך לוייב סלופ.