GuardFall: старі shell-трюки, які ламають безпеку AI-агентів

Рекомендовані заходи пом'якшення

Оскільки проблема полягає не просто в поганому списку заборонених слів, а в розбіжності між тим, що бачить безпековий фільтр, і тим, що виконує shell , доцільним є комплексний підхід:

1. Не покладайтеся лише на фільтри безпеки на основі текстових шаблонів. Безпекові перевірки, які шукають очевидні небезпечні рядки, можна обійти, коли Bash інтерпретує обфускований синтаксис інакше, ніж фільтр .
2. Ставтеся до shell-команд як до високоризикових. Команди, створені з виводу моделі або вмісту репозиторію, слід перевіряти, екранувати або, по можливості, уникати їхнього виконання в Bash .
3. Зменште радіус ураження. Запускайте AI-агенти кодування з мінімально необхідними привілеями, особливо коли вони працюють із клонованими репозиторіями або іншим зовнішнім вмістом.
4. Застосовуйте патчі від розробників, коли вони доступні. Деякі пов'язані вразливості AI-агентів кодування вже були виправлені, зокрема виправлення Google для критичної вразливості Gemini CLI (GHSA-wpqr-6v78-jr5g) .
5. Вручну перевіряйте запропоновані агентом команди перед виконанням у критичних середовищах.
6. Ставтеся до зовнішнього вмісту (README, файли коду) як до ненадійного, оскільки атаки типу GuardFall покладаються на те, що агент поглинає шкідливий вміст .

Ширший контекст проблем безпеки — червень 2026 року

У червні 2026 року з'явилися повідомлення про кілька скоординованих розкриттів вразливостей, які свідчать про те, що багато AI-агентів кодування мають подібні структурні слабкості, пов'язані з довірою, виконанням команд і вмістом робочого простору .

• TrustFall — Відкриття шкідливого репозиторію в таких інструментах, як Claude Code, Cursor, Gemini CLI або GitHub Copilot, і прийняття запиту на довіру було достатньо для запуску коду зловмисника, який міг отримати доступ до чутливих локальних даних, таких як SSH-ключі, хмарні облікові дані та історія shell .
• SymJack — Клас RCE-атак через символічні посилання, що вражає кілька агентів, включаючи Claude Code, Cursor, Antigravity, Copilot CLI та Grok Build .
• GuardFall — Дослідження Adversa AI показало, що поведінка парсингу Bash може бути використана для обходу безпекових перевірок команд AI-агентів .
• Gemini CLI CVSS 10.0 — Google виправив критичну вразливість у Gemini CLI (GHSA-wpqr-6v78-jr5g), де автоматичне виконання в CI/CD автоматично довіряло файлам робочого простору, контрольованим зловмисником, що дозволяло виконувати довільні команди .

Ключові структурні проблеми, на які вказують дослідники:

• Ін'єкція промптів залишається центральним ризиком для агентних інструментів кодування, і NIST характеризує її як «найбільший недолік безпеки генеративного ШІ», а OWASP ставить її на перше місце у своєму рейтингу вразливостей для LLM-додатків .
• Запити на довіру самі по собі недостатні, оскільки атаки типу TrustFall описують виконання коду зловмисника після того, як користувач прийняв запит на довіру до репозиторію .
• Текстові перевірки безпеки команд не є повним безпековим кордоном, оскільки атаки типу GuardFall покладаються на те, що Bash інтерпретує обфусковані рядки команд інакше, ніж безпековий шар .
• Реакція розробників була нерівномірною, і деякі, як-от Google та Cursor, відмовилися виправляти проблеми TrustFall/SymJack, тоді як xAI та GitHub Copilot CLI не відповіли дослідникам .