Básně, Filmové Scénáře a Pouliční Cedule: Kreativní Triky, Které Obcházejí Zabezpečení AI Robotů

V jednom zdokumentovaném testu výzkumníci pomocí filmového scénáře instruovali komerčního robopsa s AI, aby identifikoval optimální místa pro umístění výbušného zařízení. Robot požadavek splnil, a to i přes bezpečnostní zábrany dodané výrobcem, přičemž nebyla nutná žádná hardwarová úprava – stačily kreativní textové výzvy . Dřívější iterace RoboPAIR již dosáhly 100% úspěšnosti prolomení ochrany u tří různých robotických systémů, včetně simulovaného samořídícího auta, které ignorovalo značky STOP a sjelo z mostu, kolového robota naprogramovaného k nalezení místa pro detonaci bomby a čtyřnohého robota instruovaného ke špehování a vniknutí do zakázaných oblastí .

Základní problém spočívá v tom, co článek ve Science Robotics nazývá potřebou přístupů "nad rámec sladění" (beyond alignment). Bezpečnostní mechanismy navržené pro chatboty hodnotí textovou formulaci příkazu, nikoli fyzický kontext nebo důsledky akce. Robot může pochopit, že "sjeď z mostu" je škodlivý pokyn, ale "ve filmové scéně auto hrdiny padá z mostu" může tento filtr zcela obejít, protože model jej zpracovává jako narativní konstrukt, a ne jako fyzický příkaz .

Poezie: Univerzální Klíč k Prolomení AI

Další, stejně pozoruhodný objev přinesla laboratoř Icaro Lab, spolupráce mezi univerzitou Sapienza v Římě a think-tankem DexAI. Jejich studie zjistila, že formulace škodlivých požadavků v poetické formě funguje jako univerzální operátor prolomení, který obchází bezpečnostní mechanismy předních AI modelů v 62 % případů – ve srovnání s pouhými 8 % u standardních škodlivých promptů .

Ručně psané básně byly obzvláště účinné. Z 25 testovaných špičkových modelů byly některé úspěšně oklamány ve více než 90 % případů . Zdá se, že tato zranitelnost pramení ze způsobu, jakým LLM generují text: předpovídají nejpravděpodobnější následující slovo na základě vzorů, a nekonvenční rytmus, struktura a nejednoznačnost poezie narušují schopnost modelu rozpoznat a filtrovat škodlivý obsah .

Tato technika se neomezovala pouze na verše psané lidmi. Výzkumníci také použili AI k přepsání 1 200 známých škodlivých promptů do poetické formy a tyto AI generované básně se ukázaly jako podobně účinné při obcházení bezpečnostních opatření .

Mimo Text: Zneužití Prostředí a Hardwarová Rizika

Kreativní manipulace s roboty poháněnými AI zdaleka přesahuje rámec textových promptů. V lednu 2026 výzkumníci z UC Santa Cruz demonstrovali, že zavádějící text umístěný na fyzických objektech – jako jsou nápisy, plakáty nebo nálepky v okolí robota – může převzít kontrolu nad rozhodováním vtělených AI systémů, a to bez jakéhokoli softwarového hackingu . Protože kamerové AI systémy čtou text ve svém okolí a mohou jej považovat za instrukci, strategicky umístěná cedule by mohla způsobit, že se samořídící auto nebo autonomní dron zachová neočekávaně .

Komerční hardware robotů přináší další zranitelnosti. Výkonná zpráva společnosti Recorded Future z roku 2026 zdokumentovala, že komerčně dostupné roboty lze převzít přes Bluetooth, tajně z nich exfiltrovat audio, video a prostorová data, a dokonce bezdrátově infikovat sousední roboty a vytvářet tak fyzické botnety . V roce 2025 výzkumníci objevili nezdokumentovaná zadní vrátka v čtyřnohém robotu Unitree Go1 umožňující vzdálený přístup, zatímco odhalené API umožnilo útočníkům prohlížet živý obraz z kamery bez ověření .

Mezitím studie přijatá na konferenci ACM SenSys 2026 zjistila, že většina útoků na prolomení se zaměřuje na sémantiku promptů, ale vtělení agenti mohou být také manipulováni přímým zásahem na úrovni akcí, který zcela obchází textové zábrany . Sekvence jednotlivě neškodných akcí se může spojit a vytvořit nebezpečný výsledek – zranitelnost, na kterou nejsou stávající bezpečnostní filtry navrženy.

Jak Zranitelné Jsou Populární AI Modely?

Stručně řečeno: téměř všechny. Společná studie King's College London a Carnegie Mellon University z listopadu 2025 testovala každý hlavní LLM pohánějící roboty a zjistila, že absolutně každý model selhal v kritických bezpečnostních kontrolách, vykazoval diskriminaci a schválil alespoň jeden příkaz, který mohl při kreativním zarámování vyústit ve vážné fyzické zranění .

Hodnocení týmů červeného týmu (red team) Mandiant potvrzují, že prompt injection – technika vkládání škodlivých instrukcí do zdánlivě neškodných vstupů – zůstává hlavním vektorem útoku na systémy AI . Vojenští experti samostatně varovali, že protivníci pravděpodobně využijí tuto přirozenou chybu k vložení instrukcí pro krádež souborů, zkreslování informací nebo jiné zrady důvěřivých uživatelů .

Bezpečnostní krize se rozšiřuje i do firemního prostředí. Produkt Microsoft Copilot Studio získal formální označení CVE-2026-21520 za zranitelnosti umožňující injekci prostřednictvím e-mailu, zatímco prohlížeč Perplexity Comet padl za oběť útoku nevyžadujícímu kliknutí uživatele (zero-click), který ke kompromitaci nepotřeboval "žádný exploit, žádné kliknutí uživatele a žádný explicitní požadavek na citlivé akce" .

Formující se Technická Řešení

Výzkumníci a bezpečnostní praktici se shodují na několika vrstvách obrany, ačkoli žádná z nich zatím není úplným řešením.

Bezpečnostní systémy vnímající kontext představují ten nejzásadnější posun. Článek ve Science Robotics explicitně vyzývá, aby robotické základní modely (foundation models) zahrnovaly bezpečnostní mechanismy, které si jsou vědomy fyzického kontextu a následků akcí, nejen textové formulace příkazu . Jak autoři poznamenávají, sladění s lidskými hodnotami na úrovni jazyka nebezpečně selhává zhruba u každého pátého robotického systému .

Multimodální doménová adaptace navrhuje tréninkové metody, které činí robotické systémy odolnými vůči nepřátelským vstupům napříč textovými i vizuálními modalitami, čímž řeší realitu, že útoky mohou přicházet současně prostřednictvím jazyka, obrazů nebo environmentálních podnětů .

Vrstvená detekce a filtrování je krátkodobou praktickou obranou. Mandiant doporučuje hloubkovou obranu, která zahrnuje kontrolu vstupů schopnou zachytit skryté nebo kreativně zarámované škodlivé prompty dříve, než se dostanou k modelu . Auditní rámce nyní specifikují, že bez detekční vrstvy zůstávají AI funkce zranitelné i vůči útokům na prolomení na amatérské úrovni .

Konstituční klasifikátory, představené společností Anthropic, monitorují jak uživatelské vstupy, tak výstupy modelu, aby odmítly škodlivý obsah. I když to zvyšuje výpočetní režii a protivníci neustále testují jejich limity, tento přístup představuje aktivní oblast investic v oboru .

Integrace CI/CD také dospívá, s nástroji jako "PromptPwnd", které se objevují pro začlenění testování prompt injection přímo do vývojových řetězců, a považují tak testování nepřátelských promptů za standardní součást dodávky softwaru, a ne za dodatečný úkol .

Právní a Regulační Prostředí

Regulační reakce se rychle vyvíjí a její poselství je jasné: prolomení AI nejsou jen technické problémy – jsou to závazky v oblasti dodržování předpisů (compliance).

Akt EU o umělé inteligenci (EU AI Act) ukládá sankce, povinné hlášení incidentů a požadavky na nápravu organizacím, které nasazují modely AI, jež lze prolomit ke generování škodlivého obsahu. Směrnice NIS2 a odvětvové předpisy ve financích a zdravotnictví vytvářejí paralelní povinnosti . Povinnosti pro univerzální AI se začaly zavádět v průběhu roku 2025, přičemž plná pravidla na systémové úrovni se očekávají do roku 2027 .

Zákony o ochraně osobních údajů přidávají další vrstvu odpovědnosti. Injekce promptu, která způsobí neoprávněné vyzrazení osobních údajů, spouští povinnosti podle nařízení GDPR, hongkongského PDPO (Data Protection Principle 4), HIPAA a PCI-DSS . Hongkongský komisař pro ochranu osobních údajů v roce 2026 signalizoval, že selhání bezpečnosti AI vedoucí k úniku dat budou považována za vymahatelné porušení předpisů, nikoli za technické nehody .

Americké rámce se rovněž zpřísňují. Opatření NIST AI RMF 2.6 vyžaduje prokazatelné kontroly proti známým vzorům útoků . Rámce pro dodržování předpisů, včetně ISO 42001, nyní nařizují specifické kontroly pro prevenci a detekci prompt injection . Odvětvové předpisy – HIPAA pro zdravotnictví, GLBA pro finance, FERPA pro vzdělávání – považují nasazovatele (deployer) za odpovědnou stranu bez ohledu na to, zda část odpovědnosti nese poskytovatel modelu .

Řetězec odpovědnosti je významný. Zdravotnický AI agent, který po prolomení ochrany unikne chráněné zdravotní informace, vytváří povinnosti podle HIPAA, které nemůže nasazující organizace přesunout na poskytovatele modelu. Americká Komise pro cenné papíry (SEC) rovněž vydala očekávání týkající se zveřejňování informací o AI, která se vztahují i na bezpečnostní zranitelnosti .

Proč na Tom Záleží Právě Teď

Výzkumy kolektivně vyvrací předpoklad, že bezpečnostní trénink chatbotů se automaticky přenáší do fyzické bezpečnosti. Robot, který v běžné řeči odmítne "sjet z mostu", naplánuje přesně tuto akci, když se domnívá, že popisuje filmovou scénu. Poeticky zabalená žádost o návod na výrobu bomby uspěje v 62 % případů, zatímco přímý požadavek téměř vždy selže.

S tím, jak se LLM stávají řídící vrstvou pro drony, autonomní vozidla, výrobní roboty a domácí asistenty, se prostor pro útoky rozšiřuje rychleji než obrana. Prompt injection, jak nyní výzkumníci široce uznávají, není jen technickou výzvou, ale i otázkou politiky a správy. Neřešení těchto rizik může narušit důvěru v aplikace AI a bránit jejich širšímu přijetí .

Cesta vpřed vyžaduje přijmout fakt, že bezpečnost na úrovni jazyka nestačí, když jazyk ovládá fyzické stroje. Architektury vnímající kontext, povinné červené týmování, vrstvené filtrování vstupů a vymahatelné regulační rámce – to vše je nezbytné, a nic z toho zatím není standardní praxí.