Riziko se netýká jen běžných kancelářských počítačů. Vládní platformy, cloudové služby a kritická informační infrastruktura (CII) mohou poskytovat přístup k základním službám i k prostředím provozní technologie. Pokud AI zautomatizuje průzkum a zneužívání veřejně dostupných systémů, jediná přehlédnutá slabina se může stát snadněji dohledatelným a opakovaně zneužitelným cílem.

AI zároveň zvyšuje přesvědčivost phishingu a vydávání se za jiné osoby. Podle CSA dokáže ve velkém vytvářet návnady, realistické hlasové klony a videa typu deepfake i nástroje určené k obcházení vícefaktorového ověřování. Útočná plocha se tím rozšiřuje: důležité zůstávají technické chyby, ale stejně lákavým cílem se stávají identity, oprávnění a lidské rozhodování.

Co zatím víme o Claude Mythos Preview

Společnost Anthropic popsala Claude Mythos Preview jako vysoce schopný model pro úlohy v oblasti počítačové bezpečnosti. Současně spustila projekt Glasswing, který jej využívá k obranné práci na kritickém softwaru. Nejvýraznější veřejná tvrzení o schopnostech modelu je však třeba brát s rezervou: nezávislé ověření je stále omezené a Anthropic model zpřístupnila jen kontrolovanému okruhu partnerů, nikoli veřejnosti.

Singapurská vláda uvedla, že k Mythosu přístup nemá a nepředpokládá, že získá přednostní přístup ke každému budoucímu pokročilému modelu. Místo toho spolupracuje s laboratořemi vyvíjejícími AI, firmami z oblasti kyberbezpečnosti a dalšími partnery, kteří sledují vývoj schopností modelů a posuzují jeho bezpečnostní dopady.

Tento rozdíl je důležitý. Organizace nemohou postavit svou obranu na kontrole jediného konkrétního modelu. Potřebují opatření, která obstojí i ve chvíli, kdy se objeví jiné modely, nástroje a automatizované útočné postupy.

Na co se Singapur zaměřuje okamžitě

CSA a GovTech upozornily vlastníky CII i státní úřady na rizika spojená s pokročilou AI. Doporučení jsou praktická a soustředí se na několik priorit:

• Nejprve opravit veřejně dostupné systémy. Odstranit všechny kritické a závažné zranitelnosti na systémech přístupných z internetu a přednostně zabezpečit aktiva, jejichž napadení by mohlo vést k rozsáhlé kompromitaci.
• Chránit administrátorský přístup. Zapnout vícefaktorové ověřování (MFA) u administrátorských rozhraní, bran a konzolí pro správu cloudu. Pokud MFA není technicky možné, omezit přístup například pomocí seznamu povolených IP adres.
• Prověřit oprávnění. Zkontrolovat privilegované účty, neaktivní účty a zbytečně široká oprávnění. Princip nejmenších oprávnění a segmentace sítě mohou omezit rozsah škod po prvotním průniku.
• Zlepšit přehled o infrastruktuře. Udržovat přesný inventář kritických systémů, internetových aktiv, cloudových služeb a závislostí na dodavatelích třetích stran a tyto prvky průběžně sledovat.
• Připravit se na incident. Plány reakce musí obsahovat jasné eskalační postupy, otestované zálohy a cvičení, která počítají s rychlejšími a více automatizovanými útoky.

Nejde o nové principy kyberbezpečnosti. Pokročilá AI však zvyšuje cenu odkládání. Cílem je zmenšit počet slabin dostupných útočníkům a zkrátit dobu mezi odhalením problému a jeho opravou.

AI může bránit — musí ale být zabezpečená

Kyberbezpečnostní nástroje využívající AI mohou pomoci s odhalováním hrozeb, tříděním upozornění, vyšetřováním incidentů i rychlejším hledáním a opravou zranitelností. Singapurská organizace CSIT popisuje AI řízené pracovní postupy a fuzzingové systémy, které mají odhalovat zero-day zranitelnosti v kritickém softwaru. Součástí obrany je také adversariální simulace, která odhaluje slabiny architektury dříve, než je najdou útočníci.

Obranná AI ale vytváří vlastní bezpečnostní povinnosti. CSA upozorňuje, že nestačí zabezpečit pouze samotný model. Vlastníci systémů by měli posuzovat rizika v celém životním cyklu AI: od plánování a návrhu přes vývoj, nasazení, provoz a údržbu až po ukončení používání. To zahrnuje ochranu trénovacích i provozních dat, rozhraní, závislostí, dodavatelského řetězce, přístupových práv a monitoringu.

Lidské ověření zůstává nezbytné zejména tehdy, když AI doporučuje záplatu, označuje incident nebo navrhuje zásah, který by mohl ovlivnit provozní technologie či veřejné služby.

Společný postup pro kritickou infrastrukturu i firmy

Singapurský přístup kombinuje základní bezpečnostní standardy s průběžným testováním. Vlastníci CII již využívají externí audity a pravidelné penetrační testy, jejichž výsledky předkládají CSA. Vláda zároveň zdůrazňuje, že bezpečnostní kontroly je třeba průběžně posilovat, nikoli spoléhat pouze na pravidelnou kontrolu v určitém termínu.

Základní princip zní: uzamknout, najít jako první, rychle opravit. V praxi to znamená vést aktuální seznam aktiv, nepřetržitě vyhledávat zranitelnosti, rychle instalovat záplaty, oddělovat sítě a privilegované účty, testovat software i jeho závislosti a nacvičovat obnovu po incidentu. Firmy, které nejsou formálně vlastníky CII, by měly stejnou logiku uplatnit alespoň u služeb dostupných z internetu, systémů identity, cloudových konzolí a citlivých napojení na dodavatele.

Sdílení informací a spolupráce

Žádná organizace neuvidí všechny nové schopnosti pokročilé AI ani všechny možné cesty útoku. Státní úřady, provozovatelé CII, poskytovatelé cloudu a technologií, bezpečnostní výzkumníci i akademická sféra by proto měli co nejrychleji sdílet použitelné indikátory útoku, informace o zranitelnostech a poznatky ze cvičení.

Část zpravodajských informací přirozeně zůstane utajena. Singapur uvedl, že vlastníkům CII bude selektivně poskytovat utajované informace o hrozbách a zároveň je vybaví obrannými nástroji. Organizace by proto měly jednat podle upozornění CSA a využívat také očištěné, sdílené informace tam, kde nelze distribuovat podrobnosti o zdroji.

Součástí tohoto modelu jsou i celostátní cvičení. Cvičení Critical Infrastructure Defence Exercise využilo ve spolupráci s průmyslovými partnery AI řízené simulace kyberútoků napříč 11 kritickými sektory, aby posílilo odolnost a koordinaci.

Praktický závěr

Pokročilá AI nemění základní pravidla kyberbezpečnosti — zvyšuje však cenu jejich zanedbání. Nejlepší krátkodobou obranou Singapuru je kombinace rychlého záplatování, MFA, nejmenších oprávnění, průběžného monitoringu, adversariálního testování, bezpečného nasazování AI a rychlého sdílení informací.

Největší výhodu budou mít organizace, které své slabiny odhalí dříve než automatizovaný útočník.

Riziko se netýká jen běžných kancelářských počítačů. Vládní platformy, cloudové služby a kritická informační infrastruktura (CII) mohou poskytovat přístup k základním službám i k prostředím provozní technologie. Pokud AI zautomatizuje průzkum a zneužívání veřejně dostupných systémů, jediná přehlédnutá slabina se může stát snadněji dohledatelným a opakovaně zneužitelným cílem.

AI zároveň zvyšuje přesvědčivost phishingu a vydávání se za jiné osoby. Podle CSA dokáže ve velkém vytvářet návnady, realistické hlasové klony a videa typu deepfake i nástroje určené k obcházení vícefaktorového ověřování. Útočná plocha se tím rozšiřuje: důležité zůstávají technické chyby, ale stejně lákavým cílem se stávají identity, oprávnění a lidské rozhodování.

Co zatím víme o Claude Mythos Preview

Společnost Anthropic popsala Claude Mythos Preview jako vysoce schopný model pro úlohy v oblasti počítačové bezpečnosti. Současně spustila projekt Glasswing, který jej využívá k obranné práci na kritickém softwaru. Nejvýraznější veřejná tvrzení o schopnostech modelu je však třeba brát s rezervou: nezávislé ověření je stále omezené a Anthropic model zpřístupnila jen kontrolovanému okruhu partnerů, nikoli veřejnosti.

Singapurská vláda uvedla, že k Mythosu přístup nemá a nepředpokládá, že získá přednostní přístup ke každému budoucímu pokročilému modelu. Místo toho spolupracuje s laboratořemi vyvíjejícími AI, firmami z oblasti kyberbezpečnosti a dalšími partnery, kteří sledují vývoj schopností modelů a posuzují jeho bezpečnostní dopady.

Tento rozdíl je důležitý. Organizace nemohou postavit svou obranu na kontrole jediného konkrétního modelu. Potřebují opatření, která obstojí i ve chvíli, kdy se objeví jiné modely, nástroje a automatizované útočné postupy.

Na co se Singapur zaměřuje okamžitě

CSA a GovTech upozornily vlastníky CII i státní úřady na rizika spojená s pokročilou AI. Doporučení jsou praktická a soustředí se na několik priorit:

• Nejprve opravit veřejně dostupné systémy. Odstranit všechny kritické a závažné zranitelnosti na systémech přístupných z internetu a přednostně zabezpečit aktiva, jejichž napadení by mohlo vést k rozsáhlé kompromitaci.
• Chránit administrátorský přístup. Zapnout vícefaktorové ověřování (MFA) u administrátorských rozhraní, bran a konzolí pro správu cloudu. Pokud MFA není technicky možné, omezit přístup například pomocí seznamu povolených IP adres.
• Prověřit oprávnění. Zkontrolovat privilegované účty, neaktivní účty a zbytečně široká oprávnění. Princip nejmenších oprávnění a segmentace sítě mohou omezit rozsah škod po prvotním průniku.
• Zlepšit přehled o infrastruktuře. Udržovat přesný inventář kritických systémů, internetových aktiv, cloudových služeb a závislostí na dodavatelích třetích stran a tyto prvky průběžně sledovat.
• Připravit se na incident. Plány reakce musí obsahovat jasné eskalační postupy, otestované zálohy a cvičení, která počítají s rychlejšími a více automatizovanými útoky.

Nejde o nové principy kyberbezpečnosti. Pokročilá AI však zvyšuje cenu odkládání. Cílem je zmenšit počet slabin dostupných útočníkům a zkrátit dobu mezi odhalením problému a jeho opravou.

AI může bránit — musí ale být zabezpečená

Kyberbezpečnostní nástroje využívající AI mohou pomoci s odhalováním hrozeb, tříděním upozornění, vyšetřováním incidentů i rychlejším hledáním a opravou zranitelností. Singapurská organizace CSIT popisuje AI řízené pracovní postupy a fuzzingové systémy, které mají odhalovat zero-day zranitelnosti v kritickém softwaru. Součástí obrany je také adversariální simulace, která odhaluje slabiny architektury dříve, než je najdou útočníci.

Obranná AI ale vytváří vlastní bezpečnostní povinnosti. CSA upozorňuje, že nestačí zabezpečit pouze samotný model. Vlastníci systémů by měli posuzovat rizika v celém životním cyklu AI: od plánování a návrhu přes vývoj, nasazení, provoz a údržbu až po ukončení používání. To zahrnuje ochranu trénovacích i provozních dat, rozhraní, závislostí, dodavatelského řetězce, přístupových práv a monitoringu.

Lidské ověření zůstává nezbytné zejména tehdy, když AI doporučuje záplatu, označuje incident nebo navrhuje zásah, který by mohl ovlivnit provozní technologie či veřejné služby.

Společný postup pro kritickou infrastrukturu i firmy

Singapurský přístup kombinuje základní bezpečnostní standardy s průběžným testováním. Vlastníci CII již využívají externí audity a pravidelné penetrační testy, jejichž výsledky předkládají CSA. Vláda zároveň zdůrazňuje, že bezpečnostní kontroly je třeba průběžně posilovat, nikoli spoléhat pouze na pravidelnou kontrolu v určitém termínu.

Základní princip zní: uzamknout, najít jako první, rychle opravit. V praxi to znamená vést aktuální seznam aktiv, nepřetržitě vyhledávat zranitelnosti, rychle instalovat záplaty, oddělovat sítě a privilegované účty, testovat software i jeho závislosti a nacvičovat obnovu po incidentu. Firmy, které nejsou formálně vlastníky CII, by měly stejnou logiku uplatnit alespoň u služeb dostupných z internetu, systémů identity, cloudových konzolí a citlivých napojení na dodavatele.

Sdílení informací a spolupráce

Žádná organizace neuvidí všechny nové schopnosti pokročilé AI ani všechny možné cesty útoku. Státní úřady, provozovatelé CII, poskytovatelé cloudu a technologií, bezpečnostní výzkumníci i akademická sféra by proto měli co nejrychleji sdílet použitelné indikátory útoku, informace o zranitelnostech a poznatky ze cvičení.

Část zpravodajských informací přirozeně zůstane utajena. Singapur uvedl, že vlastníkům CII bude selektivně poskytovat utajované informace o hrozbách a zároveň je vybaví obrannými nástroji. Organizace by proto měly jednat podle upozornění CSA a využívat také očištěné, sdílené informace tam, kde nelze distribuovat podrobnosti o zdroji.

Součástí tohoto modelu jsou i celostátní cvičení. Cvičení Critical Infrastructure Defence Exercise využilo ve spolupráci s průmyslovými partnery AI řízené simulace kyberútoků napříč 11 kritickými sektory, aby posílilo odolnost a koordinaci.

Praktický závěr

Pokročilá AI nemění základní pravidla kyberbezpečnosti — zvyšuje však cenu jejich zanedbání. Nejlepší krátkodobou obranou Singapuru je kombinace rychlého záplatování, MFA, nejmenších oprávnění, průběžného monitoringu, adversariálního testování, bezpečného nasazování AI a rychlého sdílení informací.

Největší výhodu budou mít organizace, které své slabiny odhalí dříve než automatizovaný útočník.