Jak Singapur przygotowuje się na cyberataki z użyciem najbardziej zaawansowanej AI

AI wzmacnia również phishing i podszywanie się pod inne osoby. CSA wskazuje na możliwość masowego tworzenia wiarygodnych przynęt, realistycznych klonów głosu i deepfake’ów wideo, a także narzędzi mających omijać uwierzytelnianie wieloskładnikowe. Oznacza to, że celem ataku są już nie tylko podatności techniczne, lecz także tożsamość, uprawnienia i ludzkie decyzje.

Claude Mythos Preview: duże możliwości, ograniczona pewność

Firma Anthropic opisuje Claude Mythos Preview jako model o bardzo wysokich kompetencjach w zadaniach związanych z bezpieczeństwem komputerowym. Uruchomiła też Project Glasswing — inicjatywę, w ramach której model ma pomagać w ochronie kluczowego oprogramowania. Najbardziej zdecydowane publiczne twierdzenia na temat jego możliwości należy jednak oceniać ostrożnie: niezależna weryfikacja pozostaje ograniczona, a model nie został udostępniony powszechnie, lecz jest oferowany wybranym partnerom w kontrolowanym programie.

Singapurski rząd potwierdził, że nie ma dostępu do Mythos i nie zakłada, że będzie otrzymywał wczesny dostęp do każdego kolejnego modelu frontier AI. Zamiast tego współpracuje z laboratoriami AI, firmami z sektora cyberbezpieczeństwa i innymi partnerami, którzy śledzą rozwój możliwości modeli oraz oceniają związane z nimi konsekwencje dla bezpieczeństwa.

To ważne rozróżnienie. Organizacje nie mogą budować całej strategii ochrony wokół analizy jednego konkretnego modelu. Potrzebują zabezpieczeń, które pozostaną skuteczne także wtedy, gdy pojawią się inne modele, narzędzia i zautomatyzowane schematy ataku.

Co Singapur zaleca już teraz

CSA i rządowa agencja GovTech poinformowały operatorów CII oraz instytucje publiczne o ryzyku związanym z frontier AI. Zalecane działania są konkretne:

• Najpierw załatać systemy wystawione do internetu. Należy usunąć wszystkie krytyczne i poważne podatności, w pierwszej kolejności w zasobach, których przejęcie mogłoby umożliwić atak na dużą skalę.
• Zabezpieczyć dostęp administracyjny. Uwierzytelnianie wieloskładnikowe (MFA) powinno być włączone na interfejsach administracyjnych, bramach sieciowych i konsolach zarządzania chmurą. Jeśli dany system nie obsługuje MFA, dostęp należy ograniczyć na przykład za pomocą listy dozwolonych adresów IP.
• Zweryfikować uprawnienia. Organizacje powinny przejrzeć konta uprzywilejowane, nieużywane konta oraz zbędne prawa dostępu. Zasada najmniejszych uprawnień i segmentacja sieci ograniczają zakres szkód po początkowym włamaniu.
• Zwiększyć widoczność. Potrzebny jest aktualny wykaz systemów krytycznych, zasobów dostępnych z internetu, usług chmurowych i zależności od zewnętrznych dostawców, a także ich stałe monitorowanie.
• Przygotować reakcję na incydent. Plany powinny zawierać jasne ścieżki eskalacji, sprawdzone kopie zapasowe oraz ćwiczenia uwzględniające szybsze i bardziej zautomatyzowane ataki.

Nie są to nowe zasady cyberhigieny, ale frontier AI sprawia, że odkładanie ich wdrożenia staje się bardziej ryzykowne. Celem jest ograniczenie liczby słabości dostępnych dla atakujących oraz skrócenie czasu między wykryciem problemu a jego usunięciem.

AI ma pomagać w obronie, ale sama również wymaga ochrony

Narzędzia cyberbezpieczeństwa wykorzystujące AI mogą wspierać wykrywanie zagrożeń, porządkowanie alertów, analizę incydentów oraz szybsze znajdowanie i usuwanie podatności. Singapurski CSIT opisuje oparte na AI procesy i systemy fuzzingu, które mają ujawniać luki typu zero-day w oprogramowaniu o znaczeniu krytycznym. Agencja prowadzi również wieloetapowe symulacje ataków, aby wykrywać słabości architektury, zanim zrobią to napastnicy.

Obronne zastosowanie AI tworzy jednak własne obowiązki. CSA podkreśla, że samo „utwardzenie” modelu nie wystarczy. Ryzyko trzeba oceniać w całym cyklu życia systemu AI: od planowania i projektowania, przez rozwój i wdrożenie, po eksploatację, utrzymanie oraz wycofanie z użycia. Ochrony wymagają nie tylko zachowania modelu, lecz także dane treningowe i operacyjne, interfejsy, zależności, łańcuch dostaw, mechanizmy dostępu i monitoring.

Człowiek nadal powinien weryfikować kluczowe decyzje, zwłaszcza gdy system AI rekomenduje poprawkę, klasyfikuje incydent albo proponuje reakcję mogącą wpłynąć na technologie operacyjne lub usługi publiczne.

Wspólna odpowiedź operatorów infrastruktury i firm

Strategia Singapuru łączy podstawowe zabezpieczenia z ciągłym testowaniem. Operatorzy CII już korzystają z zewnętrznych audytów i regularnych testów penetracyjnych, a raporty przekazują do CSA. Rząd podkreśla jednak, że kontrole powinny być stale wzmacniane, a nie sprawdzane wyłącznie podczas okresowych audytów.

Zwięzła zasada brzmi: zabezpiecz, znajdź pierwszy, napraw szybko. W praktyce oznacza to prowadzenie aktualnych spisów zasobów, ciągłe skanowanie, szybkie instalowanie poprawek, segmentację sieci i uprawnień, testowanie oprogramowania oraz zależności i regularne ćwiczenie odtwarzania systemów po incydencie. Firmy, które formalnie nie są operatorami CII, powinny stosować te same priorytety wobec usług internetowych, systemów tożsamości, konsol chmurowych i wrażliwych połączeń z dostawcami.

Wymiana informacji i testy z udziałem wielu sektorów

Żadna pojedyncza organizacja nie jest w stanie obserwować wszystkich możliwości frontier AI ani wszystkich ścieżek ataku. Agencje rządowe, operatorzy CII, dostawcy chmury i technologii, badacze bezpieczeństwa oraz środowisko akademickie powinny możliwie szybko wymieniać się użytecznymi wskaźnikami zagrożeń, informacjami o podatnościach i wnioskami z ćwiczeń.

Część informacji musi pozostać niejawna. Singapur zapowiedział selektywne udostępnianie operatorom CII niejawnych informacji o zagrożeniach, a także wyposażanie ich w narzędzia obronne. Organizacje powinny więc reagować na ostrzeżenia CSA i korzystać z oczyszczonych, możliwych do udostępnienia danych, gdy szczegółowe źródła nie mogą zostać rozpowszechnione.

Elementem tego modelu są ćwiczenia ogólnokrajowe. W ramach Critical Infrastructure Defence Exercise (CIDeX) przeprowadzano symulacje cyberataków wspierane przez AI w 11 sektorach krytycznych, we współpracy z partnerami z przemysłu. Celem jest zwiększenie odporności państwa i usprawnienie koordynacji reakcji.

Najważniejszy wniosek

Frontier AI nie zastępuje podstaw cyberbezpieczeństwa — zwiększa cenę ich zaniedbania. Najsilniejszą krótkoterminową ochroną Singapuru pozostaje połączenie szybkiego łatania luk, MFA, zasady najmniejszych uprawnień, ciągłego monitoringu, testów adwersarialnych, bezpiecznego wdrażania AI i sprawnej wymiany informacji. W miarę rozwoju możliwości zaawansowanych modeli największą przewagę zyskają te organizacje, które znajdą własne słabości, zanim zrobi to zautomatyzowany napastnik.