AI skraca drogę od phishingu do zautomatyzowanej operacji cybernetycznej

Najważniejszy wspólny wniosek raportów nie brzmi: „AI wymyśliła nowe rodzaje włamań”. Chodzi raczej o to, że przyspiesza i porządkuje dobrze znane techniki w powtarzalne, wieloetapowe procesy. Model może pomagać w planowaniu, generowaniu materiałów, testowaniu, poprawianiu i skalowaniu ataku — przy mniejszym nakładzie pracy specjalistów i krótszym czasie pracy operatora. Najmocniejsze dowody dotyczą więc koordynowania oraz przyspieszania znanych działań, a nie w pełni samodzielnych systemów atakujących bez istotnego udziału człowieka. 107

Od asystenta do elementu operacji

Google opisał przesunięcie od pojedynczych poleceń wpisywanych do modelu ku zintegrowanym, agentowym przepływom pracy. W takich schematach AI może obsługiwać automatyczne skanowanie, zbieranie poświadczeń, bieżące rozwiązywanie problemów i rotację infrastruktury. Atak, który wcześniej wymagał kilku narzędzi i osób, może dzięki temu działać jako szybko iterujący proces. 11

Microsoft zastrzega jednak, że większość obserwowanego dziś złośliwego użycia AI nadal koncentruje się na tworzeniu tekstu, kodu lub materiałów medialnych, a nie na autonomicznym przejęciu systemu od początku do końca. 10

Do czego napastnicy wykorzystują modele

W raportach pojawiają się zastosowania takie jak:

• rozpoznanie celu i profilowanie osób lub organizacji;
• wielojęzyczne przynęty do spear phishingu;
• pisanie, rozwijanie i debugowanie malware’u oraz skryptów;
• przygotowywanie infrastruktury ataku;
• streszczanie skradzionych danych;
• tworzenie materiałów do socjotechniki.

Microsoft wskazał wprost na generowanie przynęt phishingowych, tłumaczenia treści, podsumowywanie wykradzionych danych, tworzenie lub poprawianie złośliwego kodu oraz budowanie skryptów i infrastruktury. 10

Grupy powiązane z państwami i cyberprzestępcy

Anthropic podał, że zakłócił działania przypisywane aktorom powiązanym z Rosją, Chinami i Iranem, a także grupom nastawionym na zysk. Opisywane sprawy dotyczyły operacji cybernetycznych, wpływu informacyjnego, inwigilacji, oszustw, potencjalnego niewłaściwego użycia w obszarze biologii i broni konwencjonalnej oraz ekstrakcji możliwości modeli. Reuters relacjonował m.in. sprawę operacji powiązanej z Rosją, wymierzonej w ukraińskich urzędników, oraz zarzuty Anthropic dotyczące nadużywania Claude przez chińskie firmy AI. Są to jednak atrybucje i studia przypadków przedstawiane przez firmę, a nie pełny pomiar całej aktywności przestępczej. 724

Praktyczne znaczenie agentowego wykorzystania AI widać w cyklu: wygeneruj, przetestuj, popraw, wdroż. Według opisywanych przypadków napastnik może zlecić modelowi zmianę lub przebudowę kodu po wykryciu go przez narzędzia bezpieczeństwa, korzystać z przejętych poświadczeń albo kluczy API jako taniego dostępu do mocy obliczeniowej i iterować z prędkością maszyny. Ryzyko wynika z całej pętli działania, nie z pojedynczego szkodliwego zapytania. 87

Przykład ShinyHunters: stara metoda, lepsza skala

Microsoft przypisał kampanie socjotechniczne podszywające się pod mechanizmy passkey i logowanie jednokrotne (SSO) przeciwko firmowym kontom Microsoft 365 podmiotom powiązanym z ShinyHunters, Helix i innymi grupami wymuszającymi okup. W opisywanym schemacie najpierw prowadzono rozpoznanie, a następnie podszywano się pod wsparcie IT, by uzyskać dostęp i wykraść dane z chmury. 3

To przykład klasycznej kradzieży poświadczeń, którą można wzmocnić lepszym doborem celu i większą liczbą wiarygodnych przynęt. Nie jest to natomiast dowód, że AI samodzielnie wykonała całe włamanie.

Podszywanie się na masową skalę

AI obniża koszt tworzenia przekonujących fałszywych stron wsparcia, wiadomości phishingowych, rozmów na czacie, klonów głosu lub wizerunku oraz ich wersji w wielu językach. Dla zespołów bezpieczeństwa oznacza to więcej wiadomości, większe zindywidualizowanie i częstsze zmiany wariantów ataku. Metody wykrywania oparte na znanych szablonach czy rażących błędach językowych stają się przez to mniej skuteczne. Microsoft obserwował wykorzystanie AI właśnie do tworzenia przynęt phishingowych i tłumaczeń. 10

Ekstrakcja modeli: osobny front zagrożeń

Google określa systematyczne odpytywanie Gemini w celu wydobycia zastrzeżonych możliwości jako „destylację” lub atak ekstrakcji modelu. To problem ochrony własności intelektualnej i możliwości modelu, a nie wyłącznie tradycyjnej cyberprzestępczości. 11

Publiczne relacje mówiły o kampaniach obejmujących bardzo duże wolumeny promptów, w tym ponad 100 mln w części skoordynowanych działań. Ostrożna interpretacja jest taka, że napastnicy mogą próbować odtworzyć użyteczne zachowania zaawansowanego modelu przez sondowanie API, podczas gdy dostawcy starają się identyfikować nadużycia i chronić rozumowanie oraz zabezpieczenia modeli. 118

Dlaczego zmienił się rachunek kosztów

AI obniża krańcowy koszt przygotowywania tekstów, lokalizacji językowej, rekonesansu, pomocy przy kodzie i wielokrotnego udoskonalania oszustwa. To daje przestępcom oraz hakerom dysponującym mniejszymi zasobami część możliwości, które wcześniej wymagały większych zespołów. Obrońcy muszą zaś odróżniać coraz bardziej spersonalizowane i często zmieniane treści złośliwe od legalnej komunikacji.

Raporty wskazują zatem na asymetrię szybkości i skali — nie na pewność, że każdy atak wsparty AI zakończy się sukcesem. 610

Konsekwencje dla odpowiedzialnego rozwoju AI

Pytania o dostęp, możliwości i monitorowanie modeli wykraczają poza phishing. Raport Anthropic obejmował również próby niewłaściwego wykorzystania związane z badaniami biologicznymi i rozwojem broni konwencjonalnej. Dlatego dyskusja dotyczy nie tylko ochrony skrzynek pocztowych, lecz także monitorowania nadużyć, kontroli kont i API, limitów użycia, wykrywania ekstrakcji modeli, wymiany informacji o incydentach oraz zabezpieczeń w obszarach o wysokich konsekwencjach. 162

Ważne zastrzeżenie: publikacje opisują przypadki wykryte i zakłócone przez ich autorów. Pokazują więc możliwości oraz wyłaniające się wzorce operacyjne, ale same w sobie nie dowodzą, że autonomiczne cyberataki stały się dominującą formą cyberprzestępczości. 7