Дослідження охоплює атаки на організації в Австралії, Новій Зеландії, США, Україні та інших регіонах . Роберт Макардл, директор досліджень кіберзлочинності TrendAI, назвав ШІ «колегою по команді, вбудованим у саму операцію», а не просто допоміжним інструментом .
В одному з описаних випадків група, пов’язана з Китаєм, застосувала ШІ-агента, який без прямого керування людини проводив розвідку цільової мережі та переміщувався між її вузлами .
Це важлива зміна у характері атак: ШІ вже не лише допомагає оператору, а може виступати автономним учасником ланцюга атаки . За словами Макардла, захисники мають виходити з того, що на іншому кінці вторгнення може бути не людина, яка вручну вводить команди, а система, що виконує заздалегідь визначений план .
Пов’язані з Китаєм зловмисники використовували генеративний ШІ для покрокової розробки й удосконалення шкідливого програмного забезпечення за допомогою діалогових запитів. TrendAI називає цей підхід «вайбкодингом».
Фактично нападники перетворювали ШІ на партнера програміста: описували потрібну поведінку природною мовою, отримували фрагменти коду, а потім просили модель їх виправити або розширити. Це скорочує цикл розробки шкідливих інструментів і дає змогу швидше адаптувати їх до конкретної цілі .
Звіт також показує, наскільки швидко APT-групи перетворюють нові вразливості на робочі інструменти атак:
TrendAI називає це явище «звуженням вікна захисту». Відомі й невідомі до моменту виправлення вразливості можуть використовуватися для атак за лічені дні після розкриття, тоді як організації часто покладаються на щомісячні або щоквартальні цикли оновлень . У результаті зловмисники встигають скористатися слабким місцем ще до того, як виправлення буде встановлено.
Пов’язані з Іраном нападники проводили безпосередні атаки на підключені до інтернету системи операційних технологій (OT) у США. Вони втручалися в роботу систем контролю паливних резервуарів — обладнання, несправності якого можуть мати наслідки не лише для даних, а й для фізичної безпеки .
Цей випадок демонструє, що ШІ-посилені APT-операції не обмежуються викраденням інформації або зараженням комп’ютерів. Їхніми цілями можуть бути системи, пов’язані з реальними виробничими та інфраструктурними процесами.
Групи, пов’язані з КНДР, інтегрували комерційні ШІ-інструменти у свою роботу та скомпрометували широко використовуваний програмний пакет. Через нього нападники могли атакувати розробників і користувачів, які покладалися на заражену залежність .
Атаки на ланцюг постачання особливо небезпечні тим, що одна скомпрометована бібліотека або пакет здатні відкрити шлях одразу до великої кількості кінцевих цілей.
Окремо TrendAI описує метод ADINT — «розвідку через рекламу» (advertising intelligence). Він дає змогу збирати дані про місцеперебування та пристрої користувачів із потокових аукціонів онлайн-реклами, які відбуваються в реальному часі .
На відміну від традиційного шпигунського програмного забезпечення, цей підхід не потребує встановлення malware на пристрій. Саме тому його надзвичайно складно виявити засобами, що шукають зараження кінцевих точок.
Звіт TrendAI свідчить про фундаментальну зміну ландшафту кіберзагроз. ШІ більше не є лише «підсилювачем» роботи хакера — він поступово стає механізмом, який допомагає планувати й виконувати окремі етапи атаки з машинною швидкістю.
Організаціям доводиться враховувати одразу кілька ризиків: автономну розвідку, швидше створення шкідливого коду, експлуатацію вразливостей до завершення стандартного циклу оновлень і вихід атак за межі суто цифрового середовища. Епоха атак, у яких кожну команду вручну вводить людина, схоже, добігає кінця.