Studie z Cambridge: frakce Boko Haram údajně využívaly AI chatboty k operační podpoře

Výzkum University of Cambridge přináší svědectví o tom, že dvě frakce Boko Haram — Islámský stát v Západní Africe (ISWAP) a Jama’at Ahl as-Sunnah lid-Da’wah wa’l-Jihad (JAS) — údajně zapojily běžně dostupné AI chatboty do bojových i každodenních činností. Podstatné není tvrzení, že by AI sama o sobě vytvořila zcela novou schopnost. Riziko spočívá spíš v tom, že široce dostupné systémy mohou organizovaným násilným skupinám urychlit přístup k technickým informacím a snížit jejich závislost na nedostatkových specialistech. 423

Na čem jsou závěry založeny

Autorka výzkumu vedla v letech 2025 a 2026 v severovýchodní Nigérii 57 osobních rozhovorů s 27 bývalými členy Boko Haram. Mezi respondenty byli i velitelé střední úrovně a techničtí odborníci. Zpráva je popisuje jako první terénní důkaz využívání AI aktivní teroristickou organizací. 4

Dotazovaní označili šest nástrojů: ChatGPT, Claude, Gemini, Grok, Meta AI a DeepSeek. Podle jejich výpovědí nešlo o jedinou platformu ani o ojedinělý pokus; AI měla sloužit v bojovém prostředí i při běžném chodu skupin. 23

K čemu měly chatboty sloužit

Bývalí členové uvedli, že systémy využívali při plánování útoků, práci s výbušnými zařízeními, údržbě a řešení problémů se zbraněmi i k posilování operační bezpečnosti. Hovořili také o technickém a taktickém poradenství v průběhu operací. 423

Pokud jsou tyto výpovědi přesné, klíčová změna je především organizační: chatbot může fungovat jako rychle dostupný a opakovaně použitelný zdroj strukturovaných informací. To může zkrátit dobu potřebnou k řešení technických problémů a omezit potřebu úzce specializovaných znalostí.

Dostupné podklady ale neprokazují, že AI umožnila konkrétní útok ani o kolik zlepšila reálné výsledky skupin v terénu.

Údajné specializované AI týmy a omezený přístup

Podle zprávy obě frakce vytvořily pod vedením seniorních představitelů vlastní kapacity zaměřené na AI. Důvěryhodní techničtí pracovníci — například odborníci na zbraně, výbušniny a inženýrské činnosti — měli s nástroji pracovat, vyhodnocovat odpovědi a předávat relevantní poznatky dalším lidem v organizaci. 4

Tento popis je důležitý, protože se liší od představy, že každý bojovník jen příležitostně zkouší chatbot. Přístup měl být z bezpečnostních důvodů regulovaný a specialisté měli vystupovat jako prostředníci mezi komerčními systémy a širší skupinou. 4

Zpráva dále uvádí, že znalosti a školení se šířily prostřednictvím nadnárodních džihádistických sítí. Shrnutí studie zmiňuje sítě napojené na Islámský stát, které měly pomáhat s šířením know-how i s přístupem k zařízením, připojení a účtům. 4

Ochranné mechanismy jako překážka, nikoli nutně jako konečná bariéra

Respondenti popsali snahy obcházet bezpečnostní ochrany modelů tím, že skrývali škodlivý záměr nebo používali techniky zaměřené na obcházení omezení v zadáních. Uváděli také využívání více poskytovatelů: odmítnutí požadavku či zásah proti účtu u jedné služby tak podle nich nemusely zabránit pokusu o získání podobné informace jinde. 423

Tyto poznatky nelze chápat jako test současné úrovně zabezpečení chatbotů. Rozhovory zachycují minulou zkušenost a studie nedokládá, že by stejné požadavky uspěly u novějších verzí modelů nebo při dnešním vymáhání pravidel. Přesto ukazují zásadní problém bezpečnosti: ochrany zavedené jedním poskytovatelem mohou mít omezený účinek, pokud jsou srovnatelné schopnosti snadno dostupné napříč mnoha službami.

Proč jsou závěry důležité pro bezpečnost AI

Debata o extremistech na digitálních platformách se dosud často soustředila na propagandu, nábor nebo šíření obsahu. Zde dotazovaní popisují AI jako součást operační podpory — nástroj pro technické dotazy, plánování a řešení organizačních problémů. 423

To staví před AI firmy i veřejné instituce obtížný úkol. Pravidla služeb sice mohou zakazovat vývoj zbraní a násilné jednání, jejich vymáhání ale naráží na nejednoznačné dotazy s legitimním i škodlivým využitím, na uživatele skrývající záměr i na možnost přecházet mezi nástroji. Studie tvrdí, že naléhavost problému zvyšuje spojení snadno dostupných pokročilých systémů a sítí schopných rychle sdílet postupy a odborné znalosti. 4

Co studie neprokazuje

Jde o seriózní terénní výzkum, ale jeho důkazní hranice jsou podstatné. Stojí především na zpětných výpovědích 27 bývalých členů, nikoli na přímém pozorování každého uváděného použití či na nezávislém forenzním přiřazení konkrétních útoků určitému modelu. 4

Nejsilnější závěr je proto užší, než by mohly naznačovat některé titulky: bývalí členové popsali systematické a organizované nasazení komerčních AI nástrojů v ISWAP a JAS. Rozhovory jsou varováním před věrohodným operačním zneužitím a před limity ochran na úrovni jednotlivých platforem. Neobsahují však číselně vyjádřený důkaz, jaký vliv měla AI na míru násilí nebo úspěšnost konkrétních útoků.

Pro vývojáře, provozovatele služeb i tvůrce politik z toho plyne jasný závěr: prevence zneužití nemůže stát pouze na zákazu v podmínkách používání ani na jednom odmítnutí odpovědi. Vyžaduje průběžné vyhodnocování reálných vzorců zneužívání, lepší odhalování a reakci i koordinaci mezi službami, kam se může problematické chování přesouvat. 4