Jak laboratoře vyvíjející špičkovou AI omezují riziko biologického zneužití

Vědecká AI může urychlit biologický výzkum, vývoj léčiv i medicínskou diagnostiku. Se vzrůstajícími schopnostmi modelů ale může také snižovat část znalostní, časové a organizační náročnosti, která je spojena s chemickým či biologickým zneužitím.

Vznikající odpovědí proto není jeden univerzální zákaz. Laboratoře a tvůrci politik směřují k vícevrstvému systému testování, řízení přístupu, monitorování a pojistek v místech, kde se digitální návrh musí změnit ve skutečnou laboratorní činnost.

Nejde jen o jeden nebezpečný dotaz

Klíčová otázka nezní, zda běžný veřejný chatbot vydá hotový návod na biologickou zbraň. Podstatné je, zda stále schopnější model dokáže nebezpečný projekt měřitelně usnadnit — například zkrátit potřebný čas, snížit nároky na odborné znalosti, pomoci s řešením technických problémů nebo koordinací jednotlivých kroků.

Biologická újma nevzniká pouhým generováním textu. Vyžaduje materiál, vybavení, odbornou praxi a provedení. Pracovní studie o současných foundation modelech proto hodnotí riziko podle toho, zda mohou uživatele provázet technicky náročnými vývojovými procesy, nikoli podle jediné formulace promptu.

Z čeho se skládá bezpečnostní postup laboratoří

Praxe u nejpokročilejších modelů se sbližuje v několika bodech:

• Hodnocení schopností: Modely se testují s doménovými odborníky a v adversariálních scénářích, aby se zjistilo, zda jejich pomoc v biologii či chemii překračuje běžně dostupné informace natolik, že má praktický význam.
• Přiměřené ochrany: Vysoce rizikové dotazy s dvojím užitím se odmítají, přesměrovávají nebo omezují. Nízkorizikové vzdělávací, zdravotní a výzkumné využití by naopak mělo zůstat dostupné, pokud je to možné.
• Odstupňované nasazení: Nejcitlivější schopnosti nejsou automaticky veřejné; mohou být zpřístupněny prověřeným uživatelům či organizacím za vymezených podmínek.
• Průběžné úpravy: Klasifikátory a pravidla přístupu je nutné měnit, jakmile zbytečně blokují legitimní použití nebo jakmile se samotné modely zlepšují.
• Ochrany mimo model: Pozornost se přesouvá také na navazující fyzické kroky, zejména na získávání biologického materiálu.

Takový rámec je realističtější než představa, že modelové ochrany jsou jedinou obrannou linií.

Příklad Anthropicu: méně omylů, ne volný průchod pro citlivý výzkum

Aktualizace biologických ochran modelu Fable 5 od Anthropicu ukazuje, jak složité je nastavit správnou rovnováhu. Firma uvedla, že napříč svými produkty snížila počet biologicky souvisejících přesměrování na jiný model přibližně o 85 %. Model tak může pomáhat u širšího okruhu biologických úloh.

Zároveň Anthropic uvádí, že dotazy vyhodnocené jako dvojího užití — včetně virologie, toxikologie a molekulárního návrhu — Fable 5 stále předává modelu Opus 5, který je pro tento účel méně schopný. V uvedených citlivých oblastech tak Fable 5 zatím není určen pro profesionální biologický výzkum ani vývoj léčiv.

Důležitý není konkrétní mechanismus přesměrování, ale princip. Ochrana, která zablokuje každou otázku z biologie, může bránit legitimnímu studiu, interpretaci zdravotních informací nebo běžné vědecké práci. Systém, který naopak pokládá každý biologický dotaz za neškodný, může přehlédnout citlivou pomoc. Vyšší přesnost je součást bezpečnosti, nikoli její opak.

Vyšší schopnosti jen pro prověřené organizace

Anthropic použil omezený přístup také pro modely třídy Mythos. Podle stránky společnosti má Mythos 5.1 lepší výsledky v biologii a kybernetické bezpečnosti a zůstává dostupný pouze malé skupině prověřených organizací. 1

Při oznámení Mythos 5 firma uvedla, že jde o stejný základní model jako Fable 5, avšak v některých oblastech se zrušenými ochrannými omezeními. První nasazení bylo omezeno na malou skupinu kybernetických obránců a poskytovatelů infrastruktury v programu Project Glasswing. 7

Tento způsob nasazení riziko neodstraňuje: stále záleží na prověřování uživatelů, záznamech o použití, kontrole následného využití i reakci na incidenty. Nabízí ale jinou možnost než volbu mezi plným veřejným vydáním a úplným zákazem. Rizikovější schopnosti lze nejprve zpřístupnit v užším prostředí, kde jsou uživatelé, účel i dohled lépe vymezené.

Proč ochranné mechanismy modelu samy nestačí

Ochrany v rozhraní jednoho modelu mohou oslabit alternativní modely, doladění modelu, odcizené přístupové údaje, napojení na externí nástroje nebo rozdělený pracovní postup, v němž jednotlivé úkoly řeší různí lidé a systémy. Řízení přístupu proto samo o sobě není úplnou strategií biologické bezpečnosti.

RAND ve své zprávě z roku 2026 zdůrazňuje, že žádná jednotlivá pojistka nemůže zabránit biologickému zneužití podporovanému AI. Organizace popisuje devět intervencí, které mají omezit riziko v různých bodech možného řetězce útoku a pro různé typy aktérů.

V praxi to znamená kombinovat zejména:

1. hodnocení modelů a prahy pro jejich nasazení;
2. přiměřená omezení a programy důvěryhodného přístupu;
3. ověřování zákazníků, auditovatelnost a případné oznamovací mechanismy;
4. prověřování a dohled při pořizování biologického materiálu;
5. lepší detekci ohnisek, veřejnozdravotní dohled a schopnost rychle reagovat.

Když jedna vrstva selže, ostatní mohou stále ztížit přeměnu digitální pomoci v reálnou škodu.

Screening objednávek DNA a RNA jako fyzická pojistka

Nápady vytvořené AI se musí převést na skutečný materiál a laboratorní práci. Právě proto je syntéza nukleových kyselin důležitým místem, kde lze zasáhnout.

Podání pro americký AI Safety Institute doporučuje mimo jiné databáze problematických sekvencí DNA, RNA a proteinů, které by nástrojům mohly pomoci označovat potenciálně škodlivé požadavky. 17 RAND rovněž upozorňuje na americký rámec prověřování syntézy nukleových kyselin a na postupy firem, které kontrolují komerční objednávky biologických materiálů.

Účinný screening není jen seznam sekvencí. Může zahrnovat ověření zákazníka, posouzení podezřelých objednávek, postupy eskalace a sdílení informací v souladu s platnými právními pravidly. Tyto kontroly nezachytí každé riziko, ale mohou ztížit převod nebezpečné výpočetní pomoci do fyzické schopnosti.

Biologická obrana má podporovat i prospěšné využití AI

Cílem není biologickou AI jednoduše potlačit. Stejné schopnosti, které vyvolávají obavy z dvojího užití, mohou pomáhat se sledováním nemocí, diagnostikou, vývojem zdravotnických protiopatření i mikrobiální forenzikou.

Bipartisan Commission on Biodefense při Atlantic Council v roce 2026 zařadila AI jako šestnáctou technologickou prioritu programu Apollo Program for Biodefense. Doporučení zahrnují investice do sledování nemocí a diagnostiky s podporou AI, zdravotnických protiopatření, určování původu biologických hrozeb, hodnocení a ochranných mechanismů modelů i adaptivní reakce veřejného zdravotnictví.

Právě tento rámec vystihuje širší úkol: omezit příležitosti ke zneužití, aniž by se ztratila možnost zlepšit připravenost na epidemie a medicínský výzkum.

Závěr

Veřejně dostupné důkazy nepodporují představu, že běžný chatbot dnes představuje hotovou cestu k vývoji biologické zbraně od začátku do konce. To však není měřítko, podle něhož postupují laboratoře a regulátoři. Připravují se na možnost, že silnější vědecké modely mohou některým uživatelům přinést měřitelný posun ve schopnosti realizovat biologicky nebezpečné činnosti.

Nejsilnější odpovědí proto není ani plošný zákaz biologie v AI, ani slepá důvěra v to, že chatbot odmítne citlivý dotaz. Jde o přiměřený přístup, důsledné testování, přesné ochrany pro žádosti s dvojím užitím a obranu ve fyzické i veřejnozdravotní vrstvě, kde se případný škodlivý plán musí nakonec uskutečnit.