Model je speciálně optimalizován pro logické uvažování o kódu, vyhledávání slabin a v některých případech i pro generování funkčních exploitů, které demonstrují dopad těchto chyb.

Vzhledem k tomu, že by tyto schopnosti mohly pomoci i útočníkům, zvolil Anthropic kontrolované nasazení prostřednictvím partnerských organizací namísto veřejného API.

Výsledky prvního měsíce: Více než 10 000 zranitelností

První zpráva o programu přinesla neobvykle rozsáhlá čísla:

• Více než 10 000 vysoce nebo kriticky závažných zranitelností objevených společně Anthropicem a zhruba 50 partnerskými organizacemi.
• Stovky závažných zranitelností na partnera během zhruba prvního měsíce používání.
• Několik organizací uvedlo, že se jejich míra odhalování chyb zvýšila více než 10krát po nasazení systému.

Jako jeden z příkladů Anthropic uvádí Cloudflare, který pomocí modelu objevil asi 2 000 chyb – z toho 400 vysoce nebo kriticky závažných – ve svých klíčových službách.

Tato čísla naznačují, že by systém mohl bezpečnostním týmům umožnit analyzovat rozsáhlé kódové základny mnohem rychleji než tradiční manuální audit.

Výkonnost v testech a technické schopnosti

Na silný výkon v oblasti kybernetické bezpečnosti ukazují i externí signály.

Britský bezpečnostní institut AI (UK AI Security Institute) údajně potvrdil, že Claude Mythos Preview vyřešil 73 % expertních capture-the-flag úloh, což je benchmark pro testování schopností odhalovat zranitelnosti v reálném světě.

Anthropic a související analýzy také popisují několik schopností:

• Objevování dříve neznámých zero-day zranitelností v operačních systémech a prohlížečích.
• Řetězení více zranitelností k dosažení eskalace oprávnění nebo kompromitace systému.
• Automatické generování funkčního exploit kódu demonstrujícího, jak by mohly být chyby zneužity.

Tyto schopnosti přesahují jednoduchou statickou analýzu a posouvají se do úloh, které tradičně prováděli elitní bezpečnostní výzkumníci.

Příklady nalezených zranitelností

I když většina nálezů zůstává kvůli koordinovanému opravování neveřejná, několik příkladů již bylo zveřejněno.

Podle zpráv shrnujících tvrzení Anthropicu model identifikoval:

• 27 let starou zranitelnost v jádře OpenBSD související s možnostmi TCP SACK.
• 16 let starou chybu v FFmpeg, která přežila miliony automatizovaných testů, aniž by byla odhalena.
• Řetězce zranitelností v jádře Linuxu, které umožnily eskalaci oprávnění z běžného uživatele na plnou kontrolu nad systémem.

Anthropic uvedl, že u naprosté většiny objevů nemůže zveřejnit podrobnosti, protože více než 99 % jím nalezených zranitelností dosud nebylo veřejně opraveno.

Které společnosti jsou zapojeny

Project Glasswing funguje jako koalice technologických firem, poskytovatelů infrastruktury a bezpečnostních organizací.

Mezi oznámené účastníky při spuštění patří:

• Amazon Web Services (AWS)
• Apple
• Google
• Microsoft
• NVIDIA
• Cisco
• Broadcom
• CrowdStrike
• Palo Alto Networks
• JPMorgan Chase
• The Linux Foundation

Spolu se samotným Anthropicem a desítkami dalších organizací program zahrnuje zhruba 50 partnerů.

Tito partneři spouštějí model proti svému vlastnímu softwaru a kritické open-source infrastruktuře, aby identifikovali zranitelnosti, které lze následně opravit.

Proč není model veřejně přístupný

Anthropic zdůrazňuje, že Mythos je záměrně omezen, protože stejné schopnosti užitečné pro obranu by mohly umožnit i rozsáhlé kybernetické útoky.

Pokud by byl široce dostupný, systém schopný automaticky objevovat a zneužívat zero-day zranitelnosti by mohl dramaticky snížit bariéru pro útočné kybernetické operace.
Model kontrolovaného partnerství má za cíl opravit co nejvíce zranitelností dříve, než se podobné schopnosti stanou všeobecně dostupnými.

Kritika a skepse ze strany bezpečnostních expertů

Navzdory působivým titulkům přetrvává v bezpečnostní komunitě několik bodů skepse.

1. Omezené nezávislé ověření
Většina rozsáhlých výsledků – například 10 000 objevených zranitelností – pochází z vlastních zpráv Anthropicu nebo z článků, které tato tvrzení opakují. Vzhledem k tomu, že zranitelnosti nejsou zveřejněny, je nemohou externí výzkumníci přímo vyhodnotit.

2. Možná shoda se stávajícími nástroji
Někteří výzkumníci tvrdí, že podobných schopností při vyhledávání zranitelností lze dosáhnout i kombinací existujících veřejných modelů a nástrojů. Mythos by tak mohl představovat spíše zrychlení než zcela novou schopnost.

3. Obtížné měření skutečné úspěšnosti v praxi
Ačkoli existují výsledky benchmarků, jako je 73% úspěšnost v capture-the-flag úlohách, jasná statistika o tom, kolik chyb nalezených AI bylo potvrzeno a opraveno v reálných produkčních systémech, zatím nebyla podrobně zdokumentována.

Závěr

Pokud se uváděná čísla Anthropicu potvrdí i při širším ověření, představuje Project Glasswing jeden z největších pokusů o asistenci AI při odhalování zranitelností, jaký byl kdy proveden. Jen během prvního měsíce program údajně odhalil více než 10 000 vysoce závažných bezpečnostních chyb v kritických softwarových systémech.

Vzhledem k tomu, že většina zranitelností zůstává kvůli koordinovanému opravování neveřejná, postrádá bezpečnostní komunita zatím komplexní nezávislé ověření těchto výsledků.

Co je jasné, je, že systémy umělé inteligence se stávají mocnými nástroji pro bezpečnostní výzkum softwaru – schopnými skenovat složité kódové základny, identifikovat nenápadné zranitelnosti a dokonce generovat funkční exploity. Zda Mythos představuje jedinečný průlom, nebo jen špičku ledovce širšího trendu v AI řízené bezpečnostní analýze, je otázkou, kterou průmysl pravděpodobně zodpoví v příštích letech.

Model je speciálně optimalizován pro logické uvažování o kódu, vyhledávání slabin a v některých případech i pro generování funkčních exploitů, které demonstrují dopad těchto chyb.

Vzhledem k tomu, že by tyto schopnosti mohly pomoci i útočníkům, zvolil Anthropic kontrolované nasazení prostřednictvím partnerských organizací namísto veřejného API.

Výsledky prvního měsíce: Více než 10 000 zranitelností

První zpráva o programu přinesla neobvykle rozsáhlá čísla:

• Více než 10 000 vysoce nebo kriticky závažných zranitelností objevených společně Anthropicem a zhruba 50 partnerskými organizacemi.
• Stovky závažných zranitelností na partnera během zhruba prvního měsíce používání.
• Několik organizací uvedlo, že se jejich míra odhalování chyb zvýšila více než 10krát po nasazení systému.

Jako jeden z příkladů Anthropic uvádí Cloudflare, který pomocí modelu objevil asi 2 000 chyb – z toho 400 vysoce nebo kriticky závažných – ve svých klíčových službách.

Tato čísla naznačují, že by systém mohl bezpečnostním týmům umožnit analyzovat rozsáhlé kódové základny mnohem rychleji než tradiční manuální audit.

Výkonnost v testech a technické schopnosti

Na silný výkon v oblasti kybernetické bezpečnosti ukazují i externí signály.

Britský bezpečnostní institut AI (UK AI Security Institute) údajně potvrdil, že Claude Mythos Preview vyřešil 73 % expertních capture-the-flag úloh, což je benchmark pro testování schopností odhalovat zranitelnosti v reálném světě.

Anthropic a související analýzy také popisují několik schopností:

• Objevování dříve neznámých zero-day zranitelností v operačních systémech a prohlížečích.
• Řetězení více zranitelností k dosažení eskalace oprávnění nebo kompromitace systému.
• Automatické generování funkčního exploit kódu demonstrujícího, jak by mohly být chyby zneužity.

Tyto schopnosti přesahují jednoduchou statickou analýzu a posouvají se do úloh, které tradičně prováděli elitní bezpečnostní výzkumníci.

Příklady nalezených zranitelností

I když většina nálezů zůstává kvůli koordinovanému opravování neveřejná, několik příkladů již bylo zveřejněno.

Podle zpráv shrnujících tvrzení Anthropicu model identifikoval:

• 27 let starou zranitelnost v jádře OpenBSD související s možnostmi TCP SACK.
• 16 let starou chybu v FFmpeg, která přežila miliony automatizovaných testů, aniž by byla odhalena.
• Řetězce zranitelností v jádře Linuxu, které umožnily eskalaci oprávnění z běžného uživatele na plnou kontrolu nad systémem.

Anthropic uvedl, že u naprosté většiny objevů nemůže zveřejnit podrobnosti, protože více než 99 % jím nalezených zranitelností dosud nebylo veřejně opraveno.

Které společnosti jsou zapojeny

Project Glasswing funguje jako koalice technologických firem, poskytovatelů infrastruktury a bezpečnostních organizací.

Mezi oznámené účastníky při spuštění patří:

• Amazon Web Services (AWS)
• Apple
• Google
• Microsoft
• NVIDIA
• Cisco
• Broadcom
• CrowdStrike
• Palo Alto Networks
• JPMorgan Chase
• The Linux Foundation

Spolu se samotným Anthropicem a desítkami dalších organizací program zahrnuje zhruba 50 partnerů.

Tito partneři spouštějí model proti svému vlastnímu softwaru a kritické open-source infrastruktuře, aby identifikovali zranitelnosti, které lze následně opravit.

Proč není model veřejně přístupný

Anthropic zdůrazňuje, že Mythos je záměrně omezen, protože stejné schopnosti užitečné pro obranu by mohly umožnit i rozsáhlé kybernetické útoky.

Pokud by byl široce dostupný, systém schopný automaticky objevovat a zneužívat zero-day zranitelnosti by mohl dramaticky snížit bariéru pro útočné kybernetické operace.
Model kontrolovaného partnerství má za cíl opravit co nejvíce zranitelností dříve, než se podobné schopnosti stanou všeobecně dostupnými.

Kritika a skepse ze strany bezpečnostních expertů

Navzdory působivým titulkům přetrvává v bezpečnostní komunitě několik bodů skepse.

1. Omezené nezávislé ověření
Většina rozsáhlých výsledků – například 10 000 objevených zranitelností – pochází z vlastních zpráv Anthropicu nebo z článků, které tato tvrzení opakují. Vzhledem k tomu, že zranitelnosti nejsou zveřejněny, je nemohou externí výzkumníci přímo vyhodnotit.

2. Možná shoda se stávajícími nástroji
Někteří výzkumníci tvrdí, že podobných schopností při vyhledávání zranitelností lze dosáhnout i kombinací existujících veřejných modelů a nástrojů. Mythos by tak mohl představovat spíše zrychlení než zcela novou schopnost.

3. Obtížné měření skutečné úspěšnosti v praxi
Ačkoli existují výsledky benchmarků, jako je 73% úspěšnost v capture-the-flag úlohách, jasná statistika o tom, kolik chyb nalezených AI bylo potvrzeno a opraveno v reálných produkčních systémech, zatím nebyla podrobně zdokumentována.

Závěr

Pokud se uváděná čísla Anthropicu potvrdí i při širším ověření, představuje Project Glasswing jeden z největších pokusů o asistenci AI při odhalování zranitelností, jaký byl kdy proveden. Jen během prvního měsíce program údajně odhalil více než 10 000 vysoce závažných bezpečnostních chyb v kritických softwarových systémech.

Vzhledem k tomu, že většina zranitelností zůstává kvůli koordinovanému opravování neveřejná, postrádá bezpečnostní komunita zatím komplexní nezávislé ověření těchto výsledků.

Co je jasné, je, že systémy umělé inteligence se stávají mocnými nástroji pro bezpečnostní výzkum softwaru – schopnými skenovat složité kódové základny, identifikovat nenápadné zranitelnosti a dokonce generovat funkční exploity. Zda Mythos představuje jedinečný průlom, nebo jen špičku ledovce širšího trendu v AI řízené bezpečnostní analýze, je otázkou, kterou průmysl pravděpodobně zodpoví v příštích letech.