Proč Ro Khanna žádá pět technologických firem o informace o zabezpečení AI

Ro Khanna chce zjistit, zda se čínští nebo jiní nepřátelští aktéři pokusili neoprávněně získat váhy pokročilých modelů od OpenAI, Anthropic, Googlu, Mety a SpaceX — a jak je firmy chrání. Kongresman, který je předním demokratem ve výboru Sněmovny reprezentantů zaměřeném na Čínu, varuje, že úspěšná krádež by mohla oslabit americký náskok v AI a představovat bezpečnostní riziko.4713

Samotná žádost ale není důkazem, že někdo modelové váhy těchto společností ukradl. Khanna se ptá na známé pokusy a firemní zabezpečení; podle dostupných zpráv je případů skutečné krádeže vah známo jen málo.61113

Krádež vah není totéž co destilace

Modelové váhy jsou číselné parametry, které se model naučí během tréninku a které jsou klíčovou součástí jeho fungování. Kdo je získá, může mít možnost spustit jeho kopii — proto Khanna považuje jejich ochranu za důležitou otázku kybernetické i národní bezpečnosti.713

Destilace funguje jinak: nový model se trénuje na výstupech jiného, obvykle většího modelu. Neznamená to přímé získání jeho vah. Američtí představitelé obvinili čínské firmy z využívání této techniky a OpenAI i Anthropic popsaly případy, kdy čínské firmy jejich modely destilovaly.61117 Jde tedy o dvě různé obavy: využívání výstupů k vývoji konkurenčního modelu a přímý přístup k původním vahám.

Bezpečnostní otázka i spor o náskok USA

Pro Khannu nejde jen o ochranu duševního vlastnictví. Pokud by se váhy dostaly k nepřátelskému aktérovi, mohl by získat přístup k pokročilým schopnostem modelu a zároveň by se mohl zmenšit technologický náskok USA. Jeho dotaz proto míří na to, zda se o takový přístup někdo pokoušel a jaká opatření firmy používají, aby mu zabránily.4714

Khanna zároveň prosazuje mezinárodní dohodu USA a Číny o bezpečnosti AI a ověřitelných pravidlech. Tím vzniká širší napětí: obvinění z kopírování mohou zaostřit soupeření mezi zeměmi, zatímco analytici varují, že vyhrocené spory mohou ztížit spolupráci na bezpečnostních opatřeních.2518

Dobrovolné testování nenahrazuje otázky o zabezpečení

Trumpova administrativa oznámila, že některé pokročilé modely se schopnostmi využitelnými při hackerských útocích bude chtít před uvedením na trh dobrovolně podrobit vládním kyberbezpečnostním testům. Zprávy zároveň popisují přístup, v němž se firmy zavazují k vlastnímu dohledu nad AI. Khannova žádost míří na jinou, konkrétní věc: co firmy vědí o pokusech získat jejich váhy a jak chrání systémy, v nichž jsou uložené.

Dostupné informace neprokazují, že dobrovolné testování zabrání krádeži vah — ani že některá z pěti oslovených firem o své váhy přišla.71113