Ro Khanna chce vědět, zda jsou nejvýkonnější americké AI modely v bezpečí

Ro Khanna chce po OpenAI, Anthropic, Googlu, Mete a xAI vědět, zda se někdo — například Čína nebo jiný nepřátelský aktér — pokusil nelegálně získat jejich modelové váhy a jak firmy své systémy chrání. Nejde jen o to, zda soupeři dokážou vytvořit podobný nástroj. Jde také o to, kdo by mohl získat přístup k samotnému základu výkonného modelu a nakládat s ním mimo služby jeho vývojáře.310

Modelové váhy nejsou totéž co odpovědi modelu

Modelové váhy jsou naučené parametry, které určují, jak model zpracovává vstupy a vytváří odpovědi. Jejich odcizení by tedy znamenalo získat podstatnou část samotného modelu. Podle toho, jak je systém zpřístupněný, by to mohlo umožnit provozovat nebo upravovat model mimo infrastrukturu a ochranná opatření jeho vývojáře.

Destilace funguje jinak: někdo modelu zadává dotazy, sbírá jeho odpovědi a používá je k trénování vlastního systému. Tak může vzniknout model, který některé schopnosti napodobuje, aniž by jeho tvůrce získal původní váhy. OpenAI a Anthropic o destilaci ze strany čínských firem informovaly, ale zprávy popisují jen málo známých případů, kdy by někdo ukradl přímo modelové váhy. Samotné informace o destilaci proto nejsou důkazem, že byly váhy těchto firem odcizeny.10

Proč je to otázka národní bezpečnosti

Khannova obava míří na to, co by útočník mohl dělat s přímým přístupem k modelu, nikoli pouze s jeho odpověďmi přes službu provozovanou vývojářem. Získání vah by mohlo obejít některé kontroly spojené s takovým přístupem. V dřívějším vystoupení Khanna výslovně rozlišoval mezi destilací a otázkou, zda firmy dokážou své váhy ochránit.5

To však neznamená, že k úspěšné krádeži došlo. Dostupné informace nepotvrzují, že by Čína získala váhy některé z firem, na něž se otázka zaměřuje.10

Dobrovolné závazky, nebo závazná pravidla?

Spor se odehrává i na politické úrovni. Trumpova administrativa upřednostnila dobrovolné závazky AI firem; zároveň podle zpráv oznámila, že v rámci dobrovolného režimu nebude bezpečnostně testovat modely s veřejně dostupnými vahami.79 Khanna naproti tomu prosazuje přísnější dohled státu, povinné prověřování modelů a závaznou, ověřitelnou dohodu USA s Čínou o bezpečnosti AI.24

Jeho žádost o informace tak není důkazem, že firmy ochranu zanedbaly nebo že došlo k nezveřejněnému průniku. Má ukázat, zda jejich vlastní zabezpečení a dobrovolné závazky stačí — a jaké informace o hrozbách jsou skutečně k dispozici. Konkrétní bezpečnostní opatření firem ani případné nezveřejněné pokusy o průnik dostupné zdroje nepopisují.13