Ro Khanna kræver svar om sikkerheden bag USA’s AI-modeller

Den amerikanske kongrespolitiker Ro Khanna vil have OpenAI, Anthropic, Google, Meta og SpaceX til at fortælle, om Kina eller andre fjendtlige aktører har forsøgt at få uautoriseret adgang til deres AI-modellers vægte. Han beder også selskaberne redegøre for, hvordan de beskytter dem.47

Bag forespørgslen ligger en konkret bekymring: Hvis en aktør får fat i modelvægtene, kan vedkommende i praksis få selve den trænede model. Det kan ifølge Khannas bekymring svække USA’s forspring inden for AI og skabe risici for den nationale sikkerhed. Men hans spørgsmål er ikke i sig selv et bevis på, at nogen har stjålet vægte fra de fem selskaber.1113

Tyveri er ikke det samme som destillation

Modelvægte er de numeriske parametre, der er lært under træningen, og som er med til at få en AI-model til at fungere. Får man fat i dem, kan man få adgang til modellen direkte. Ved destillation trænes der derimod en anden model ved hjælp af svar fra en eksisterende model.

Amerikanske myndigheder har beskyldt kinesiske AI-selskaber for at bruge destillation, og OpenAI og Anthropic har meldt om tilfælde, hvor kinesiske aktører har trænet egne systemer på deres modellers output. Det er en anden form for kopiering end at stjæle de oprindelige vægte. Der er ifølge den tilgængelige rapportering kun få kendte tilfælde af egentligt tyveri af modelvægte.617

Sikkerhedspolitik med både nationalt og internationalt sigte

Khanna ser beskyttelsen af avancerede AI-modeller som et spørgsmål om både cybersikkerhed og konkurrenceevne. Samtidig har han argumenteret for, at USA og Kina bør samarbejde om sikkerhedsstandarder og kontrol med udviklingen af AI.25 Det skaber en politisk spænding: Amerikanske beskyldninger om kopiering kan skærpe konflikten, mens Khanna efterlyser fælles rammer for at håndtere risici.18

Der er også en diskussion om, hvem der skal sætte og håndhæve reglerne. Trump-administrationen har lagt vægt på frivillige tiltag fra branchen, herunder at selskaber selv fører tilsyn med deres AI-modeller. Den har desuden foreslået, at visse avancerede modeller frivilligt kan indsendes til cybersikkerhedstest før offentlig lancering. Khannas forespørgsel beder selskaberne redegøre for deres sikkerhed, men dokumenterer ikke, at de foreslåede test eller frivillig selvregulering kan forhindre tyveri af modelvægte – eller at et sådant tyveri allerede er sket.