Waarom Ro Khanna wil weten hoe AI-bedrijven hun modelgewichten beschermen

De Amerikaanse afgevaardigde Ro Khanna wil van grote AI-bedrijven weten of China of andere vijandige partijen hebben geprobeerd hun modelgewichten illegaal te bemachtigen — en hoe de bedrijven die gevoelige onderdelen beveiligen. Het gaat hem dus niet alleen om de vraag of concurrenten AI kunnen nabootsen. Hij wil weten of de technologie achter de modellen zelf kan worden buitgemaakt.3

Dat maakt de kwestie ook een vraag over nationale veiligheid. Modelgewichten zijn de geleerde parameters die het gedrag van een AI-model mede bepalen. In een eerdere ondervraging maakte Khanna onderscheid tussen het kopiëren van modeluitvoer en het beschermen van die gewichten.

Diefstal is iets anders dan distillatie

Bij diefstal van modelgewichten krijgt een aanvaller de onderliggende parameters van het model in handen. Dat verschilt van distillatie: daarbij gebruikt een ontwikkelaar antwoorden van een bestaand model om een ander model te trainen. Het resultaat is een apart model; de oorspronkelijke gewichten worden daarmee niet automatisch overgenomen.10

OpenAI en Anthropic hebben gevallen van distillatie door Chinese AI-bedrijven gemeld. Dat is op zichzelf geen bewijs dat die bedrijven ook de gewichten van de Amerikaanse modellen hebben gestolen. Volgens berichtgeving zijn er maar weinig bekende gevallen waarin een kwaadwillende partij daadwerkelijk modelgewichten heeft buitgemaakt.310

Khanna’s vraag is daarom gericht op een risico dat niet hetzelfde is als het nabootsen van een model via zijn antwoorden. De beschikbare informatie stelt niet vast dat China de gewichten heeft gestolen van een van de bedrijven waarnaar wordt gevraagd.310

Van bedrijfsbeveiliging naar overheidstoezicht

Achter de informatieverzoeken schuilt een groter beleidsverschil. President Trumps regering heeft ingezet op vrijwillige afspraken met de sector. In een vrijwillig akkoord spraken grote AI-ontwikkelaars onder meer over interne controles en samenwerking met onafhankelijke auditors.9 De regering liet ook weten open-weightsmodellen niet via een vrijwillige regeling op veiligheid te testen.

Khanna bepleit een steviger rol voor de overheid: verplichte audits, sterker toezicht en een bindende, controleerbare overeenkomst tussen de VS en China over AI-veiligheid. Hij heeft ook aangedrongen op internationale inspecties en afspraken om risico’s van geavanceerde AI te beheersen.2

Zijn vragen aan de bedrijven komen daarmee neer op een praktische toets: welke beveiliging is er, zijn er pogingen tot ongeoorloofde toegang bekend en zijn vrijwillige bedrijfsmaatregelen voldoende? De beschikbare informatie geeft geen uitsluitsel over de specifieke beveiligingsmaatregelen van de bedrijven of over niet-openbare inbraakpogingen.