Khanna wil weten hoe AI-bedrijven hun meest waardevolle modellen beveiligen

Ro Khanna wil van OpenAI, Anthropic, Google, Meta en SpaceX weten of China of andere vijandige actoren hebben geprobeerd hun AI-modelgewichten zonder toestemming te bemachtigen. Ook vraagt hij de bedrijven welke digitale beveiligingsmaatregelen ze daartegen nemen.713

Achter die vragen zit de zorg dat gestolen gewichten een aanvaller veel directer toegang kunnen geven tot een krachtig AI-model. Dat zou volgens Khanna de Amerikaanse voorsprong op AI kunnen aantasten en risico’s voor de nationale veiligheid opleveren. Zijn verzoek is wel een onderzoeksvraag: het is geen bewering dat een van de vijf bedrijven daadwerkelijk modelgewichten is kwijtgeraakt.4613

Diefstal van gewichten is niet hetzelfde als distillatie

Modelgewichten zijn de numerieke parameters die tijdens het trainen worden aangeleerd en die mede bepalen hoe een model werkt. Wie die parameters in handen krijgt, kan mogelijk een kopie van het model draaien. Bij distillatie haalt een ontwikkelaar daarentegen antwoorden op bij een bestaand model en gebruikt die uitvoer om een ander model te trainen.6717

Amerikaanse functionarissen hebben Chinese bedrijven beschuldigd van distillatie. Ook OpenAI en Anthropic hebben zulke activiteiten gemeld. Dat is iets anders dan rechtstreeks de gewichten stelen: volgens berichtgeving zijn er tot nu toe weinig bekende gevallen van daadwerkelijke diefstal van modelgewichten.617

Beveiliging, concurrentie en gedeelde risico’s

Voor Khanna staat er meer op het spel dan bedrijfsgeheimen. Als een concurrent of vijandige actor toegang krijgt tot de gewichten, kan dat de Amerikaanse positie in de AI-wedloop verzwakken. Tegelijkertijd pleit Khanna voor afspraken tussen de VS en China over AI-veiligheid, met waarborgen en controlemechanismen. Analisten waarschuwen dat oplopende beschuldigingen over het kopiëren van technologie zo’n dialoog juist kunnen bemoeilijken.451418

Dat spanningsveld maakt de kwestie politiek gevoelig: landen willen hun eigen technologie beschermen, maar moeten ook nadenken over gezamenlijke veiligheidsrisico’s. Khanna heeft onder meer gepleit voor samenwerking rond veiligheidsnormen en toezicht.25

Vrijwillige regels of steviger toezicht?

De regering-Trump heeft voorgesteld dat bedrijven bepaalde geavanceerde modellen vrijwillig aan de overheid voorleggen voor cyberveiligheidstests voordat ze die vrijgeven. Daarnaast hebben techbedrijven zich verbonden aan vormen van zelfregulering. Khanna’s vragen leggen juist de nadruk op wat bedrijven zelf doen om hun systemen te beveiligen. Hij heeft ook kritiek geuit op het idee dat bedrijven de regels voor AI-veiligheid grotendeels zelf bepalen.

De twee benaderingen zijn niet hetzelfde: vrijwillige tests door de overheid zijn iets anders dan interne controles door bedrijven. De beschikbare berichtgeving laat niet zien of zulke tests diefstal van modelgewichten zouden voorkomen. Evenmin blijkt daaruit dat de gewichten van een van de vijf bedrijven zijn gestolen.713