Anthropic og AE Studios GRAM-metode: En «av/på-knapp» for farlig AI-kunnskap

Slik fungerer GRAM arkitektonisk

Treningsfasen

GRAM utvider den standard Transformer-arkitekturen ved å legge til små hjelpemoduler – dedikerte nevroner på hvert lag – som er ment å fange opp spesifikke dual-use-kapabiliteter under trening . Nøkkelmekanismen er gradientruting: under tilbakepropagering styrer vektede masker hvilke parametere som oppdateres for hvilke data .

• Når modellen behandler allmenn tekst, lærer den som normalt, mens hjelpemodulene også kan trene på en måte som holder dem kompatible med resten av modellen .
• Når modellen møter tekst fra en dual-use-kategori som virologi eller cybersikkerhet, leder gradientruting læringssignalet til den korresponderende hjelpemodulen i stedet for å la kunnskapen spre seg til alle modellens parametere .
• Dette konsentrerer kunnskap om hvert måldomene i en dedikert modul i stedet for å spre den utover hele nettverket .

Inferensfasen

Når treningen er fullført, kan individuelle moduler fjernes eller deaktiveres for å redusere tilgangen til en bestemt kapabilitet, eller de kan beholdes for distribusjoner som har lov til å bruke kunnskapen . Fordi hver dual-use-kategori har sin egen modul, kan en enkelt GRAM-trent modell med fire kategorier i teorien konfigureres i 2⁴ = 16 distinkte kapabilitetsprofiler ved å slå hver modul av eller på uavhengig .

Resultater på modeller opptil 5 milliarder parametere

Forskerne testet GRAM i flere ulike settinger og modellstørrelser :

1. Syntetisk datasett: I en kontrollert syntetisk setting ble GRAM brukt til å få en modell til å «glemme» utvalgte emner, og resultatene ble sammenlignet med modeller trent som om disse emnene var filtrert bort fra starten .
2. Reelle dual-use-data: I en mer realistisk setting med nettekst, kode, vitenskapelige artikler og dual-use-domener, reduserte fjerning av en GRAM-modul den tilsvarende kapabiliteten – i praksis en tilnærming til effekten av datafiltrering – samtidig som generell ytelse ble bevart .
3. Skaleringsstudie: GRAM ble testet på modellstørrelser fra 50 millioner til 5 milliarder parametere . Hovedfunn: GRAM fulgte datafiltreringens atferd; større modeller viste tydeligere separasjon mellom modul-på- og modul-av-atferd; og metoden sammenlignet seg gunstig med noen post-trenings «unlearning»-tilnærminger i de testede settingene .

Politisk kontekst: Fra modulære kontroller til reelle eksportforbud

GRAM-forskningen kommer samtidig som et høyprofilt eksempel fra virkeligheten på problemet den forsøker å løse. I juni 2025 innførte Trump-administrasjonen eksportkontroll på Anthropics Claude Fable 5- og Mythos 5-modeller etter bekymringer rundt cybersikkerhet, og blokkerte tilgang for alle utenlandske statsborgere – både i og utenfor USA, inkludert utenlandske Anthropic-ansatte . Forbudet varte i 18 dager før Handelsdepartementet opphevet det etter en nasjonal sikkerhetsgjennomgang .

Denne episoden illustrerer dagens tilstand for AI-tilgangskontroll: en hel modell – med alle dens kapabiliteter – blir behandlet som en udelelig enhet. Hvis en modell har en farlig kapabilitet, er det eneste alternativet i dag å holde tilbake hele systemet. GRAM foreslår et mer finmasket alternativ: i stedet for å låse ned en hel modell, kunne et system tillate eller deaktivere spesifikke kategorier av kunnskap avhengig av distribusjonskonteksten .

Åpne spørsmål og begrensninger

Anthropics forskere understreker at GRAM er foreløpig arbeid og fremhever flere begrensninger :

• Ikke testet i frontlinjen: GRAM har ikke vist seg å fungere i produksjonsmodeller som Claude eller i skalaen til de største frontlinjesystemene .
• Evalueringsomfang: De rapporterte eksperimentene fokuserer på kontrollerte evalueringer; fjerning av reelle kapabiliteter i praksis kan være vanskeligere å måle pålitelig .
• Fundamentalt sammenfiltringsproblem: Noen dual-use-kapabiliteter kan være dypt sammenvevd med generell kunnskap, noe som gjør dem vanskelige å skille rent for enhver lokaliserings- eller filtreringsmetode .
• Realisme i datamerking: GRAM er avhengig av å identifisere og rutere relevante dual-use-data under trening, så pålitelig merking av slike data i stor skala forblir en viktig praktisk utfordring .
• Foreløpige funn: Anthropic presenterer GRAM som en tidlig forskningsretning snarere enn en utplassert sikkerhetsmekanisme – og organisasjonen er ikke sikker på at den noen gang vil bli tatt i bruk .