GPT-6 Astra: OpenAIs påstander, cyberrisiko og tilgang

OpenAI presenterte 3. september GPT-6 Astra som en modell for krevende arbeid i flere trinn – fra programmering og forskning til bruk av datamaskin og profesjonelle arbeidsflyter. Selskapet omtaler den som sin mest intelligente og best innrettede modell hittil, men slipper den først til et begrenset antall organisasjoner fremfor å åpne for bred tilgang med én gang. 2513

Det mest oppsiktsvekkende ved lanseringen er ikke bare de sterke benchmark-resultatene. OpenAI sier også at Astra er den første modellen deres som når «Critical»-terskelen for cybersikkerhetskapasitet i selskapets Preparedness Framework. Derfor må påstandene om ytelse og den forsiktige utrullingen ses i sammenheng. 1012

Påstanden: mer selvstendig arbeid på tvers av verktøy

Ifølge OpenAI er Astra ledende innen datamaskinbruk, nettsøk, programvareutvikling, cybersikkerhet, vitenskap og profesjonelt arbeid. I utviklerdokumentasjonen beskrives modellen som laget for komplisert resonnering, programmering, bruk av datamaskin, forskning og dokumentproduksjon. 1313

Selskapet trekker særlig fram tre evalueringsresultater:

• 98 % på FrontierMath Tier 4
• 99,9 % på ARC-AGI-3
• 100 % på ExploitBench 13

Dette er resultater fra OpenAIs publiserte evalueringer, ikke uavhengig replikerte målinger. Høye benchmarkskårer kan vise reell framgang på oppgavene som testes, men beviser ikke i seg selv generell intelligens, pålitelig dømmekraft i den virkelige verden eller trygg autonomi i alle situasjoner.

Hvorfor «Critical»-klassifiseringen betyr noe

OpenAI sier at Astra er den første modellen deres som klassifiseres på Critical-nivå for cybersikkerhet under selskapets Preparedness Framework. Slik OpenAI beskriver det, innebærer dette at modellen – med egnede verktøy og tilganger – kan finne tidligere ukjente sikkerhetssvakheter og utvikle nye måter å utnytte dem på i mange godt sikrede systemer, uten at et menneske styrer hvert enkelt steg. 1012

Påstanden har to viktige forbehold:

1. Evnen avhenger av hvilke verktøy og tilganger modellen faktisk får.
2. Klassifiseringen er gjort innenfor OpenAIs eget rammeverk og egen vurderingsprosess.

OpenAI opplyser at selskapet har lagt inn sterkere vern mot skadelige cyberhandlinger, blant annet ekstra overvåking under Astra-utrullingen. 510 Den trinnvise tilgangen er dermed i tråd med risikoen selskapet selv beskriver.

«Best innrettet» er ikke en garanti

OpenAI kaller også Astra sin mest innrettede modell og sier den er bedre til å holde seg innenfor oppgavens rammer og kommunisere åpent. 213

Dette bør leses nøkternt. Når en modell omtales som «innrettet», viser det til resultater fra bestemte treningsmetoder og evalueringer. Det er ingen garanti for at en AI-agent alltid vil forstå brukerens hensikt riktig, respektere alle operative grenser eller være trygg uten menneskelig kontroll. OpenAIs egne lanseringsnotater sier at Astra har ekstra overvåking for å fange opp tilfeller der agenter kan ha tolket instruksjoner feil. 5

For virksomheter som vurderer agentbruk, er derfor det viktigste ikke etiketten «innrettet», men hvilke rettigheter agenten får, hvilke handlinger som krever godkjenning, hvordan aktiviteten loggføres og hvor raskt systemet kan stanses dersom det opptrer uventet.

Benchmarker og overvåking: Hva som kan bekreftes

Det vedlagte materialet omtaler senere forbehold knyttet til enkelte evalueringsresultater, blant annet bekymringer om at benchmark-data kan ha påvirket resultatene, og forskjeller mellom spesielle tilgangskonfigurasjoner og standard tilgang i produksjon. Det beskriver også tester der overvåking som kun bygger på modellens resonneringstekst, var mindre effektiv enn overvåking med mer komplett kontekst.

De oppgitte primærkildeutdragene gir imidlertid ikke en fullstendig, uavhengig etterprøvbar historikk over alle endringer i resultatene eller hele metoden bak overvåkingen. Den forsvarlige konklusjonen er begrenset: Store benchmarktall og sikkerhetsevalueringer bør betraktes som dokumentasjon som kan utvikle seg etter lansering. Den som skal basere en utrulling på et bestemt resultat eller sikkerhetspåstand, bør kontrollere gjeldende modelldokumentasjon og sikkerhetsmateriell. 2310

Hugging Face-hendelsen skjerpet alvoret

Lanseringen kom etter en tidligere hendelse under sikkerhetstesting som involverte OpenAI-modeller og som, ifølge OpenAI, påvirket selskapets sikkerhetsarbeid med Astra. I lanseringsmaterialet understreker OpenAI at Astra ikke var modellen som var involvert, og at erfaringene fra hendelsen er tatt inn i sikkerhetstiltakene. 10

Sammenhengen er viktig fordi autonome systemer kombinerer modellens evner med muligheten til å utføre handlinger gjennom nettlesere, kodeverktøy og annen programvare. Nettopp evnen til å handle på tvers av systemer kan gjøre modellen nyttig – og samtidig øke behovet for isolasjon, minst mulige tilganger og løpende overvåking.

Hvem får tilgang – og hva koster det?

OpenAI sa at Astra i første omgang rulles ut til et begrenset antall organisasjoner, med bredere tilgjengelighet planlagt senere. 513

For utviklere er GPT-6 Astra oppført med en pris på 10 dollar per million inndatatokener og 50 dollar per million utdata-tokener. Modellsiden oppgir også et kontekstvindu på 1,05 millioner tokener og maksimalt 128 000 utdata-tokener. 3

ChatGPT-tilgangen er separat inndelt etter abonnement og rulles ut gradvis. Ifølge OpenAIs hjelpedokumentasjon kommer GPT-6 Pro, drevet av Astra, til Pro 100, Pro 200, Business og Enterprise. Plus-abonnementer får Astra i ChatGPT Work og Codex etter hvert som utrullingen går framover. Tilgjengeligheten kan variere mellom ChatGPT-produkter og arbeidsområdeinnstillinger. 6

Det viktigste å ta med seg

Lanseringen av GPT-6 Astra rommer to budskap som ikke bør skilles: OpenAI hevder et stort sprang i komplisert, agentbasert arbeid, samtidig som selskapet plasserer modellens cyberkapasitet på sitt høyeste oppgitte risikonivå. 1013

Benchmarkene er dokumentasjon på hva OpenAI sier Astra kan gjøre i selskapets egne evalueringer. Den trinnvise tilgangen, den ekstra overvåkingen og begrensningene rundt cyberbruk viser samtidig at OpenAI ikke behandler disse evnene som rutinemessige. For team som vurderer modellen, bør prioriteten være kontrollert bruk: snevert avgrensede verktøy, tydelige godkjenningspunkter før viktige handlinger, isolerte miljøer og logger som kan gjennomgås. Benchmarkytelse bør ikke automatisk forveksles med pålitelig autonomi.