OpenAI vil åbne topmodeller for tidligere, uafhængige sikkerhedstjek

OpenAI vil lade uafhængige organisationer gennemføre tekniske sikkerhedsvurderinger af såkaldte frontier-modeller – de mest avancerede AI-modeller – tidligere i udviklingsforløbet. Tanken er, at eksterne vurderere skal have dyb adgang under træning, evaluering og udrulning, frem for først at teste modellen tæt på en lancering. 5

Formålet er at give udenforstående mulighed for at efterprøve selskabets sikkerhedspåstande, finde blinde vinkler og undersøge, om de foreslåede sikkerhedsforanstaltninger faktisk virker. Det er en udvidelse af den mere velkendte model med red-teaming før udgivelse – altså målrettede forsøg på at få systemet til at fejle.

Men der er en væsentlig begrænsning: Den offentliggjorte ramme er frivillig. Den er ikke et krav om ekstern godkendelse, og den indebærer ikke i sig selv, at en modeludrulning skal standses, hvis vurderere finder en alvorlig risiko.

Hvad de eksterne vurderinger skal dække

OpenAI beskriver tredjepartsvurderinger som en måde at teste dokumentationen bag påstande om modelkapaciteter, risici og sikkerhedsforanstaltninger. Selskabet siger, at vurderingerne skal kunne ske med dyb adgang på tværs af træning, evaluering og udrulning. 5

Ifølge omtalen af rammen er et centralt punkt en uafhængig vurdering af AI-laboratoriets samlede safety case – altså det bevisgrundlag, laboratoriet bruger for at argumentere for, at modellen kan bruges forsvarligt. Det omfatter træning, intern brug og ekstern lancering. Rammen beskriver fire vurderingsområder og syv principper for arbejdet. Laboratorier får tid til at afhjælpe fund før offentliggørelse og kan anmode om redigeringer af følsomme oplysninger. 2

Tidlig adgang kan være afgørende: En fejl fundet helt til sidst i udviklingen kan være vanskelig at rette, når både tekniske valg og forretningsplaner allerede er låst fast. Omvendt rejser adgang til modeller under udvikling et sikkerhedsspørgsmål i sig selv, fordi testmateriale, modelvægte og nye kapaciteter kan være følsomme.

OpenAI's fire krav til troværdige vurderinger

OpenAI fremhæver fire hovedbetingelser: stærke mekanismer for uafhængighed, videnskabelig stringens, robust sikkerhedspraksis og klare ansvarsforhold. 5

Uafhængighed

En vurdering er ikke reelt uafhængig, hvis udvikleren kan styre metoden, begrænse adgangen efter et ubelejligt resultat eller afbryde finansieringen, fordi konklusionen er uønsket. Uafhængighed handler derfor ikke kun om, at evaluatoren formelt er en ekstern organisation; den handler også om styring, finansiering, opgaveomfang og retten til at kommunikere resultater.

En koalition af evaluatorer har tilsvarende efterlyst reel institutionel uafhængighed: De vurderende organisationer bør ikke kontrolleres af de virksomheder, de undersøger, og de bør kunne offentliggøre hovedresultater med kun snævert afgrænsede redigeringer. 1734

Videnskabelig stringens

Vurderingerne kræver kvalificerede eksperter, holdbare metoder og dokumentation, som kan granskes eller gentages. Future of Life Institute har blandt andet argumenteret for stærkere metode og mere uafhængighed frem for fragmenterede enkeltvurderinger med svag validitet. 812

Sikkerhed

At give eksterne aktører tidligere adgang til avancerede modeller kan også skabe nye risici. OpenAI understreger, at laboratorier skal muliggøre meningsfuld kontrol, samtidig med at følsomme oplysninger beskyttes. 5 Sikkerhedskrav bør begrænse unødig eksponering, men ikke blive en generel begrundelse for at afskære granskning eller skjule væsentlige fund.

Klart ansvar og ansvarlighed

En troværdig proces skal gøre det klart, hvem der giver adgang, vælger metoder, modtager fundene og afgør, om sikkerhedsforanstaltningerne er tilstrækkelige. Den skal også fastlægge, hvad der sker, hvis en alvorlig risiko ikke er løst. Uden tydelige rapporterings- og eskaleringsveje kan en evaluering ende som et råd, som ledelsen kan vælge at ignorere.

Ikke en løsning på alignment eller selvforbedrende AI

Tredjepartsvurderinger er en form for kontrolmekanisme – ikke en teknisk løsning på AI-alignment, altså problemet med at sikre, at avancerede systemer handler i overensstemmelse med menneskelige mål og begrænsninger.

I et separat politisk udspil har OpenAI foreslået, at udviklere af frontier-AI vurderer og mindsker risici knyttet til cyberkapaciteter, CBRN-risici (kemiske, biologiske, radiologiske og nukleare), tab af kontrol, fejljustering og fremskridt mod rekursiv selvforbedring, ofte forkortet RSI. RSI dækker idéen om AI-systemer, der kan forbedre deres egne evner i gentagne cyklusser. OpenAI efterlyser også offentlige sikkerhedsrammer og gennemsigtighedsrapporter, med redigeringer af hensyn til sikkerhed og forretningshemmeligheder. 7

Eksterne vurderere kan i den sammenhæng hjælpe med at efterprøve, om et selskabs evalueringer og sikkerhedsforanstaltninger er overbevisende. Men de kan ikke i sig selv løse problemer som tab af kontrol, alignment eller RSI-relaterede risici.

OpenAI og Anthropic: Tidlig adgang mod indlejrede evaluatorer

Anthropics direktør, Dario Amodei, har argumenteret for en mere løbende model. Her får tredjepartsvurderere vedvarende, medarbejderlignende adgang inde i de virksomheder, der udvikler frontier-AI. De skal ikke kun se færdige modeller, men også kunne undersøge træningsforløb, udrulningspraksis, interne sikkerhedsprocedurer og alvorlige sikkerhedshændelser. 1821

Anthropic har annonceret en ordning, hvor medarbejdere fra Accenture bliver indlejret i virksomheden for at granske modeller og praksis. Selskabet har samtidig sagt, at der endnu ikke findes fastlagte standarder for evaluatorers adgang og kommunikation. 1922

OpenAI's nye ramme overlapper med målet om tidligere og dybere kontrol. Den offentlige beskrivelse fokuserer dog på tekniske vurderinger gennem udviklingens faser. Om den i praksis giver den vedvarende adgang, som følger med en indlejret evalueringsmodel, er endnu ikke fuldt beskrevet. 5

Fælles standarder kan hjælpe – men løser ikke alt

Der har været rapporter om, at Anthropic, OpenAI og Google DeepMind drøfter et fælles, frivilligt organ for AI-sikkerhedsstandarder. 20 Fælles standarder kan gøre det lettere at sammenligne testmetoder, definere risikotærskler og opstille ensartede forventninger til rapportering af hændelser.

Men et standardorgan fjerner ikke automatisk interessekonflikter og skaber ikke i sig selv håndhævelse. Frivillige standarder står stærkest, når de kombineres med gennemsigtige målinger, uafhængig verifikation og reelle konsekvenser ved manglende efterlevelse.

Derfor er kritikerne skeptiske

Kritikken handler ikke nødvendigvis om, hvorvidt ekstern testning er nyttig. Den handler om, hvorvidt et arrangement, der i sidste ende styres af AI-virksomheden selv, kan blive til ægte tilsyn.

Bekymringerne er konkrete:

• Finansiering og institutionel uafhængighed: Evaluatorer skal være beskyttet mod økonomisk pres og mod at miste opgaven efter kritiske konklusioner. 1734
• Rettidig og tilstrækkelig adgang: Testerne skal kunne se de relevante modeller, systemer og udviklingsbeslutninger tidligt nok til faktisk at påvirke resultatet.
• Frihed til at formidle fund: Sikkerhedsredigeringer kan være rimelige, men de bør være snævre og reguleret af regler, som ikke giver virksomheder mulighed for at skjule kernen i et negativt fund. 217
• Eskalering og konsekvenser: En vurdering skal kunne nå frem til de ansvarlige beslutningstagere, og der skal være en fastlagt reaktion, når en risiko passerer en tærskel.

Den tidligere OpenAI-forsker Daniel Kokotajlo har kritiseret førende AI-laboratorier for at bevæge sig hurtigt for at vinde markedsandele. 3640 Hans og andres pointe er strukturel: Hvis virksomhederne ensidigt bevarer kontrollen over adgang, offentliggørelse og den endelige beslutning om udrulning, kan tredjepartsgranskning forbedre dokumentationen – uden at blive et uafhængigt tilsyn.

Bundlinjen

OpenAI's forslag flytter sikkerhedsvurderinger frem til et tidspunkt, hvor fund i princippet kan forme både træning og udrulning. De fire erklærede principper – uafhængighed, stringens, sikkerhed og klart ansvar – er fornuftige målestokke. 5

Den reelle test er, om de bliver omsat til bindende arbejdsvilkår: stabil adgang for evaluatorer, metodefrihed, beskyttet rapportering, gennemsigtig håndtering af redigeringer og en troværdig proces for at reagere på alvorlige fund. Uden sådanne værn kan tidlige eksterne vurderinger være værdifuld red-teaming, men stadig falde kort af det uafhængige tilsyn, kritikerne efterlyser.