Amazon: KI må være testet og trygg før den slippes – uten en generell brems

Amazon har plassert seg midt i den skjerpede debatten om sikkerhet rundt kunstig intelligens: Kraftige modeller bør først slippes når de er grundig testet og beskyttet av sterke sikkerhetstiltak. Selskapet mener også at teknologibransjen og myndighetene må samarbeide. Men Amazon støtter ikke en generell, koordinert nedbremsing av KI-utviklingen. 6

Hovedpoenget er at sikkerhet og teknologisk framgang ikke trenger å stå i motsetning til hverandre. Amazon legger dermed opp til en modell der sikkerhet vurderes før lansering, heller enn en modell der selve utviklingstempoet skal bremses når kapasitetene i modellene løper fra sikkerhetsarbeidet.

Amazons terskel: klar for bruk – og trygg

Amazon opplyste til Reuters at modeller skal lanseres når de er «klare og trygge å bruke». Ifølge selskapet krever det grundig testing og sterke sikkerhetstiltak. Det understreket også behovet for felles innsats fra bransjen og myndighetene. 6

Dette er en viktig avgrensning. Amazon ber ikke om stans i treningen av modeller eller brede begrensninger på hvor raskt KI-systemene kan forbedres. Selskapets uttalte terskel gjelder lanseringsklarhet: Systemet skal evalueres, sikres og først deretter tas i bruk når det anses som trygt nok.

Men flere sentrale spørsmål står fortsatt ubesvart: Hvem skal fastsette testkravene? Hva slags dokumentasjon viser at en modell er trygg? Og holder det at utviklerne selv gjennomfører testingen?

Slik skiller Amazon seg fra Anthropic

Dario Amodei, toppsjef i Anthropic, har oppfordret selskapene bak de mest avanserte KI-modellene til å senke farten på kapabilitetsutviklingen, slik at sikkerhetstiltakene får tid til å ta igjen utviklingen. Forslaget hans omfatter uavhengige evaluatorer med dyp tilgang, felles bransjestandarder og internasjonal koordinering. 12

Amodeis linje er derfor mer vidtrekkende enn Amazons. Han mener ikke bare at sikkerhet skal være en portvakt før lansering; han argumenterer for at utviklingstempoet kan måtte reduseres når sikringstiltakene ligger etter framgangen i modellenes evner. Advarslene hans handler om mulige framtidige scenarioer knyttet til misbruk og tap av kontroll. De er argumenter for føre-var-prinsippet, ikke bevis på at en autonom KI-overtakelse allerede har skjedd. 111

Kort oppsummert:

• Amazon: Fortsett utviklingen, men ikke slipp modeller før de har bestått grundige tester og er trygge å bruke. 6
• Anthropic: Sikkerhet må også styre hvor raskt de mest avanserte modellene utvikles, med uavhengig kontroll og koordinerte standarder. 12

Andre teknologiselskaper: støtte i prinsippet, uenighet i praksis

Lederne i OpenAI, Google DeepMind og xAI har offentlig uttrykt støtte til retningen i Amodeis forslag. OpenAI-sjef Sam Altman sa at han ville matche Anthropics forpliktelse til å gi eksterne evaluatorer tilgang på nivå med ansatte for å gjennomgå sikkerhetspraksis. 4

Likevel avgjør ikke støtte til sikkerhetsmålet hvordan en reell nedbremsing kan gjennomføres. Det krever en felles definisjon av farlige kapabiliteter, troverdig kontroll og enighet mellom konkurrenter som opererer under både kommersielt og geopolitisk press. Reuters rapporterte at sentrale KI-ledere fortsatt er uenige om både hvor akutt risikoen er og hva som bør gjøres.

Meta-sjef Mark Zuckerberg har derimot tatt til orde for markedsdrevne sikkerhetstiltak fremfor en koordinert nedbremsing.

Kjernestriden: frivillig testing eller bindende tilsyn?

Amazons posisjon passer godt med virkemidler som evalueringer før lansering, red-teaming – der systemer stresstestes ved at man aktivt leter etter svakheter – sikkerhetskontroller og rapportering av risiko. Dette er allerede anerkjente deler av risikostyring for KI: International AI Safety Report 2026 trekker blant annet fram trusselmodellering, kapabilitetsevalueringer, åpenhetsrapportering og hendelsesrapportering.

Det uavklarte spørsmålet er om slike tiltak skal være frivillige. Forhandlere i det amerikanske Senatet har diskutert lovgivning som kan kreve at KI-selskaper viser at de har tatt «rimelige forholdsregler» mot skade. Ifølge det omtalte forslaget kan handelsministeren få myndighet til å kreve dokumentasjon og sette inn statlige revisorer for å teste selskapenes produkter. 20

Et slikt aktsomhetsregime ville flytte debatten fra selskapenes egne løfter til ekstern kontroll. Det innebærer ikke nødvendigvis en generell pause, men kan gi en uavhengig instans mulighet til å utfordre et selskaps vurdering av at en modell er klar for lansering.

Samarbeid kan også bli et konkurranse- og styringsproblem

En felles sikkerhetsavtale kan gi mer ensartet testing og rapportering, men reiser også spørsmål om hvem som får skrive reglene. Andrew Ferguson, leder for den amerikanske konkurransemyndigheten FTC, sa at folk bør være «dypt skeptiske» når KI-selskaper ber om unntak fra konkurransereglene samtidig som de jobber for ny regulering. Eksperter sa imidlertid til Reuters at dagens konkurranselovgivning kan gi rom for koordinering for å avverge katastrofale risikoer. 17

Cohere-sjef Aidan Gomez har på sin side advart mot at en sikkerhetsordning kontrollert av et lite antall dominerende laboratorier kan befeste deres markedsmakt. Han argumenterer for uavhengig verifiserbare sikkerhetstiltak, åpenhet og bredere deltakelse, fremfor at de største selskapene alene definerer standardene.

Innvendingene avviser ikke nødvendigvis behovet for samordnet sikkerhetsarbeid. De peker på et eget krav til utformingen: Tilsynet må være både troverdig og robust mot at etablerte aktører får uforholdsmessig stor innflytelse på regelverket.

Vanskelig politisk klima i USA

Det politiske klimaet i USA kan gjøre Amazons modell for samarbeid mellom bransje og myndigheter vanskelig å omsette i praksis. Trump-administrasjonen har tatt til orde for en tilbakeholden internasjonal tilnærming til KI-regulering, mens president Donald Trump har hevdet at eksisterende sikkerhetsmekanismer er tilstrekkelige. Administrasjonen har også sagt til KI-utviklere at den ikke vil gjennomføre frivillig sikkerhetstesting av modeller med åpent tilgjengelige modellvekter.

Samtidig har Bill Gates argumentert for at myndigheter ikke er forberedt på KI-drevne samfunnsendringer, og at land må samarbeide internasjonalt om risiko knyttet til blant annet arbeidsliv, avhengighet og cyberangrep. 18

Dette er Amazons budskap

Amazon ber ikke om å bremse KI-utviklingen. Selskapet tar til orde for en strengere terskel før lansering: Ingen modell bør slippes før den er grundig testet og beskyttet av sterke sikkerhetstiltak. 6

Det er mindre inngripende enn Anthropics forslag om å redusere farten på utviklingen av de mest avanserte modellene når sikkerheten ikke holder følge. Men det gjør også hovedspørsmålet mer konkret: Kan selskapene selv på en troverdig måte avgjøre når en modell er trygg nok – eller må uavhengige evaluatorer og offentlige myndigheter kunne kontrollere, utfordre eller stanse lanseringen? 120