Amazon: testa AI-modeller före lansering, men sakta inte ned utvecklingen

Amazon har placerat sig mitt i den växande debatten om AI-säkerhet. Bolaget vill att kraftfulla modeller bara ska släppas när de är ordentligt testade och säkra att använda, med starka skyddsåtgärder och samarbete mellan bransch och myndigheter. Däremot stöder Amazon inte en bred, samordnad nedväxling av AI-utvecklingen. 6

Det är en viktig gränsdragning. Amazon säger i praktiken att lanseringen ska stoppas tills kraven är uppfyllda – inte att forskningen eller förbättringen av modeller generellt ska gå långsammare.

Amazons linje: säker lansering, fortsatt utveckling

En talesperson för Amazon sade till Reuters att modeller bör släppas först när de är redo och säkra att använda. Det kräver rigorösa tester och starka skyddsåtgärder, enligt bolaget. 6

Amazon framställer alltså inte säkerhet och tekniska framsteg som motsatser. Företagets modell är att utvärdera system, bygga in skydd och först därefter ta dem i bruk.

Men flera centrala frågor kvarstår: Vem avgör vilka tester som räcker? Vilka bevis krävs för att kalla en modell säker? Och är det tillräckligt att utvecklarna själva ansvarar för granskningen?

Så skiljer sig Amazon från Anthropic

Anthropics vd Dario Amodei har argumenterat för att företag som utvecklar de mest avancerade AI-modellerna bör sänka takten i kapacitetsutvecklingen när säkerhetsarbetet inte hinner med. Hans förslag omfattar oberoende granskare med långtgående insyn, branschgemensamma standarder och internationell samordning. 12

Amodeis hållning är därmed mer långtgående än Amazons. Han vill inte bara ha en säkerhetsspärr före lansering, utan även att utvecklingstakten anpassas om skydden släpar efter modellernas förmåga.

Hans varningar handlar om möjliga framtida scenarier för missbruk och förlorad kontroll. De är argument för försiktighet, inte belägg för att ett autonomt AI-övertagande redan har inträffat. 111

Skillnaden kan sammanfattas så här:

• Amazon: Fortsätt utveckla, men släpp inte modeller innan de har testats rigoröst och bedömts vara säkra att använda. 6
• Anthropic: Låt även hastigheten i utvecklingen begränsas när säkerhetsåtgärderna inte håller jämna steg, med oberoende tillsyn och samordnade standarder. 12

Stöd för målet – men oenighet om metoden

Ledare för OpenAI, Google DeepMind och xAI har offentligt uttryckt stöd för riktningen i Amodeis förslag. OpenAI:s Sam Altman sade att han skulle matcha Anthropics åtagande att låta externa granskare få insyn på medarbetarnivå för att kontrollera säkerhetsrutiner. 4

Att bolagen delar ambitionen om säkrare AI betyder dock inte att de är överens om hur en verklig inbromsning skulle fungera. Det skulle kräva en gemensam definition av farliga förmågor, tillförlitliga sätt att verifiera efterlevnad och en överenskommelse mellan konkurrenter som verkar under både kommersiell och geopolitisk press. Reuters rapporterade att AI-ledare fortfarande är splittrade både om riskernas allvar och om rätt motåtgärd.

Meta-chefen Mark Zuckerberg har i stället förespråkat marknadsdrivna skyddsåtgärder framför en samordnad inbromsning.

Den stora konfliktfrågan: frivilliga tester eller extern tillsyn?

Amazons hållning passar väl ihop med åtgärder som tester före lansering, red-teaming – där systemets svagheter aktivt försöker hittas – säkerhetskontroller och riskrapportering. Sådana metoder lyfts i 2026 års International AI Safety Report, som bland annat pekar ut hotmodellering, kapacitetsutvärderingar, transparensredovisning och incidentrapportering som relevanta verktyg.

Det olösta problemet är om detta ska vara frivilligt. Förhandlare i USA:s senat har diskuterat lagstiftning som skulle kräva att AI-företag visar att de vidtar ”rimliga försiktighetsåtgärder” för att förhindra skada. Enligt uppgifterna skulle USA:s handelsminister kunna kräva bevis och låta statliga revisorer testa företagens produkter. 20

En sådan omsorgsplikt skulle inte nödvändigtvis innebära ett generellt stopp. Men den skulle flytta makt från företagens egna utfästelser till en extern instans som kan granska, ifrågasätta eller i praktiken stoppa en lansering.

Samarbete kan också skapa nya maktproblem

Gemensamma säkerhetsregler kan göra tester och rapportering mer enhetliga. Samtidigt väcker de frågor om vem som får skriva reglerna. Ordföranden för USA:s konkurrensmyndighet FTC, Andrew Ferguson, sade att allmänheten bör vara ”djupt misstänksam” när AI-bolag söker undantag från konkurrensregler samtidigt som de lobbar för ny reglering. Experter sade dock till Reuters att nuvarande konkurrenslagstiftning kan tillåta samordning för att avvärja katastrofrisker. 17

Cohere-chefen Aidan Gomez har på liknande sätt varnat för att ett säkerhetsarrangemang som styrs av ett fåtal dominerande laboratorier kan befästa deras marknadsposition. Han efterlyser oberoende verifierbara skydd, transparens och bredare deltagande i stället för att ledande bolag ensamma sätter standarden.

Invändningarna kullkastar inte argumenten för samarbete om säkerhet. Men de visar att tillsynen både måste vara trovärdig och utformad så att den inte fångas av de största aktörernas intressen.

Ett politiskt svårt läge i USA

Den amerikanska politiska miljön kan göra Amazons idé om samarbete mellan bransch och myndigheter svår att omsätta. Trumpadministrationen har drivit en återhållsam internationell linje för AI-reglering, medan president Donald Trump har sagt att befintliga skyddsräcken är tillräckliga.

Administrationen har också meddelat AI-utvecklare att den inte kommer att låta öppna modeller – modeller med offentligt tillgängliga centrala komponenter – genomgå frivilliga säkerhetstester.

Samtidigt har Bill Gates sagt att världens regeringar inte är förberedda på AI-drivna samhällsförändringar och bör samarbeta internationellt kring risker som påverkan på jobb, beroendeproblematik och cyberattacker. 18

Slutsats

Amazon kräver inte att AI-utvecklingen ska bromsas. Bolaget vill i stället höja tröskeln för när en modell får lanseras: ingen lansering förrän modellen är rigoröst testad och skyddad av starka säkerhetsåtgärder. 6

Det är mindre restriktivt än Anthropics krav på att bromsa utvecklingen av de mest avancerade förmågorna när säkerhetsarbetet inte räcker till. Men båda positionerna leder till samma avgörande fråga: Kan företagen själva trovärdigt avgöra när en AI-modell är redo – eller måste oberoende granskare och offentliga myndigheter kunna kontrollera, utmana eller stoppa besluten? 120