Zuckerberg vil la hvert KI-selskap bestemme når det må bremse

Mark Zuckerberg sier ikke at KI-utviklingen aldri skal bremses. Skillet han trekker, er mellom at ett selskap setter sitt eget arbeid på vent, og at hele bransjen blir enig om å senke tempoet. I et intervju med NBC News’ Joanna Stern sa Meta-sjefen at ledende KI-selskaper kan bremse eller stanse utviklingen av egne produkter dersom de mener teknologien er utrygg. Han avviser at de trenger en felles ordning for å gjøre det. 10

Sikkerhet som ansvar – og konkurransefortrinn

Ifølge Zuckerberg har hvert KI-selskap ansvar for å utvikle modeller i et tempo det kan gjøre på en trygg måte. Han mener selskapene også har sterke grunner til å ta sikkerheten på alvor: Folk vil nøle med å bruke KI-agenter som ikke gjør det de ber om, og selskapene kan risikere rettslig ansvar dersom systemene deres forårsaker skade. I hans argument blir tillit og evnen til å følge brukerens intensjoner egenskaper selskapene må konkurrere om. 172934

Det er et argument for sikkerhetsbeslutninger i hvert enkelt selskap, ikke for at alle lanseringer bør gå som planlagt. Samtidig forutsetter det at selskapene oppdager problemer og handler før brukerne blir skadelidende. Kommersielle insentiver er ikke i seg selv noen garanti for at det alltid skjer.

Muse er Metas eget eksempel

Zuckerberg viser til at Meta utsatte KI-agenten Muse i flere måneder mens selskapet arbeidet med sikkerhet og beskyttelse av systemet. Poenget hans er at Meta kunne holde tilbake sitt eget produkt uten først å få konkurrentene med på en tilsvarende pause. 1727

Meta har også beskrevet en separat agent, Sentinel, som kontrollerer handlinger og data Muse sender ut på nettet. Ifølge selskapets beskrivelse skal systemet be om brukerens tillatelse når det er nødvendig. Det viser hvilke sikkerhetstiltak Meta sier at det bygger inn, men er ikke i seg selv bevis for at risikoen er fjernet. 30

Uenigheten handler om hvem som setter tempoet

Anthropic-sjef Dario Amodei har tatt til orde for å senke tempoet i utviklingen av de mest avanserte KI-systemene. OpenAI-sjef Sam Altman og Elon Musk har støttet kravet om å bremse. Den 23. september 2026 talte Amodei og Altman til FNs sikkerhetsråd og ba om internasjonalt samarbeid for å håndtere KI-risiko. 146

Kjernen i uenigheten er dermed hvem som bør bestemme når utviklingen skal bremses. Zuckerberg mener hvert selskap kan ta den beslutningen selv, med press fra brukere, konkurranse og mulig erstatningsansvar som drivkrefter. Amodei og Altman argumenterer for samarbeid på tvers av selskaper og land, fremfor å basere seg på separate beslutninger hos konkurrenter. 10174

Advarsler fra forskere har gjort spørsmålet mer presserende. Tidligere Anthropic-forsker Jacob Coxon varslet om mulig katastrofal KI-risiko da han sluttet. Samtidig foreslo han at ledende KI-selskaper kunne regulere seg selv mens den amerikanske Kongressen utarbeidet et mer langsiktig rammeverk for å bremse utviklingen. Hans syn viser at alvorlig bekymring for KI ikke nødvendigvis innebærer krav om en umiddelbar, lik pause for alle. 4237