Zuckerberg vill låta varje AI-bolag avgöra när det ska bromsa

Mark Zuckerberg är inte emot att bromsa AI-utveckling när säkerheten kräver det. Det han säger nej till är att företagen ska enas om att sakta ned tillsammans. I en intervju med NBC News teknikjournalist Joanna Stern sade Meta-chefen att ledande AI-labb kan pausa sina egna produkter om de bedömer dem som osäkra. 10

Varför vill han låta bolagen bestämma själva?

Zuckerbergs resonemang är att varje labb både ansvarar för och kan anpassa takten så att modellerna tränas säkert. Han pekar också på affärsmässiga drivkrafter: användare lär inte vilja ha AI-agenter som inte gör det de ber om, och bolag kan bli rättsligt ansvariga om deras system orsakar skada. Enligt honom gör det tillit och förmågan att följa användarens avsikter till konkurrensfördelar. 172934

Det är ett argument för säkerhetsbeslut inom varje företag, inte för att alla lanseringar ska fortsätta enligt plan. Men resonemanget förutsätter också att bolagen upptäcker problem och agerar innan användare skadas. Kommersiella incitament är ingen garanti för att det alltid sker.

Muse: Metas eget exempel

Zuckerberg lyfter fram att Meta sköt upp sin AI-agent Muse i flera månader medan bolaget arbetade med säkerhet och skydd. Enligt honom visar det att ett företag kan hålla tillbaka en produkt utan att först få konkurrenterna att göra samma sak. 1727

Meta har också beskrivit en separat agent, Sentinel, som granskar Muse när den skickar åtgärder eller data ut på nätet och vars system ska begära användarens tillstånd när det behövs. Det visar vilken sorts skydd Meta säger sig bygga in – inte att riskerna därmed är undanröjda. 30

Skiljelinjen: egna beslut eller samordning

Anthropics vd Dario Amodei har förespråkat en långsammare utveckling av de mest avancerade AI-systemen, en linje som fått stöd av OpenAI:s vd Sam Altman och Elon Musk. Den 23 september 2026 talade Amodei och Altman inför FN:s säkerhetsråd och efterlyste internationellt samarbete för att hantera AI-risker. 146

Kärnfrågan är alltså vem som ska bestämma takten. Zuckerberg vill att enskilda labb ska fatta säkerhetsbeslut, med konkurrens och risken för rättsligt ansvar som pådrivande krafter. Amodei och Altman betonar samarbete mellan företag och länder i stället för att förlita sig på konkurrenternas separata beslut. 10174

Debatten rymmer fler nyanser än ett enkelt ja eller nej till att bromsa. Den tidigare Anthropic-forskaren Jacob Coxon varnade efter sin avgång för katastrofala AI-risker, men föreslog samtidigt att ledande labb skulle få reglera sig själva medan den amerikanska kongressen arbetar fram ett mer långsiktigt ramverk för att sakta ned utvecklingen. 4237