Zuckerberg afviser fælles opbremsning af AI

Mark Zuckerberg er ikke imod at sætte AI-udvikling på pause. Han er imod, at virksomhederne skal aftale at gøre det samtidig. I et interview med NBC News’ Joanna Stern sagde Meta-chefen, at førende AI-laboratorier selv kan bremse eller standse arbejdet med deres produkter, hvis de vurderer, at teknologien er usikker. 10

Hvorfor han vil lade virksomhederne bestemme selv

Ifølge Zuckerberg har hvert laboratorium ansvar for at udvikle sine modeller i et tempo, hvor det kan ske sikkert. Han mener også, at virksomhederne har økonomiske og juridiske grunde til at tage sikkerheden alvorligt: Brugere vil næppe vælge AI-agenter, der ikke gør, hvad de beder om, og virksomheder kan risikere at blive stillet til ansvar, hvis deres systemer gør skade. I hans optik gør konkurrencen derfor brugernes tillid til en fordel – ikke til en grund til, at alle udviklere skal bremse på én gang. 172934

Det er et argument for sikkerhedsbeslutninger i den enkelte virksomhed, ikke for at lancere produkter uanset risikoen. Argumentet forudsætter dog, at virksomhederne opdager problemer og reagerer, før brugerne bliver ramt. Økonomiske incitamenter er ikke i sig selv en garanti for, at det altid sker.

Muse er Metas eksempel

Zuckerberg fremhæver, at Meta udsatte sin AI-agent Muse i flere måneder for at arbejde med sikkerhed og beskyttelse. Pointen er, at Meta kunne tilbageholde sit eget produkt uden først at få konkurrenterne til at gøre det samme. 1727

Meta har desuden beskrevet en separat agent, Sentinel, som skal kontrollere Muse’s udgående handlinger og data og indhente brugerens tilladelse, når det er nødvendigt. Det viser, hvilke sikkerhedsforanstaltninger Meta siger, at virksomheden bygger ind i systemet. Beskrivelsen beviser ikke i sig selv, at risikoen er fjernet. 30

Uenigheden handler om, hvem der sætter tempoet

Anthropics direktør Dario Amodei har opfordret til at bremse udviklingen af de mest avancerede AI-systemer. OpenAI’s direktør Sam Altman og Elon Musk har støttet hans opfordring. Den 23. september talte Amodei og Altman til FN’s Sikkerhedsråd og efterlyste international koordinering om AI-risici. 146

Skillelinjen er altså ikke, om sikkerhed betyder noget, men hvem der skal fastlægge tempoet: de enkelte konkurrerende laboratorier eller aktører, der samarbejder på tværs af virksomheder og lande. 10174

Bekymringen for AI-risici fører heller ikke nødvendigvis til et krav om en øjeblikkelig, fælles pause. Den tidligere Anthropic-forsker Jacob Coxon advarede efter sin afgang om potentielt katastrofale risici, men foreslog samtidig, at de førende laboratorier skulle regulere sig selv, mens den amerikanske Kongres udarbejder en mere langsigtet ramme for at bremse udviklingen. 4237