Andrew Ng kalder frygt for AI-udryddelse “science fiction” og vil fokusere på konkrete risici

Andrew Ngs hovedpointe er ikke, at AI er ufarlig. Hans pointe er, at påstande om en nært forestående menneskelig udryddelse er for spekulative til at være det styrende princip for AI-politik. I et interview på Bloomberg TV den 17. september kaldte medstifteren af Google Brain advarslerne “langt mere science fiction end videnskab”. AI-sikkerhed bør i stedet behandles som en ingeniøropgave: Systemerne skal testes, forsynes med sikkerhedsværn og forbedres løbende. 2

Ng: Uforudsigelighed er ikke et argument for at stoppe

Ng sagde, at AI-systemer aldrig bliver fuldstændig forudsigelige. Men det er efter hans opfattelse ikke ensbetydende med, at samfundet bør sætte AI-udviklingen på pause. Test, sikkerhedsværn og ingeniørarbejde kan gøre systemerne mere sikre over tid, lød argumentet. Han advarede også om, at en bred opbremsning af udviklingen i sig selv kan bremse fremskridt inden for sikkerhed. 2

Dermed står han i kontrast til dem, der mener, at stadig stærkere systemer snart kan blive umulige at kontrollere. For Ng bør sikkerhedsarbejdet begynde med fejl og skader, som faktisk kan observeres og håndteres – ikke med hypotetiske udryddelsesscenarier.

Hvorfor han afviser dommedagsfortællingen

Ifølge Ng kan advarsler om eksistentiel AI-risiko gøre det sværere at indfri teknologiens samfundsmæssige potentiale. Han sagde også, at techbranchen tidligere i AI-boomet havde pustet til frygten for katastrofale AI-skader, tilsyneladende for at skabe opmærksomhed og påvirke reguleringen. 1

Det er derfor også en debat om incitamenter. Dramatiske advarsler skaffer opmærksomhed, mens udformningen af regulering afgør, hvem der ender med omkostningerne ved at efterleve den. Ng sagde ikke, at sikkerhedsarbejdet skal ophøre; han afviste at behandle udryddelsespåstande som fastslået videnskab eller som begrundelse for en omfattende pause.

De risici, Ng vil prioritere

Ngs alternativ er praktisk risikoreduktion. Omtalen af interviewet fremhævede cybersikkerhed og andre konkrete beskyttelsesforanstaltninger som prioriteter. 5

I praksis peger hans tilgang på:

• Grundig testning før og under udrulning.
• Sikkerhedsværn og begrænsninger, der reducerer kendte fejltilstande.
• Løbende ingeniørarbejde, så pålideligheden forbedres, når nye problemer opdages.
• Fokus på forudsigelige skader, herunder cybersikkerhedsrisici, frem for at lade udryddelsesscenarier dominere politikken. 25

Tilgangen lover ikke perfekt kontrol. Den bygger i stedet på, at nyttig teknologi kan gøres tilstrækkeligt driftssikker gennem den samme løbende cyklus af evaluering og forbedring, som bruges i andre ingeniørdiscipliner.

Her går skillelinjen i AI-debatten

Flere fremtrædende AI-profiler er enige i, at sikkerhed kræver større opmærksomhed, men drager en langt mere vidtgående konklusion om tempoet i udviklingen af de mest avancerede modeller.

Jacob Coxon: langt højere vurdering af faren

Den tidligere Anthropic- og OpenAI-forsker Jacob Coxon forlod Anthropic og advarede om, at hurtig udvikling mod selvforbedrende systemer kan blive katastrofal. Han sagde, at en opbremsning var nødvendig, og hilste senere Anthropics forslag om at styre tempoet velkommen. 3343

Dario Amodei: Sænk tempoet for at skabe tid til værn

Anthropics topchef Dario Amodei opfordrede virksomheder til at sænke hastigheden, hvormed de forbedrer AI-modellernes evner. Målet er at skabe tid til at håndtere risiciene, blandt andet gennem en model med uafhængige evaluatorer. 18

Sam Altman: Støtte til at styre tempoet i frontlinjen

OpenAI-chefen Sam Altman støttede grundtanken i Amodeis forslag. Han forpligtede OpenAI til ét af de foreslåede sikkerhedstiltag: eksterne evaluatorer med reel adgang til at vurdere virksomhedens sikkerhedspraksis. 1924

Geoffrey Hinton: Frygt for at miste kontrollen

Geoffrey Hinton har sagt, at der er en “betydelig risiko” for, at AI kan slippe ud af menneskelig kontrol. Han støtter en opbremsning og tiltag som test før lancering, og mener, at regeringer har reageret for langsomt. 20

Uenigheden handler altså både om sandsynlighed og politik. Coxon, Amodei, Altman og Hinton ser risikoen for kontroltab som plausibel nok til at retfærdiggøre et bevidst lavere tempo for de mest avancerede systemer. Ng mener derimod, at udryddelsespåstandene er for svagt funderet, og at sikkerhedsindsatsen skal rettes mod konkrete problemer, der kan løses. 21820

Samme konklusion om opbremsning – forskellige begrundelser

At Ng modsætter sig en bred opbremsning betyder ikke, at han deler alle argumenter fra politikere og erhvervsledere, der også er imod den.

• Jensen Huang: Nvidias topchef sagde, at branchen ikke har brug for nye love eller regler. 53
• Mark Zuckerberg: Metas topchef mente, at en brancheomfattende opbremsning er unødvendig, fordi konkurrence og markedsincitamenter vil få virksomheder til at gøre modellerne sikre. 55
• Præsident Donald Trump: Trump afviste frygt for løbsk AI som et “hoax” og sagde, at USA allerede har værktøjer til at regulere og retsforfølge AI-virksomheder. 4950
• Kinesiske myndigheder: En talsperson for Kinas udenrigsministerium afviste opfordringer til at bremse udviklingen af avanceret AI. 52

Positionerne ender samme sted, når det gælder en bred pause, men begrundelserne er forskellige. Ngs argument er først og fremmest teknisk: Målbare skader skal håndteres med bedre kontrolmekanismer. Huang, Zuckerberg, Trump og kinesiske myndigheder har i varierende grad fremhævet modstand mod nye begrænsninger, markedsincitamenter eller konkurrence og national strategi. 250525355

Et smalt fælles punkt: Cyberrisiko

Debatten kan ikke reduceres til dem, der går op i sikkerhed, og dem, der ikke gør. Cohere-chefen Aidan Gomez sagde eksempelvis, at AI-modeller er blevet stærke cybervåben, fordi de kan finde og udnytte sårbarheder i stor skala. 62 Det ligger tættere på Ngs ønske om at håndtere konkrete cybersikkerhedsrisici, selv om den tilgængelige rapportering ikke fastslår Gomez' samlede syn på en brancheomfattende opbremsning eller international AI-styring.

De tilgængelige kilder giver heller ikke tilstrækkeligt grundlag for at beskrive investor Steve Eismans holdning på tværs af spørgsmål om opbremsning, sikkerhedsforskning, regulering og international styring.

Bundlinjen

Ng flytter fokus i AI-sikkerhedsdebatten. Spørgsmålet er ikke, om AI skal gøres mere sikker, men om spekulative scenarier om menneskehedens undergang skal styre dagsordenen. Hans svar er nej: Prioritér test, sikkerhedsværn og ingeniørarbejde mod aktuelle, identificerbare skader – og undgå en generel opbremsning, som han mener kan hæmme både innovation og sikkerhedsfremskridt. 12