Andrew Ng afviser AI-dommedag: „Mere science fiction end videnskab“

Ng: Usikkerhed er et ingeniørproblem

Andrew Ng afviste i et Bloomberg TV-interview 17. september påstanden om, at kunstig intelligens sandsynligvis kan udslette menneskeheden. Den type advarsler er, sagde han, „meget mere science fiction end videnskab“. AI-systemer bliver aldrig fuldstændig forudsigelige, men det er efter hans vurdering ikke et argument for at standse udviklingen bredt. Det er et problem, der skal håndteres med test, sikkerhedsforanstaltninger og løbende teknisk forbedring. 10

Ng argumenterede altså ikke for at ignorere AI-sikkerhed. Tværtimod fremhævede han behovet for at gøre systemerne tilstrækkeligt pålidelige gennem evalueringer, værn og praktisk ingeniørarbejde. Han pegede især på konkrete og forudsigelige skader, herunder cybersikkerhedsrisici. 10

Han advarede også om, at en generel opbremsning af AI kan bremse selve sikkerhedsfremskridtet. 10

Hvorfor han er skeptisk over for dommedagsretorikken

Ng mente, at eksistentielle AI-advarsler kan gøre det sværere at høste teknologiens potentielle samfundsgevinster. Han pegede på, at teknologibranchen også tidligere i AI-boomet har fremhævet katastrofescenarier – tilsyneladende for at skabe omtale og påvirke, hvordan området reguleres. 8

Hans underliggende bekymring er, at regulering målrettet de største såkaldte frontier-modeller – de mest avancerede AI-systemer – kan favorisere kapitalstærke, etablerede laboratorier. De vil typisk have lettere ved at bære udgifterne til tunge krav om kontrol og efterlevelse end mindre konkurrenter. 810

Uenigheden med dem, der vil sænke tempoet

Ng står i tydelig kontrast til en gruppe AI-forskere og -ledere, der anser risikoen for tab af menneskelig kontrol som alvorlig nok til at retfærdiggøre en bevidst langsommere udvikling af de mest avancerede modeller.

• Jacob Coxon, tidligere forsker hos OpenAI og Anthropic, forlod Anthropic og advarede mod et hurtigt kapløb mod selvforbedrende systemer. Han mener, at tempoet bør sænkes på grund af risikoen for en katastrofe. 214
• Dario Amodei, topchef i Anthropic, har foreslået at sænke tempoet i modelkapabiliteter, så der bliver mere tid til at håndtere risici. Hans plan omfatter blandt andet uafhængige evaluatorer af avancerede modeller. 36
• Sam Altman, OpenAI’s topchef, har bakket den grundlæggende tanke om en opbremsning og flere sikkerhedsforanstaltninger. 19
• Geoffrey Hinton vurderer også, at der er en betydelig risiko for, at AI kan slippe ud af menneskelig kontrol. Han støtter langsommere udvikling og test før lanceringer. 16

Forskellen handler især om sandsynlighed og politisk prioritering: Coxon, Amodei, Altman og Hinton vurderer, at risikoen for tab af kontrol er plausibel nok til at kræve en langsommere fremdrift. Ng ser derimod udslettelsesscenarierne som spekulative og vil løse de nærmere, observerbare problemer med almindeligt sikkerheds- og ingeniørarbejde. 31016

Mere fælles med modstanderne af en generel pause – men af andre grunde

Ng deler modstanden mod en brancheomfattende opbremsning med flere prominente stemmer, men begrundelserne er ikke de samme.

• Jensen Huang, Nvidias topchef, har afvist behovet for nye AI-specifikke love og modsætter sig en bred opbremsning. 5
• Mark Zuckerberg, Metas topchef, har sagt nej til en fælles pause og argumenteret for, at konkurrence og markedsincitamenter vil få virksomheder til at bygge sikrere modeller. 7
• Donald Trump har afvist advarslerne som et „fupnummer“ og fremhævet USA’s konkurrenceevne, særligt over for Kina. Han har sagt, at eksisterende amerikanske redskaber er tilstrækkelige til at regulere eller retsforfølge misbrug. 25
• En talsperson for Kinas udenrigsministerium har ligeledes afvist opfordringer til at sænke tempoet i udviklingen af de mest avancerede AI-systemer. 11

Hvor Huang, Zuckerberg, Trump og Kina først og fremmest fremhæver innovation, konkurrence eller modvilje mod nye begrænsninger, er Ngs argument mere teknisk: Sikkerheden bør rettes mod konkrete fejl, misbrug og målbare risici – ikke mod spekulative forestillinger om menneskehedens udslettelse. 571011

Der er ikke tilstrækkeligt belæg i det foreliggende materiale til at beskrive Aidan Gomez’ eller Steve Eismans konkrete syn på en generel opbremsning, sikkerhedsforskning, regulering og international styring af AI.