AnswersPublished22 sources
Andrew Ng verwerpt doemscenario’s over AI, maar pleit wel voor harde veiligheidsmaatregelen
Andrew Ng noemt de vrees dat AI de mensheid zal uitroeien „veel meer sciencefiction dan wetenschap”. Volgens Ng kunnen doemverhalen afleiden van de maatschappelijke voordelen van AI en tegelijk publiciteit en specifieke regulering in de hand werken.
Gepubliceerd doorAfbeeldingen gegenereerd met GPT Image 2
Research answer
Key takeaways
- Andrew Ng noemt de vrees dat AI de mensheid zal uitroeien „veel meer sciencefiction dan wetenschap”.
- Volgens Ng kunnen doemverhalen afleiden van de maatschappelijke voordelen van AI en tegelijk publiciteit en specifieke regulering in de hand werken.
- Hij pleit niet voor minder veiligheid, maar voor strenge tests, waarborgen en engineering tegen concrete risico’s, zoals cyberaanvallen.
- Daarmee botst hij met voorstanders van een bewust tragere ontwikkeling van de krachtigste AI modellen, onder wie Dario Amodei en Geoffrey Hinton.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general web, ai safety, openai, ai, security. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts
Andrew Ng heeft de stelling verworpen dat AI waarschijnlijk tot het uitsterven van de mensheid leidt. In zijn interview van 17 september met Bloomberg TV noemde hij die angst „veel meer sciencefiction dan wetenschap”. Dat AI-systemen niet altijd volledig voorspelbaar zijn, ziet hij als een technisch vraagstuk dat beheerst moet worden — niet als bewijs dat de samenleving de ontwikkeling van AI in brede zin moet stilleggen. 10
Waarom Ng kritisch is op doemretoriek
Ng waarschuwde dat verhalen over existentiële AI-risico’s de aandacht kunnen afleiden van de mogelijke maatschappelijke voordelen van de technologie. Hij stelde ook dat angstcampagnes, net als in eerdere golven van technologische ontwikkeling, publiciteit kunnen opleveren en kunnen helpen om een bepaald type regulering te rechtvaardigen. 8
10
Daarachter zit volgens zijn redenering een mogelijk mededingingsvraagstuk: regels die vooral zijn geschreven rond de allergrootste zogeheten frontier-modellen — de meest geavanceerde systemen — kunnen gevestigde, goed gefinancierde AI-labs bevoordelen. Zij kunnen hoge nalevingskosten doorgaans makkelijker dragen dan kleinere spelers. 8
10
Dat betekent niet dat Ng veiligheid onbelangrijk vindt. Juist het tegenovergestelde: hij pleit voor rigoureuze tests, beschermingsmaatregelen en degelijk ontwikkelwerk tegen concrete, voorzienbare fouten. Cybersecurity noemde hij daarbij als belangrijk voorbeeld. AI zal volgens hem nooit perfect voorspelbaar worden, maar kan door evaluaties, vangrails en iteratieve engineering wel voldoende betrouwbaar en veiliger worden gemaakt. 10
Ng voegde daaraan toe dat een brede vertraging van AI-ontwikkeling ook de voortgang van veiligheidsonderzoek kan afremmen. 10
Het verschil met het kamp dat wil vertragen
Verschillende prominente stemmen vinden het risico op verlies van menselijke controle ernstig genoeg om de ontwikkeling van de krachtigste modellen doelbewust te temporiseren.
- Jacob Coxon, voormalig onderzoeker bij OpenAI en Anthropic, stapte op bij Anthropic. Hij waarschuwde dat snelle vooruitgang zonder voldoende controle, vooral richting systemen die zichzelf kunnen verbeteren, tot een ernstige ramp kan leiden. Hij riep op tot vertraging.
2
14
- Dario Amodei, topman van Anthropic, wil dat de capaciteiten van frontier-modellen minder snel toenemen, zodat er tijd ontstaat voor risicobeheersing. Zijn plan omvat onder meer sterkere onafhankelijke beoordeling van geavanceerde modellen. Hij pleit niet voor het stopzetten van AI-onderzoek, maar stelt dat veiligheidswerk en bestuur de technische vooruitgang niet hebben bijgehouden.
3
- Sam Altman, CEO van OpenAI, schaarde zich achter de kern van het pleidooi voor vertraging en extra waarborgen, uit zorg dat de sector systemen kan naderen die mensen niet meer beheersen.
1
9
- Geoffrey Hinton ziet eveneens een aanzienlijke kans dat AI aan menselijke controle ontsnapt. Hij steunt een trager tempo en maatregelen zoals tests vóór nieuwe systemen worden uitgebracht; volgens hem bewegen overheden te langzaam.
16
Het belangrijkste verschil zit dus in de ingeschatte kans op een catastrofe en de beleidsprioriteit. Coxon, Amodei, Altman en Hinton vinden verlies van controle plausibel genoeg om de ontwikkeling van frontier-capaciteiten bewust te vertragen. Ng beschouwt uitstervingsclaims als speculatief en legt de nadruk op het oplossen van zichtbare risico’s op kortere termijn met normale, maar strenge veiligheidsengineering. 3
10
16
Tegen een brede rem op AI-ontwikkeling
Andere prominente stemmen verzetten zich ook tegen een algemene vertraging, al doen zij dat niet altijd vanuit dezelfde argumentatie als Ng.
- Jensen Huang, CEO van Nvidia, keerde zich tegen nieuwe, specifieke AI-wetgeving en tegen een brede vertraging.
5
- Mark Zuckerberg, CEO van Meta, verzette zich tegen een sectorbrede pauze en stelde dat concurrentie en marktprikkels bedrijven ertoe zullen aanzetten modellen veilig te maken.
- President Donald Trump wees oproepen tot vertraging af, noemde claims over AI-gevaar een „hoax” en zei dat de Verenigde Staten al instrumenten hebben om wangedrag te reguleren of te vervolgen. Zijn nadruk lag op het behoud van de Amerikaanse concurrentiepositie, vooral tegenover China.
- Ook een woordvoerder van het Chinese ministerie van Buitenlandse Zaken verzette zich tegen oproepen om frontier-AI af te remmen, in lijn met verzet tegen een van buitenaf opgelegde wereldwijde pauze.
Deze standpunten liggen dichter bij Ngs afwijzing van een sectorbrede vertraging, maar de onderbouwing verschilt. Ng redeneert vooral technisch: pak tastbare fouten aan met controlemechanismen en engineering. Huang, Zuckerberg, Trump en China leggen meer nadruk op innovatie, concurrentiekracht en scepsis over aanvullende beperkingen. 5
7
10
11
Voor de specifieke opvattingen van Aidan Gomez en Steve Eisman over een sectorbrede vertraging, veiligheidsonderzoek, regelgeving en internationale samenwerking is in de beschikbare berichtgeving onvoldoende onderbouwing om daar betrouwbare conclusies aan te verbinden.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Andrew Ng verwerpt doemscenario’s over AI, maar pleit wel voor harde veiligheidsmaatregelen"?
Andrew Ng noemt de vrees dat AI de mensheid zal uitroeien „veel meer sciencefiction dan wetenschap”.
What are the key points to validate first?
Andrew Ng noemt de vrees dat AI de mensheid zal uitroeien „veel meer sciencefiction dan wetenschap”. Volgens Ng kunnen doemverhalen afleiden van de maatschappelijke voordelen van AI en tegelijk publiciteit en specifieke regulering in de hand werken.
What should I do next in practice?
Hij pleit niet voor minder veiligheid, maar voor strenge tests, waarborgen en engineering tegen concrete risico’s, zoals cyberaanvallen.
Sources