AnswersPublished25 sources
Andrew Ng noemt angst voor AI-uitsterving ‘sciencefiction’: focus op concrete risico’s
Andrew Ng zei op 17 september bij Bloomberg TV dat waarschuwingen over menselijke uitsterving door AI „veel meer sciencefiction dan wetenschap” zijn. Volgens Ng moet AI veiligheid draaien om testen, technische waarborgen en stapsgewijze verbetering, met onder meer cybersecurity als concreet aandachtspunt.
Gepubliceerd doorBewerkt met GPT-5.6 TerraAfbeeldingen gegenereerd met GPT Image 2
Research answer
Key takeaways
- Andrew Ng zei op 17 september bij Bloomberg TV dat waarschuwingen over menselijke uitsterving door AI „veel meer sciencefiction dan wetenschap” zijn.
- Volgens Ng moet AI veiligheid draaien om testen, technische waarborgen en stapsgewijze verbetering, met onder meer cybersecurity als concreet aandachtspunt.
- Daarmee botst hij met pleitbezorgers van een vertraging van de ontwikkeling van de krachtigste AI modellen, zoals Dario Amodei, Sam Altman, Jacob Coxon en Geoffrey Hinton.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Andrew Ng betoogt niet dat AI onschadelijk is. Zijn punt is dat voorspellingen over een nabije menselijke uitsterving te speculatief zijn om het uitgangspunt van AI-beleid te maken. In een interview met Bloomberg TV op 17 september noemde de medeoprichter van Google Brain die waarschuwingen „veel meer sciencefiction dan wetenschap”. AI-veiligheid moet volgens hem vooral een vakgebied van ingenieurs zijn: systemen testen, beschermingsmaatregelen toevoegen en die gaandeweg verbeteren. 2
Geen perfecte voorspelbaarheid, wel betere veiligheid
Ng erkent dat AI-systemen nooit volledig voorspelbaar zullen zijn. Maar dat is volgens hem geen bewijs dat de ontwikkeling van AI in brede zin moet worden afgeremd. Met testen, technische waarborgen en degelijk ingenieurswerk kunnen systemen steeds veiliger worden, stelde hij. Een algemene vertraging zou juist ook de vooruitgang in veiligheid kunnen afremmen. 2
Zijn alternatief is een veiligheidsagenda die begint bij aantoonbare, concrete faalwijzen — niet bij hypothetische uitstervingsscenario’s.
Waarom Ng de doemretoriek wantrouwt
Ng zei dat existentiële waarschuwingen de maatschappelijke voordelen van AI kunnen ondermijnen. Ook stelde hij dat de techsector eerder in de AI-hype angst voor catastrofale gevolgen heeft aangewakkerd, blijkbaar om publiciteit te krijgen en invloed uit te oefenen op regelgeving. 1
Hij pleit dus niet voor het loslaten van veiligheidswerk. Wel verzet hij zich tegen het behandelen van uitstervingsrisico’s als vaststaande wetenschap of als grond voor een zeer brede pauze in AI-ontwikkeling.
Waar de aandacht volgens hem wel naartoe moet
Ng wil praktische risicovermindering. In de berichtgeving over zijn interview worden cybersecurity en andere concrete veiligheidsmaatregelen genoemd als prioriteiten. 5
In de praktijk betekent dat onder meer:
- Strenge tests vóór en tijdens de inzet van systemen.
- Technische veiligheidslagen en beperkingen tegen bekende fouten en misbruik.
- Iteratieve verbetering zodra nieuwe problemen aan het licht komen.
- Focus op voorzienbare schade, waaronder cyberrisico’s, in plaats van beleid dat vooral om uitsterving draait.
2
5
Die benadering belooft geen perfecte controle. Wel gaat zij ervan uit dat technologie voldoende betrouwbaar kan worden gemaakt door voortdurend te meten, te testen en bij te sturen — zoals in andere technische disciplines.
Het verschil met de voorstanders van vertraging
Andere prominente stemmen in de AI-wereld vinden eveneens dat veiligheid zwaarder moet wegen, maar trekken daar een verdergaande beleidsconclusie uit.
Jacob Coxon: veel grotere inschatting van het gevaar
De voormalige Anthropic- en OpenAI-onderzoeker Jacob Coxon vertrok bij Anthropic en waarschuwde dat snelle ontwikkeling richting zichzelf verbeterende systemen rampzalig kan uitpakken. Hij vindt een vertraging noodzakelijk en verwelkomde later het voorstel van Anthropic om de ontwikkeling te temporiseren. 33
43
Dario Amodei: tijd kopen voor beschermingsmaatregelen
Anthropic-topman Dario Amodei riep bedrijven op het tempo waarin zij AI-capaciteiten verbeteren te verlagen. Zijn doel: tijd creëren om risico’s te beheersen, onder meer via een kader met onafhankelijke beoordelaars. 18
Sam Altman: steun voor het temporiseren van de grens
OpenAI-CEO Sam Altman onderschreef de kern van Amodei’s voorstel. Hij zegde toe dat OpenAI een van de voorgestelde waarborgen zal toepassen: externe beoordelaars met betekenisvolle toegang om veiligheidspraktijken te toetsen. 19
24
Geoffrey Hinton: angst voor verlies van menselijke controle
Geoffrey Hinton zegt dat er een „aanzienlijk risico” bestaat dat AI aan menselijke controle ontsnapt. Hij steunt een vertraging en maatregelen zoals tests vóór de release van nieuwe chatbots, omdat overheden volgens hem te traag handelen. 20
Het verschil gaat dus zowel over waarschijnlijkheid als over beleid. Coxon, Amodei, Altman en Hinton vinden verlies-van-controle-risico’s aannemelijk genoeg om de ontwikkeling van de meest geavanceerde systemen bewust te vertragen. Ng vindt uitstervingsclaims onvoldoende onderbouwd en wil de veiligheidsinspanning richten op concrete, beheersbare problemen. 2
18
20
Eens over geen brede pauze, maar om verschillende redenen
Ng’s verzet tegen een algemene vertraging betekent niet dat hij dezelfde argumenten hanteert als leiders en techbestuurders die eveneens tegen zo’n vertraging zijn.
- Jensen Huang, CEO van Nvidia, zei dat de sector geen nieuwe wetten of regels nodig heeft.
53
- Mark Zuckerberg, CEO van Meta, stelde dat een sectorbrede vertraging niet nodig is, omdat concurrentie en marktprikkels bedrijven ertoe zullen bewegen modellen veilig te maken.
55
- President Donald Trump noemde angst voor ontspoorde AI een „hoax” en zei dat de Verenigde Staten al middelen hebben om AI-bedrijven te reguleren en te vervolgen.
49
50
- Chinese functionarissen wezen oproepen af om de ontwikkeling van frontier-AI — de meest geavanceerde modellen — te vertragen.
De uitkomst is vergelijkbaar: geen brede pauze. De onderbouwing verschilt echter. Ng’s argument is vooral technisch: pak meetbare schade aan en bouw betere controles. Huang, Zuckerberg, Trump en Chinese functionarissen benadrukken in verschillende mate bezwaar tegen nieuwe beperkingen, marktwerking, concurrentie of nationale strategie. 2
50
52
53
55
Cyberrisico als gedeeld aandachtspunt
Het debat is niet simpelweg verdeeld tussen mensen die veiligheid belangrijk vinden en mensen die dat niet doen. Cohere-CEO Aidan Gomez zei bijvoorbeeld dat AI-modellen krachtige cyberwapens zijn geworden, omdat zij kwetsbaarheden op grote schaal kunnen opsporen en uitbuiten. 62 Dat ligt dicht bij Ng’s oproep om concrete cyberrisico’s aan te pakken.
De beschikbare berichtgeving biedt echter onvoldoende basis om Gomez’ volledige standpunt over een sectorbrede vertraging of internationale AI-governance te beschrijven. Hetzelfde geldt voor investeerder Steve Eisman: over zijn bredere opvattingen over vertraging, veiligheidsonderzoek, regulering en internationale samenwerking is hier onvoldoende betrouwbare informatie beschikbaar.
De kern
Ng verlegt het zwaartepunt in het AI-veiligheidsdebat. Niet de vraag óf AI veiliger moet worden staat volgens hem ter discussie, maar of speculatieve uitstervingsscenario’s de agenda moeten bepalen. Zijn antwoord is nee: richt je op tests, technische waarborgen en bescherming tegen huidige, identificeerbare schade — en voorkom een algemene vertraging die volgens hem innovatie én veiligheidsvooruitgang kan hinderen. 1
2
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Andrew Ng noemt angst voor AI-uitsterving ‘sciencefiction’: focus op concrete risico’s"?
Andrew Ng zei op 17 september bij Bloomberg TV dat waarschuwingen over menselijke uitsterving door AI „veel meer sciencefiction dan wetenschap” zijn.
What are the key points to validate first?
Andrew Ng zei op 17 september bij Bloomberg TV dat waarschuwingen over menselijke uitsterving door AI „veel meer sciencefiction dan wetenschap” zijn. Volgens Ng moet AI veiligheid draaien om testen, technische waarborgen en stapsgewijze verbetering, met onder meer cybersecurity als concreet aandachtspunt.
What should I do next in practice?
Daarmee botst hij met pleitbezorgers van een vertraging van de ontwikkeling van de krachtigste AI modellen, zoals Dario Amodei, Sam Altman, Jacob Coxon en Geoffrey Hinton.