AnswersPublished13 sources
Bilal Chughtai waarschuwt voor AI: waarom hij denkt dat de tijd dringt
Bilal Chughtai, die Google DeepMind in juli 2026 verliet, zegt dat AI „ons allemaal kan doden” en dat de tijd om dit te voorkomen mogelijk opraakt. Zijn waarschuwing sluit aan bij uitlatingen van voormalig Anthropic onderzoeker Jacob Coxon en Anthropic wetenschapper Evan Hubinger, maar hun risico inschattingen zijn...
Gepubliceerd doorBewerkt met GPT-5.6 TerraAfbeeldingen gegenereerd met GPT Image 2
Research answer
Key takeaways
- Bilal Chughtai, die Google DeepMind in juli 2026 verliet, zegt dat AI „ons allemaal kan doden” en dat de tijd om dit te voorkomen mogelijk opraakt.
- Zijn waarschuwing sluit aan bij uitlatingen van voormalig Anthropic onderzoeker Jacob Coxon en Anthropic wetenschapper Evan Hubinger, maar hun risico inschattingen zijn persoonlijke oordelen, geen wetenschappelijke co...
- De inzet van het debat is tempo en toezicht: voorstanders vragen om tests, onafhankelijke beoordeling en ingrijpen vóór gevaarlijke modellen worden uitgebracht; tegenstanders wijzen op de concurrentiestrijd tussen de...
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind research engineer Bilal Chughtai, who co-authored AI research papers and left the company in July 2026, warn. Article summary: Chughtai’s warning was an existential-risk claim, not a prediction: after leaving DeepMind’s AGI-safety and alignment work, he said AI could “kill all humans” and that the opportunity to avert that outcome might be closi. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Bilal Chughtai doet geen voorspelling dat kunstmatige intelligentie de mensheid onvermijdelijk zal uitroeien. Zijn boodschap is een scherpe waarschuwing voor een existentieel risico: na zijn vertrek bij Google DeepMind schreef hij dat AI „ons allemaal kan doden” en dat de tijd om die uitkomst te voorkomen misschien opraakt. Bij DeepMind werkte hij naar eigen zeggen aan veiligheid en alignment van AGI — onderzoek naar manieren om zeer krachtige AI-systemen betrouwbaar in lijn met menselijke bedoelingen te laten handelen.
Waar Chughtai voor waarschuwt
Zijn zorg draait om de standaardkoers van de sector. AI-systemen worden snel krachtiger, terwijl de kennis en middelen om ze aantoonbaar veilig en beheersbaar te maken volgens hem onvoldoende hard meegroeien. Concurrentiedruk kan bedrijven ertoe aanzetten om steeds zwaardere modellen te bouwen en uit te brengen voordat veiligheidsmaatregelen, alignmentonderzoek en publiek toezicht op orde zijn.
Chughtai pleit daarom niet voor een eenzijdige stap van één bedrijf, maar voor coördinatie. Bedrijven en overheden zouden het ontwikkelingstempo moeten afstemmen op wat de samenleving kan verwerken en nieuwe risico’s moeten aanpakken vóórdat die tot extreme schade leiden. Hij waarschuwde voor een „manische race” tussen AI-bedrijven.
Google reageerde volgens Reuters niet meteen op een verzoek om commentaar buiten de reguliere kantooruren.
Waarom zijn vertrek zoveel aandacht kreeg
Chughtai’s bericht volgt op een reeks opvallend openlijke waarschuwingen van onderzoekers en bestuurders uit de AI-sector.
Jacob Coxon, voormalig onderzoeker bij Anthropic, zei dat hij vertrok omdat toonaangevende labs volgens hem onverantwoord racen richting zelfverbeterende superintelligentie. Coxon stelde dat mensen die AI bouwen oprecht geloven dat de technologie de mensheid nog vóór het einde van dit decennium kan vernietigen.
Evan Hubinger, een alignmentonderzoeker bij Anthropic, onderschreef die fundamentele zorg. Hij schatte persoonlijk de kans dat AI binnen tien jaar tot menselijke uitsterving leidt op meer dan 10 procent. Tegelijk zei hij dat de risico’s van de huidige modellen volgens hem laag zijn.
Dat zijn geen empirisch vastgestelde kansen en ook geen wetenschappelijke consensus. De beperktere, maar relevante conclusie is dat sommige mensen die dicht op de ontwikkeling van grensverleggende modellen zitten, het mogelijke nadeel zo ernstig achten dat zij extra voorzorgsmaatregelen nodig vinden voordat de mogelijkheden verder toenemen.
De roep om de AI-voorhoede te vertragen
Chughtai’s voorstel ligt in het verlengde van de oproep van Anthropic-topman Dario Amodei om de ontwikkeling van de meest geavanceerde AI-systemen te doseren terwijl veiligheid en extern toezicht worden versterkt. OpenAI-topman Sam Altman en Elon Musk spraken steun uit voor een sectorbrede vertraging.
Dat hoeft geen permanent verbod op AI te betekenen. In het Advanced AI Framework stelt Anthropic voor dat ontwikkelaars van de krachtigste modellen onder meer:
- systemen testen op catastrofale risico’s;
- onafhankelijke externe beoordelaars inschakelen;
- evaluaties, risico’s en veiligheidsincidenten doorlopend openbaar maken; en
- verantwoording afleggen aan de overheid, die gevaarlijke toepassingen moet kunnen afschrikken of blokkeren.
1
Anthropic hanteert in zijn Responsible Scaling Policy een voorwaardelijke aanpak: als modellen bepaalde gevaarlijke capaciteiten laten zien, dan mogen ze niet worden ingezet of verder worden opgeschaald totdat passende waarborgen bestaan. 8
Het tegenargument: verlies van de Amerikaanse voorsprong
De controverse is niet alleen technisch, maar ook geopolitiek. Tegenstanders van vertraging vrezen dat strikte beperkingen een voordeel opleveren voor rivaliserende landen of voor minder voorzichtige bedrijven.
De Amerikaanse president Donald Trump erkende dat AI mogelijk enige vangrails nodig heeft, maar bagatelliseerde de meest alarmerende scenario’s. Hij zei bezorgd te zijn dat de Verenigde Staten hun voorsprong op China zouden verspelen.
Daarmee raakt hij de kern van het conflict: is het afremmen van de AI-voorhoede noodzakelijk risicobeheer, of een strategische concessie die de VS zich niet kan veroorloven?
Wat de term „AI-doomerisme” wel en niet zegt
Met „AI-doomerisme” wordt vaak de overtuiging bedoeld dat geavanceerde AI een risico op uitstervingsniveau kan vormen. Het etiket kan een concrete beleidsvraag verhullen: welk bewijs van gevaarlijke vermogens moet leiden tot zwaardere tests, beperkingen op inzet of ingrijpen door de overheid?
Chughtai heeft niet aangetoond dat een AI-catastrofe op korte termijn onafwendbaar is. Zijn punt is dat een fout in veiligheidsbeleid onomkeerbare gevolgen kan hebben — en dat concurrentieprikkels niet vanzelf de vereiste voorzichtigheid opleveren. Zijn voorgestelde antwoord is gezamenlijke sturing: waar nodig langzamer uitrollen, grondiger toetsen en duidelijke aansprakelijkheid organiseren voordat systemen moeilijker te controleren worden. 1
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Bilal Chughtai waarschuwt voor AI: waarom hij denkt dat de tijd dringt"?
Bilal Chughtai, die Google DeepMind in juli 2026 verliet, zegt dat AI „ons allemaal kan doden” en dat de tijd om dit te voorkomen mogelijk opraakt.
What are the key points to validate first?
Bilal Chughtai, die Google DeepMind in juli 2026 verliet, zegt dat AI „ons allemaal kan doden” en dat de tijd om dit te voorkomen mogelijk opraakt. Zijn waarschuwing sluit aan bij uitlatingen van voormalig Anthropic onderzoeker Jacob Coxon en Anthropic wetenschapper Evan Hubinger, maar hun risico inschattingen zijn persoonlijke oordelen, geen wetenschappelijke co...
What should I do next in practice?
De inzet van het debat is tempo en toezicht: voorstanders vragen om tests, onafhankelijke beoordeling en ingrijpen vóór gevaarlijke modellen worden uitgebracht; tegenstanders wijzen op de concurrentiestrijd tussen de...