Trump wijst AI-vertraging af, terwijl Amodei pleit voor veiligheidsregels aan de frontier

Donald Trump benadert de discussie over de krachtigste AI-systemen vooral als een geopolitieke wedloop met China. Volgens hem moet de Verenigde Staten koploper blijven, omdat „wie AI wint, wint”. Hij noemde de gedachte dat AI de wereld zou kunnen overnemen of de mensheid zou kunnen vernietigen later een „HOAX”. Verzet tegen AI en datacenters omschreef hij als een „SICK conspiracy” waarvan China profiteert. 1719

Waarom Trump Dario Amodei aanviel

Trumps reactie volgde op een oproep van Anthropic-topman Dario Amodei om de verbetering van de meest geavanceerde AI-modellen bewust minder snel te laten verlopen. Hun uitgangspunt verschilt fundamenteel: Trump legt de nadruk op Amerikaans technologisch leiderschap, terwijl Amodei stelt dat de mogelijkheden van modellen sneller groeien dan veiligheidspraktijken en toezicht kunnen bijhouden. 17

Trump zei ook dat de bestaande strafrechtelijke en regulerende bevoegdheden al ruim voldoende zijn en dat een sterke president de benodigde waarborg vormt. Zijn aanval op Amodei combineerde dus scepsis over existentiële AI-risico’s met de vrees dat formele beperkingen Amerikaanse bedrijven tegenover Chinese concurrenten op achterstand zetten. 1921

Wat Amodei voorstelt met „We Must Pace the Frontier”

Amodei vraagt niet om AI-onderzoek stil te leggen. Zijn plan bestaat uit drie onderdelen en is bedoeld om ongecontroleerde sprongen in modelcapaciteit voldoende af te remmen, zodat veiligheidsonderzoek, tests en bestuur kunnen bijbenen.

1. Permanente onafhankelijke evaluatoren in frontier-labs. Anthropic wil externe beoordelaars doorlopend toegang geven op het niveau van medewerkers. Zij moeten veiligheidsmaatregelen controleren, incidenten rapporteren en tijdens de training beoordelen of modellen in lijn blijven met hun beoogde doelen. 16
2. Afstemming tussen bedrijven die frontier-AI ontwikkelen. Toonaangevende labs zouden gezamenlijke veiligheidsnormen en grenzen voor ongecontroleerde ontwikkeling moeten vastleggen, in plaats van uitsluitend te concurreren om steeds snellere capaciteitsgroei.
3. Internationale samenwerking. Volgens Amodei is samenwerking buiten één land of machtsblok uiteindelijk noodzakelijk om de ernstigste AI-risico’s te beheersen.

Het eerste punt is nadrukkelijk een directe, eenzijdige toezegging van Anthropic zelf — niet alleen een verzoek aan overheden of concurrenten. 16

Steun van andere AI-leiders, maar met voorwaarden

OpenAI-topman Sam Altman zei het ermee eens te zijn dat de frontier in tempo moet worden beheerst en verklaarde dat OpenAI eveneens externe evaluatoren toegang zal geven. Elon Musk, eigenaar van xAI, liet ook weten Amodei te steunen.

Microsoft-topman Satya Nadella verwelkomde een bewust tempo en ingebedde evaluatoren, maar plaatste daar een belangrijke voorwaarde bij: toezicht mag niet in handen zijn van slechts een klein groepje bedrijven. Een eventuele ontwikkeling richting superintelligentie moet volgens hem de mensheid helpen en onder menselijke controle blijven.

Dat is nog geen volledig gedeeld stelsel van regels. Wel laat het zien dat meerdere prominente spelers openstaan voor structureel en doorlopend toezicht op de meest geavanceerde systemen.

Het coördinatieprobleem: China en eenzijdige terughoudendheid

Jacob Coxon, voormalig onderzoeker bij Anthropic en OpenAI, zei dat mensen die deze systemen bouwen „oprecht bang” zijn voor de toekomst van de mensheid. Hij verwelkomde het idee van vertraging, maar benadrukte dat dit met China gecoördineerd zou moeten worden. 1

Daarmee raakt hij de kern van de discussie. Een bedrijf of land dat in zijn eentje vertraagt, kan vrezen terrein te verliezen aan concurrenten die dat niet doen. Het Chinese ministerie van Buitenlandse Zaken keerde zich tegen Amodei’s oproep om beperkingen op te leggen die China’s AI-capaciteiten raken. Beijing beschouwde die oproep als een Amerikaanse poging om China in te dammen, niet als neutraal veiligheidsbeleid. 4

Zo ontstaat een vertrouwensprobleem: voorstanders zien wederkerige regels als middel om risico’s te verkleinen; tegenstanders kunnen diezelfde regels zien als een manier om de technologische voorsprong van de andere partij vast te leggen.

De kritiek: veiligheid als bescherming van gevestigde spelers

Investeerder Michael Burry noemde de oproep tot vertraging „self-serving”, oftewel ingegeven door eigenbelang. Zijn kritiek is dat trager ontwikkelen en zwaardere nalevingseisen gevestigde AI-bedrijven kunnen helpen, doordat nieuwkomers moeilijker kunnen concurreren. Ook betwist hij dat de huidige grote taalmodellen op weg zijn naar artificiële algemene intelligentie (AGI).

Die kritiek weerlegt veiligheidszorgen niet automatisch. Ze wijst wel op een praktisch beleidsrisico: regels die frontier-AI veiliger moeten maken, kunnen ook de macht versterken van bedrijven die het best in staat zijn eraan te voldoen. Een geloofwaardig stelsel moet daarom zowel veiligheid als machtsconcentratie adresseren.

Waarom de geplande ontmoeting tussen Trump en Xi ertoe deed

Trump en de Chinese leider Xi Jinping zouden tijdens een geplande bijeenkomst op 24 september ook over AI-governance spreken. 4 Die afspraak was relevant omdat het moeilijkste deel van een veiligheidsstrategie voor frontier-AI niet het schrijven van regels voor één lab is, maar het maken van afspraken die rivaliserende grootmachten als wederkerig en afdwingbaar beschouwen.

Trumps China-gerichte framing en Beijings verzet tegen beperkingen op zijn AI-ontwikkeling lieten al zien hoe lastig dat wordt. De discussie gaat daarom verder dan de keuze tussen vertragen of versnellen: het gaat om de vraag of de AI-wedloop kan worden bestuurd zonder dat veiligheidsbeleid een nieuw front wordt in geopolitieke competitie. 174