Amodei, Altman en Musk willen tempo aan de AI-grens verlagen

De gezamenlijke oproep van drie rivaliserende AI-leiders was opvallend: Anthropic-CEO Dario Amodei pleitte voor een bewuste vertraging van de vooruitgang bij de krachtigste AI-modellen, en OpenAI-CEO Sam Altman en xAI-oprichter Elon Musk schaarden zich in grote lijnen achter dat uitgangspunt. Er is daarmee echter geen bindende internationale pauze afgesproken. Ook is niet vastgesteld dat ontspoorde AI-agenten het internet al hebben overgenomen, of dat OpenAI een beursgang formeel heeft uitgesteld. 16

Een waarschuwing over wat mogelijk kán gebeuren

Amodei waarschuwde dat AI, zonder vertraging, binnen zes tot twaalf maanden mogelijk een zwerm agents — software die zelfstandig taken uitvoert — zou kunnen aansturen die een groot deel van het internet overneemt. Hij presenteerde dit nadrukkelijk als een vooruitblik op een risico, niet als een verslag van een incident dat al was gebeurd. 1

Zijn pleidooi was niet om AI-onderzoek volledig stil te leggen. Hij wil de extra tijd gebruiken om veiligheidsmaatregelen te laten bijbenen, met onder meer extern toezicht, gedeelde veiligheidspraktijken binnen de sector en internationale coördinatie. 16

Een belangrijk onderdeel is toegang voor onafhankelijke beoordelaars. Die zouden systemen en veiligheidsprocedures van bedrijven rechtstreeks moeten kunnen controleren, in plaats van uitsluitend af te gaan op de rapportage van de bedrijven zelf.

Altman en Musk sluiten zich aan

Altman steunde het idee om de ontwikkeling aan de AI-voorhoede te „doseren” en om aanvullende veiligheidsmaatregelen te nemen. Berichtgeving over een mogelijk uitstel van een OpenAI-beursgang stelde dit voor als een optie of suggestie om veiligheid voorrang te geven, niet als een bevestigd formeel besluit. 67

Ook Musk steunde Amodei's oproep, ondanks het feit dat zijn xAI rechtstreeks concurreert met Anthropic en OpenAI. 6

Misbruik van Claude vormde de achtergrond

De oproep kwam kort nadat Anthropic meldde ingegrepen te hebben bij vermoedelijk misbruik van zijn Claude-modellen. Volgens het bedrijf ging het onder meer om onderzoek dat relevant zou kunnen zijn voor biologische wapens en om vermoedelijke cyberactiviteiten. Anthropic stelde daarnaast dat Chinese concurrenten hadden geprobeerd Claude-gerelateerde capaciteiten te verkrijgen of na te bootsen. Dat zijn beschuldigingen van het bedrijf zelf; ze zijn niet in de aangeleverde bronnen onafhankelijk juridisch of feitelijk beoordeeld. 23

Deze meldingen ondersteunen Amodei's bredere punt: krachtigere modellen kunnen niet alleen nuttige toepassingen krijgen, maar ook het bereik en de snelheid van cybercriminaliteit, spionage of ander misbruik vergroten.

Trump: niet vertragen in de strijd met China

President Donald Trump verwierp het idee dat de Verenigde Staten hun AI-inspanningen substantieel moeten afremmen. Hij plaatste AI vooral in het kader van de geopolitieke concurrentie met China en zei: „whoever wins AI, wins.” 10

Daarmee staat zijn reactie haaks op het veiligheidsargument van Amodei. Waar AI-veiligheidsvoorstanders stellen dat een vrijwillige vertraging tijd kan kopen voor controles en regelgeving, vrezen voorstanders van versnelling dat de VS daarmee een strategisch voordeel aan China prijsgeven.

Verdeeld debat over regels en een mogelijke pauze

De reacties liepen uiteen:

• Veiligheidsgerichte stemmen, onder wie senator Bernie Sanders, vonden vrijwillig vertragen onvoldoende. Sanders riep Trump en de Chinese president Xi Jinping op te onderhandelen over een verdrag dat geavanceerde AI tijdelijk pauzeert en kunstmatige superintelligentie verbiedt. 5
• Voorstanders van versnelling en een nationaal-veiligheidsbenadering benadrukten juist het risico dat China terrein wint. Zij zijn doorgaans sceptisch over zware regelgeving of een eenzijdige Amerikaanse pauze. Trumps reactie past in die lijn. 10
• Het politieke en economische debat draait daarom om drie vragen: zijn vrijwillige bedrijfsbeloften geloofwaardig, moet het Congres afdwingbare regels voor grensverleggende AI invoeren, en welke concurrentie- en marktrisico's brengt een abrupte vertraging mee?

Voor specifieke standpunten die in de vraag worden toegeschreven aan Mike Johnson, Hakeem Jeffries, David Sacks, Alex Karp, Josh Gottheimer of bepaalde investeerders is in de geraadpleegde bronnen onvoldoende onderbouwing. Hetzelfde geldt voor een concrete, overeengekomen Trump-Xi-agenda, afgezien van Sanders' voorstel, en voor details over het vertrek van voormalig onderzoeker Jacob Coxon.