OpenAI, Anthropic en Google DeepMind praten volgens berichten over gezamenlijke AI-veiligheid

OpenAI, Anthropic en Google DeepMind zouden in gesprek zijn over samenwerking rond AI-veiligheid. Daarmee komt een lastige vraag centraal te staan: kunnen bedrijven die fel met elkaar concurreren gezamenlijke veiligheidsmaatregelen afspreken, zonder dat dit hun onderlinge concurrentie beperkt?

Volgens Bloomberg News, aangehaald door Reuters, bespraken de drie bedrijven werk om AI-veiligheid prioriteit te geven. Reuters kon dat bericht niet onafhankelijk verifiëren. OpenAI, Alphabet — het moederbedrijf van Google DeepMind — en Anthropic reageerden niet onmiddellijk op verzoeken om commentaar. 4

Waarover zouden de gesprekken gaan?

De gemelde gesprekken betreffen OpenAI, Anthropic en Google DeepMind, de AI-divisie van Alphabet. Chris Lehane, wereldwijd beleidschef van OpenAI, zei dat de bedrijven al enkele weken met elkaar spraken. Volgens hem zouden zij moeten proberen gezamenlijk veiligheid voorop te zetten. 4

Er is publiekelijk nog geen informatie over een definitief akkoord, een concrete gezamenlijke norm of een bindend veiligheidsprogramma. Vooralsnog gaat het dus om gemelde gesprekken, niet om de bevestiging van een formeel samenwerkingskader. 4

Waarom de zorgen over extreme risico’s toenemen

De gesprekken komen op een moment dat zorgen over zeer geavanceerde AI-systemen prominenter zijn geworden. Leiders van grote Amerikaanse AI-labs riepen publiekelijk op tot een pauze in verdere AI-ontwikkeling, waardoor het debat over mogelijke existentiële risico’s meer aandacht kreeg. 4

Ook in Washington neemt de druk op regelgeving toe. Reuters meldde dat meer Amerikaanse wetgevers regels voor AI nastreven nadat onderzoekers van Anthropic waarschuwden dat snelle vooruitgang op termijn een risico op uitsterving van de mensheid zou kunnen vormen. 3

Anthropic riep afzonderlijk grote AI-labs op om een gecoördineerde en controleerbare ontwikkelpauze te overwegen als de risico’s oplopen. Het bedrijf waarschuwde dat AI-systemen zichzelf uiteindelijk sneller zouden kunnen verbeteren dan de samenleving de gevolgen kan beheersen. 15

Dit zijn waarschuwingen over mogelijke toekomstige vermogens en risico’s, geen bewijs dat zulke uitkomsten onvermijdelijk zijn. Ze verklaren wel waarom vrijwillige waarborgen van bedrijven, gezamenlijke normen en afdwingbaar toezicht gelijktijdig ter discussie staan.

Samenwerken op veiligheid, maar binnen de mededingingsregels

De grote complicatie is het mededingingsrecht. Samenwerking tussen concurrenten kan onder toezicht komen te staan, zeker wanneer dezelfde bedrijven ook strijden om de ontwikkeling en inzet van de krachtigste AI-modellen.

Lehane zei dat hij niet denkt dat OpenAI, Anthropic en Google DeepMind een ontheffing van de mededingingsregels nodig hebben om over veiligheid samen te werken. 4 In het bredere beleidsdebat wordt dat betwist. Andrew Ferguson, voorzitter van de Amerikaanse toezichthouder FTC, zei dat mensen „zeer wantrouwig” moeten zijn tegenover AI-bedrijven die om uitzonderingen op de mededingingsregels vragen. Deskundigen vertelden Reuters tegelijk dat de bestaande wetgeving samenwerking om catastrofale risico’s af te wenden mogelijk al kan toestaan. 2

Dat onderscheid is cruciaal. Gezamenlijke veiligheidstests of gedeelde methoden voor risicobeheer kunnen dienen om schade te voorkomen. Een afspraak om ontwikkeling te vertragen op een manier die de marktconcurrentie beperkt, roept veel moeilijkere juridische en politieke vragen op.

Steun voor Amerikaanse wetgeving

Lehane zei ook dat OpenAI bipartizane wetgeving in de Verenigde Staten zou steunen om catastrofale AI-risico’s te beperken. 4

In de Amerikaanse Senaat wordt onderhandeld over een mogelijke duty of care: een zorgplicht waarbij AI-ontwikkelaars moeten aantonen dat zij redelijke voorzorgsmaatregelen tegen schade nemen. Het Amerikaanse ministerie van Handel zou mogelijk bewijs kunnen opvragen en onafhankelijke overheidsauditors kunnen inzetten om producten te testen. 8

OpenAI had daarnaast al gepleit voor verplichte landelijke AI-veiligheidseisen in de Verenigde Staten en stelde dat normen verder moeten reiken dan alleen de Amerikaanse markt. 6

Waar het nu op aankomt

De belangrijkste open vraag is of de gemelde gesprekken uitmonden in een openbare, formele afspraak met duidelijke waarborgen, onafhankelijke evaluatie en verantwoordingsplicht. De beschikbare informatie ondersteunt voorlopig een beperktere conclusie: OpenAI, Anthropic en Google DeepMind waren volgens berichten in gesprek over veiligheid, terwijl de bezorgdheid over geavanceerde AI en de roep om gezamenlijke standaarden en federale regels toenemen. 4

Een eventuele samenwerking zal langs twee meetlatten worden gelegd: levert zij daadwerkelijk betere veiligheidsbescherming op, én voorkomt zij dat concurrenten onder het mom van veiligheid de onderlinge competitie inperken?