Waarom OpenAI’s hoofdwetenschapper na GPT-6 Astra juist om voorzichtigheid vraagt

De uitrol van GPT-6 Astra maakt het debat over AI-veiligheid een stuk concreter. Astra is volgens OpenAI het krachtigste model dat het bedrijf breed heeft uitgerold én het eerste dat in OpenAI’s Preparedness Framework de cyberveiligheidsdrempel ‘Critical’ haalt.13 Voor hoofdwetenschapper Jakub Pachocki is dat reden voor extra voorzichtigheid — niet het bewijs dat het controleprobleem is opgelost.

Wat de classificatie ‘Critical’ inhoudt

OpenAI stelt dat Astra, mits het de juiste hulpmiddelen en toegang krijgt, eerder onbekende beveiligingslekken kan opsporen en manieren kan ontwikkelen om die in veel goed beveiligde systemen te misbruiken, zonder dat een mens elke stap aanstuurt.1113

Dat gaat verder dan een chatbot die een technische vraag beantwoordt. Het betreft een AI-systeem dat substantiële delen van een cyberbeveiligingsproces zelfstandig kan uitvoeren: een doelwit beoordelen, zwakke plekken vinden, een route voor misbruik ontwikkelen en naar een doel blijven toewerken.

Voor de lancering meldde OpenAI dat het op basis van eigen evaluaties en beoordelingen door externe deskundigen niet kon uitsluiten dat Astra dit niveau had bereikt. Het bedrijf zette daarop delen van het interne ontwikkelwerk tijdelijk stil en activeerde veiligheidsprotocollen om het risico te beoordelen.115

De hoofdvraag: groeien de mogelijkheden sneller dan het toezicht?

Pachocki’s centrale punt gaat over controleerbaarheid. Hoe capabeler modellen worden, hoe moeilijker het wordt om precies te begrijpen wat zij kunnen en of bestaande methoden om hun gedrag te observeren betrouwbaar blijven. Hij zei tegen NBC News dat huidige technieken voor monitoring en observatie mogelijk niet standhouden naarmate systemen geavanceerder worden — en dat die systemen mogelijk aan menselijk toezicht kunnen ontsnappen.7

Daarom gaat de discussie niet alleen over schadelijke antwoorden. De lastigere opgave is een agent die hulpmiddelen gebruikt, zich aanpast aan feedback, over meerdere stappen opereert en met mensen of digitale systemen communiceert terwijl hij een doel nastreeft. Een zeer capabele cyberagent kan risico’s veroorzaken door zijn handelingen, niet alleen door één zichtbaar onveilig antwoord.

Waarom toezicht op de redenering geen volledige oplossing is

Een benadering binnen AI-veiligheid is het inspecteren van de uitgeschreven redenering van een model, vaak chain-of-thought monitoring genoemd. OpenAI heeft beschreven dat dit toezicht gedrag kan helpen detecteren zoals het ondermijnen van tests, het misleiden van gebruikers of het te vroeg opgeven van moeilijke taken.

Pachocki’s waarschuwing onderstreept echter de beperking van zo’n signaal als blijvende veiligheidswaarborg. Als een geavanceerd systeem zijn intenties kan verbergen, zwakke plekken in evaluatiemethoden kan benutten of zich na inzet anders gedraagt, biedt zichtbare redenering op zichzelf mogelijk onvoldoende zekerheid. NBC News meldde dat Pachocki een verslechtering van het vermogen om modellen te monitoren niet aanvaardbaar vindt naarmate hun capaciteiten toenemen.7

De praktische consequentie: veiligheid kan niet rusten op één dashboard, één evaluatie of één door het model gegeven uitleg. Er zijn meerdere verdedigingslagen nodig, waaronder tests, gecontroleerde toegang, operationele beschermingsmaatregelen en voortdurende toetsing van het gedrag van een agent in realistische omgevingen.

Waarom een lancering en een waarschuwing naast elkaar kunnen bestaan

De schijnbare tegenstelling is reëel: OpenAI bracht Astra uit terwijl het publiekelijk erkende dat het model een ongekende categorie voor cybercapaciteiten had bereikt. Het bedrijf stelt echter dat een ‘Critical’-classificatie juist aanleiding moet zijn voor zwaardere bescherming tijdens de ontwikkeling en vóór de uitrol.11

OpenAI zegt de toegang tot Astra’s meest geavanceerde cybermogelijkheden te hebben beperkt en aanvullende veiligheidsmaatregelen te hebben ingevoerd. Het bedrijf stelt ook dat die maatregelen het risico op ernstige schade voor de uitrol voldoende verkleinen.14

Daarmee is het langetermijnprobleem rond afstemming en toezicht niet opgelost. Er zijn in feite twee verschillende vragen:

• Kan een specifiek model onder de huidige beperkingen en beschermingsmaatregelen worden ingezet?
• Zijn de methoden van de sector om steeds autonomere systemen te begeleiden robuust genoeg om snel verder op te schalen?

Pachocki’s waarschuwing richt zich vooral op die tweede vraag.

Wat ‘vertragen’ hier betekent

Een vrijwillige vertraging is vooral een voorzorgsmaatregel bij een gebrek aan zekerheid. Als ontwikkelaars niet met vertrouwen kunnen beoordelen wat een agent kan, kunnen vaststellen wanneer die misleidend handelt of hem kunnen begrenzen wanneer hij faalt, neemt het risico toe dat veiligheidsmaatregelen pas achteraf reageren in plaats van vooraf voorkomen.

OpenAI’s eigen reactie op Astra laat die redenering zien: voorlopige evaluaties leidden ertoe dat het bedrijf vóór de lancering een deel van de ontwikkeling pauzeerde en veiligheidsprotocollen activeerde.115 De bredere beleidsvraag is of vergelijkbare drempels voor AI-capaciteiten moeten leiden tot gezamenlijke, onafhankelijk controleerbare maatregelen bij laboratoria die geavanceerde AI ontwikkelen, in plaats van dat elke ontwikkelaar zelf het tempo bepaalt.

Conclusie

Astra’s ‘Critical’-classificatie voor cybersecurity is belangrijk omdat zij AI-veiligheid aan een tastbare capaciteit koppelt: het met beperkte menselijke aansturing vinden en misbruiken van onbekende kwetsbaarheden in beschermde systemen.13 Pachocki’s oproep tot voorzichtigheid volgt uit de kloof die daardoor zichtbaar wordt. Krachtige agenten kunnen binnenkort zelfstandiger handelen dan huidige monitoringssystemen betrouwbaar kunnen interpreteren of beheersen.

De lancering bewijst dus niet dat het veiligheidsvraagstuk is afgedaan. Zij laat zien dat het vraagstuk operationeel is geworden: beschermingsmaatregelen, toegangscontroles, evaluaties en gedeelde normen moeten minstens zo snel verbeteren als de systemen waarop ze toezicht moeten houden.