Sampura Research wil de menselijke rechter in AI-toezicht behouden

Sampura Research is een Londense non-profitorganisatie voor AI-veiligheid. De centrale vraag: wie moet bepalen of een steeds krachtiger AI-systeem correct en veilig handelt? Het antwoord van Sampura is niet dat mensen uit de beoordelingsketen moeten verdwijnen. De organisatie wil systemen bouwen waarin mensen en AI de verantwoordelijkheid voor toezicht delen.

Sampura zegt een eerste subsidie van 11 miljoen dollar te hebben ontvangen van Coefficient Giving: 7 miljoen dollar voor het eerste jaar en nog eens 4 miljoen dollar die is toegezegd. 1

De aankondiging van de publieke lancering is gedateerd op 25 augustus 2026, niet op 24 augustus. Daarin worden Rishub Jain en Josh Jacob als oprichters genoemd. Eerdere berichten op sociale media verwezen ook naar betrokkenheid van Alex Adams, maar uit de officiële aankondiging blijkt niet dat alle drie formeel de oprichters van de non-profit zijn. 112

Wat bedoelt Sampura met een ‘rechter’ voor AI?

In de terminologie van Sampura kan een rechter een mens, een AI-model of een hybride systeem zijn dat beoordeelt of het gedrag van een ander AI-systeem correct en in lijn met de gewenste waarden is. Het kan daarbij gaan om één antwoord, een volledig gesprek of een meerstaps traject van een AI-agent. 1

Dat onderscheid is belangrijk. Toezicht wordt vaak gezien als een losstaand probleem naast de capaciteiten van een model. Een model kan vloeiend antwoorden en ingewikkelde taken uitvoeren, maar toch zijn beoordelaar misleiden, mazen in een beloningsfunctie uitbuiten of tijdens een lange reeks handelingen een onveilige actie ondernemen. Sampura wil juist de systemen verbeteren die zulke fouten moeten opsporen.

De organisatie noemt dit mens-AI-complementariteit voor schaalbaar toezicht: automatisering inzetten waar die betrouwbaar is, maar menselijke betrokkenheid behouden wanneer interpretatie, beoordeling of gevoelige waardekeuzes nodig zijn. 1

Waarom Sampura niet volledig op AI-toezicht vertrouwt

AI-beoordelaars zijn aantrekkelijk omdat ze sneller en goedkoper op grote schaal kunnen werken. Maar snelheid alleen maakt een beoordelaar nog niet betrouwbaar. In de aankondiging noemt Sampura verschillende risico’s:

• Ongelijke capaciteiten: AI-prestaties kunnen ‘hakkelig’ zijn. Een systeem kan op bepaalde taken sterk presteren en op andere, ogenschijnlijk vergelijkbare taken onverwacht zwak zijn.
• Gedeelde fouten: menselijke en AI-beoordelaars kunnen overlappende fouten maken, vooral wanneer een model wordt geoptimaliseerd om het beoordelingsproces te bespelen.
• Manipulatie en samenspanning: het systeem dat onder toezicht staat, kan proberen een automatische beoordelaar uit te buiten, te misleiden of te beïnvloeden.
• Nieuwe situaties: onbekende of dubbelzinnige gevallen kunnen een menselijke afweging over waarden vereisen in plaats van het simpel toepassen van aangeleerde voorkeuren.

Dit betekent niet dat menselijke beoordelaars altijd beter zijn. Het verklaart wel waarom Sampura wil onderzoeken welke combinatie van menselijk en machinaal toezicht onder druk het beste werkt, in plaats van vooraf te kiezen voor uitsluitend mensen of uitsluitend AI. 1

Hoe wordt het onderzoek getest?

Het eerste programma van zes maanden richt zich op een gevarieerde ranglijst voor AI-beoordelaars, met meer dan 20 deel-datasets. De geplande onderwerpen omvatten onder meer het opsporen van misleiding, culturele vooringenomenheid en onveilige handelingen door AI-agenten. 1

De evaluaties blijven niet beperkt tot statische vraag-en-antwoordtests. Sampura wil ook situaties testen waarin het gecontroleerde model tijdens reinforcement learning — leren op basis van beloningen — rechtstreeks probeert te optimaliseren tegen de beoordelaar. Zo moet zichtbaar worden of een beoordelaar blijft functioneren wanneer het beoordeelde systeem een reden heeft om zwakke plekken te vinden en uit te buiten. 1

Het onderzoek vergelijkt drie brede benaderingen:

1. Menselijke beoordelaars, die rechtstreeks een oordeel geven.
2. Beoordelaars die uitsluitend AI gebruiken, met meer snelheid en schaalbaarheid.
3. Hybride beoordelaars, die het beoordelingswerk tussen mensen en AI verdelen of coördineren.

Het doel is niet simpelweg een hoge score op één beperkte benchmark. Sampura zoekt beoordelaars die op een breed pakket tests betrouwbaar blijven en blijven werken wanneer de modellen onder toezicht steeds beter worden in het uitbuiten van zwakke plekken in evaluaties. 1

Hoe kan hybride controle eruitzien?

Sampura heeft verschillende mogelijke manieren beschreven om menselijke en machinale beoordelingen te combineren:

• Een AI-systeem kan zijn eigen onzekerheid inschatten en twijfelgevallen doorsturen naar een mens.
• Een routeringssysteem kan een volledige toezichtstaak toewijzen aan een menselijke of een AI-beoordelaar.
• Een complexe opdracht kan worden opgesplitst in kleinere onderdelen, waarna verschillende deeltaken naar mensen of machines gaan.
• Interfaces kunnen menselijke beoordelaars hulpmiddelen geven om moeilijke beoordelingen sneller en consistenter uit te voeren.

Menselijke betrokkenheid wordt daarmee geen alles-of-nietskeuze, maar iets dat moet worden geoptimaliseerd. Sommige gevallen zijn goedkoop en betrouwbaar automatisch te controleren; andere verdienen de tragere, meer genuanceerde aandacht van een mens. De relevante afweging is dus niet simpelweg ‘mens versus AI’, maar een combinatie van nauwkeurigheid, kosten, snelheid en weerstand tegen doelbewuste manipulatie. 1

De langere onderzoeksagenda

Na het ontwikkelen van betere beoordelaars wil Sampura testen of deze systemen het zogenoemde reward hacking — het uitbuiten van een beloningssysteem zonder het bedoelde doel echt te bereiken — tijdens modeltraining kunnen verminderen. Ook wil de organisatie onderzoeken hoeveel menselijke inzet nodig is, hoe toezicht zich moet aanpassen wanneer basismodellen leren om beoordelaars te misleiden en of beoordelaars voor meer kunnen worden gebruikt dan alleen het classificeren van uitkomsten. 1

Dat bredere onderzoek kan zich uitstrekken tot het opstellen of beoordelen van specificaties, instructies, beoordelingsrubrieken en testgevallen waarmee AI-systemen worden getraind en geëvalueerd. Sampura zegt de resultaten te willen publiceren via wetenschappelijke artikelen, code, datasets en leaderboards. 1

Het beschikbare lanceringsmateriaal ondersteunt deze algemene agenda rond datasets, benchmarks, routering en hulpmiddelen voor menselijke beoordelaars. Het bevestigt niet elke specifiekere projectnaam die aan de organisatie wordt gekoppeld. Dat geldt onder meer voor een zogenoemde dataset voor ‘vooruitkijkende schade’ en een bevestigd open-sourceplatform voor menselijke beoordelingen. Die omschrijvingen moeten daarom als onbevestigd worden gezien, niet als aangekondigde producten.

Waarom de wervingscampagne veel zegt

Sampura zegt technisch personeel voor de oprichtingsfase te zoeken in Londen. Het programma vereist kennis van machine learning, evaluatieontwerp, mens-computerinteractie, dataverwerking en implementatie. 1 Eerdere openbare berichten spraken over minstens zes extra onderzoekers en noemden salarissen van 100.000 tot 290.000 pond, maar die exacte bedragen zijn niet bevestigd in de officiële aankondiging van de non-profit. 1213

De bredere sector voor AI-evaluatie vist bovendien in een kleine vijver van specialisten. In een eigen vacature noemt METR voor een functie als Member of Technical Staff, Evaluation Execution een basissalaris van 285.548 tot 503.116 dollar. De organisatie zegt voor uitzonderlijk ervaren kandidaten eventueel nog meer te kunnen betalen. 18

Dat laat zien voor welke uitdaging Sampura staat: betrouwbaar toezicht vraagt zowel technisch onderzoek als zorgvuldige evaluatie in de praktijk, terwijl organisaties die aan dit probleem werken om veel van dezelfde mensen concurreren.

Onderdeel van een bredere zorg over toezicht op frontier-AI

De lancering van Sampura komt op een moment waarop steeds vaker wordt gewaarschuwd dat AI-ontwikkeling sneller kan gaan dan de systemen die haar moeten controleren. In juli 2026 ondertekenden meer dan 1.100 medewerkers van grote AI-bedrijven een open brief waarin zij de Amerikaanse overheid opriepen internationale technische en bestuurlijke instrumenten te steunen die de ontwikkeling van frontier-AI — de meest geavanceerde modellen — indien nodig bewust kunnen afremmen. De brief vroeg niet om een onmiddellijke stop op AI-ontwikkeling. 40

Ook binnen grote AI-labs was sprake van belangrijke personele verschuivingen. Reuters berichtte over veranderingen in de leiding van Googles AI-divisie en het vertrek van prominente ingenieurs en onderzoekers naar andere bedrijven en start-ups. 49 Die ontwikkelingen vormen context voor de oprichting van Sampura, maar bewijzen niet dat de non-profit het onderliggende veiligheidsprobleem heeft opgelost.

Wat Sampura nu wel en niet kan claimen

De sterkste onderbouwing wijst op Sampura als een onderzoeksorganisatie in een vroege fase die meet- en beslisinfrastructuur voor AI-toezicht ontwikkelt. De benchmarks en hybride evaluatiemethoden kunnen uiteindelijk bruikbaar worden voor AI-labs, onafhankelijke beoordelaars of andere organisaties die modelgedrag testen. 1

Dat is iets anders dan aantonen dat Sampura frontier-systemen kan beheersen. De directe bijdrage van de organisatie is onderzoeken hoe toezicht moet worden ontworpen en getest wanneer het gecontroleerde model krachtig, adaptief en mogelijk gemotiveerd is om beoordelingen te doorstaan zonder werkelijk veilig te handelen.

De centrale inzet is daarom helder: schaalbare AI-veiligheid zal automatisering nodig hebben — maar niet een vorm van automatisering die mensen verwijdert uit de meest ingrijpende beslissingen.