AnswersPublished14 sources
Sampura Research kiest voor menselijke controle naast AI
Sampura Research is een Londense non profitorganisatie voor AI veiligheid, opgericht door Rishub Jain en Josh Jacob, voormalige onderzoekers van Google DeepMind. De organisatie waarschuwt dat AI systemen die andere AI systemen beoordelen weliswaar snel en goedkoop zijn, maar menselijke controle niet volledig kunnen...
Gepubliceerd doorBewerkt met GPT-5.6 LunaAfbeeldingen gegenereerd met GPT Image 1.5
Research answer
Key takeaways
- Sampura Research is een Londense non profitorganisatie voor AI veiligheid, opgericht door Rishub Jain en Josh Jacob, voormalige onderzoekers van Google DeepMind.
- De organisatie waarschuwt dat AI systemen die andere AI systemen beoordelen weliswaar snel en goedkoop zijn, maar menselijke controle niet volledig kunnen vervangen.
- Sampura wil hybride beoordelaars ontwikkelen die mensen en AI combineren, met menselijke tussenkomst bij onzekere of risicovolle gevallen.
- De eerste onderzoeksfase omvat een openbare ranglijst met meer dan twintig subdatasets over onder meer misleiding, culturele vooringenomenheid en onveilige acties van AI agenten.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Sampura Research, the London based nonprofit launched on August 24, 2026 by former Google DeepMind researchers Rishub Jain, Joshua J. Article summary: Sampura Research is a London AI safety nonprofit founded by former Google DeepMind researchers Rishub Jain and Josh Jacob—not, based on its own announcement, by Alex Adams.. Topic tags: general web, ai safety, openai, llm, ai. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and
Wat is Sampura Research?
Sampura Research is een Londense non-profitorganisatie die onderzoek doet naar de veiligheid van kunstmatige intelligentie. De organisatie werd opgericht door Rishub Jain en Josh Jacob, voormalige onderzoekers van Google DeepMind. Volgens de eigen aankondiging werd Sampura publiek gelanceerd op 25 augustus 2026, met een eerste financieringstoezegging van 11 miljoen dollar van Coefficient Giving: 7 miljoen dollar voor het eerste jaar en nog eens 4 miljoen dollar voor later. Alex Adams wordt genoemd als iemand die feedback gaf op de aankondiging, niet als medeoprichter. 4
De kern van het project is mens-AI-complementariteit voor schaalbaar toezicht. Sampura wil dus niet simpelweg meer mensen inzetten om ieder AI-antwoord handmatig te controleren. In plaats daarvan onderzoekt de organisatie hoe menselijke expertise gericht kan worden ingezet naast geautomatiseerde beoordelaars.
Waarom AI niet alleen AI zou moeten controleren
Veel AI-labs gebruiken inmiddels grote taalmodellen als beoordelaars van andere modellen. Dat is sneller en goedkoper dan uitsluitend menselijke controle. Bovendien kunnen AI-systemen op sommige tests meer kwetsbaarheden signaleren dan mensen. 4
Sampura stelt daar tegenover dat menselijke beoordelaars eigenschappen behouden die moeilijk volledig te automatiseren zijn. Mensen kunnen bijvoorbeeld:
- onverwachte, grillige of zogenoemde ‘jagged’ fouten herkennen;
- een onafhankelijke controle vormen wanneer een model en zijn beoordelaar elkaar mogelijk gaan bevestigen;
- nadenken over nieuwe of veranderende menselijke waarden, waarvoor nog geen vaste beoordelingsregel bestaat.
De organisatie beweert daarmee niet dat mensen altijd beter zijn dan AI. Het punt is eerder dat mensen en AI verschillende zwakke en sterke kanten hebben. Een veilig systeem zou die verschillen volgens Sampura doelgericht moeten benutten.
Wat zijn hybride ‘judges’?
In dit onderzoek is een judge een mens, een AI-systeem of een combinatie van beide die beoordeelt of het gedrag van een AI correct en in lijn met veiligheidsdoelen is. Dat kan gaan om een afzonderlijk antwoord, maar ook om het volledige verloop van een AI-agent die zelfstandig meerdere stappen uitvoert. 4
Sampura wil onder meer systemen ontwikkelen die:
- de mate van zekerheid van een AI-beoordelaar inschatten;
- twijfelgevallen doorsturen naar een menselijke expert;
- taken of deeltaken verdelen tussen mensen en AI;
- menselijke beoordelaars voorzien van hulp die specifiek op hun taak is afgestemd.
Het doel is dus niet dat mensen alles opnieuw nakijken. Menselijke aandacht moet vooral terechtkomen bij gevallen waarin die de grootste veiligheidswinst oplevert.
Een openbare test voor AI-beoordelaars
Tijdens de eerste zes maanden wil Sampura een openbare, voortdurend bijgewerkte ranglijst opbouwen. Die moet meer dan twintig subdatasets bevatten, met onderwerpen zoals het herkennen van misleiding, culturele vooringenomenheid en onveilige handelingen van AI-agenten. 4
De beoordelaars worden niet alleen getest op statische voorbeelden. Sampura wil ook onderzoeken wat er gebeurt wanneer het model dat onder toezicht staat zich tijdens reinforcement learning — leren op basis van beloningen — actief tegen de beoordelaar gaat optimaliseren. Dat is een belangrijke test voor reward hacking: een situatie waarin een AI-systeem de beoordelingsmaatstaf weet te omzeilen zonder werkelijk het gewenste doel te bereiken.
De organisatie zegt onderzoeksartikelen, code, datasets en ranglijsten openbaar te willen maken. Daarmee kan het werk door anderen worden gecontroleerd en herhaald.
Van antwoorden beoordelen naar risico’s voorspellen
De aangekondigde agenda gaat verder dan klassieke scenario’s rond een ‘op hol geslagen’ AI. Sampura noemt ook risico’s zoals vooroordelen, onveilige interacties met kinderen en afhankelijkheid van zogenoemde companion-AI.
Op langere termijn wil de organisatie niet alleen AI-uitvoer laten beoordelen, maar ook de onderliggende instructies, beoordelingsrubrieken en testgevallen helpen opstellen en evalueren. Dat kan onderzoekers helpen om fouten eerder te voorzien. Het blijft echter belangrijk om de reikwijdte nuchter te houden: dit is een onderzoeksprogramma, geen aangetoonde methode om AI-systemen volledig onder controle te houden. 4
Werkt het ook in de praktijk?
De uiteindelijke test is niet alleen of een beoordelaar hoog scoort op een benchmark. Sampura wil weten of betere beoordelaars er daadwerkelijk voor zorgen dat modellen minder vaak reward hacking vertonen. Ook wil de organisatie bepalen wanneer een beoordelaar opnieuw moet worden getraind omdat de modellen veranderen.
Daarbij ontstaat een praktische afweging tussen kosten, snelheid en kwaliteit. Mogelijk worden de systemen eerst door onafhankelijke externe beoordelaars getest. Daarna zouden ze kunnen worden ingezet bij het trainen, evalueren en monitoren van geavanceerde modellen in frontierlabs — onderzoekslaboratoria die aan de krachtigste AI-systemen werken. 4
Waarom het tekort aan evaluatoren relevant is
De plannen van Sampura raken aan een groter probleem: er zijn maar weinig mensen met ervaring in technische AI-evaluatie. Een vacature van METR voor evaluatie-executie vermeldt een jaarlijks basissalaris van 285.548 tot 503.116 dollar, met ruimte om voor uitzonderlijke kandidaten nog hoger te gaan. Dat illustreert hoe schaars dit soort expertise is. 9
Sampura zegt in Londen technisch oprichters- en onderzoekspersoneel te willen aannemen. Voor de specifieke bewering dat de organisatie minstens zes mensen zal werven met salarissen tussen 100.000 en 290.000 pond is in de beschikbare primaire aankondiging echter onvoldoende bewijs. Die aankondiging vermeldt alleen dat er in Londen wordt geworven voor de eerste technische medewerkers. 4
Een technisch antwoord op een bestuurlijk probleem
In juli 2026 ondertekenden meer dan 1.100 mensen uit de frontier-AI-sector een open brief waarin zij opriepen tot internationale technische en bestuurlijke mogelijkheden om de ontwikkeling van AI bewust te vertragen wanneer die sneller gaat dan veilige menselijke controle kan bijhouden. 1
Sampura kan aan zo’n debat een mogelijke technische bouwsteen leveren: betrouwbaardere en controleerbare evaluaties. Maar de organisatie kan zelf geen internationale afspraken afdwingen, geen wettelijke bevoegdheid creëren en niet automatisch toegang krijgen tot de modellen of systemen van commerciële AI-labs. Haar werk kan governance aanvullen, maar niet vervangen.
Wat betekent Jain’s vertrek bij DeepMind?
Jain vertrok na een periode bij Google DeepMind om Sampura op te richten. Zijn vertrek viel samen met berichtgeving over meerdere vertrekken bij DeepMind. De formulering dat vijf kernonderzoekers in zes dagen vertrokken, lijkt echter afkomstig uit zwakkere secundaire berichtgeving en kan op basis van de hier beschikbare bronnen niet als onafhankelijk vastgesteld feit worden gepresenteerd. 5
Ook de brede conclusie dat AI-bedrijven ‘nog niet kunnen beheersen wat ze hebben gebouwd’ wordt door het beschikbare bewijs niet onderbouwd. De voorzichtiger conclusie is wel verdedigbaar: toezicht op steeds krachtigere modellen is nog niet bewezen robuust, ervaren evaluatoren zijn schaars en Sampura probeert menselijke inbreng schaalbaarder en weerbaarder te maken.
Daarmee kiest de organisatie voor een duidelijke middenweg. Niet: mensen moeten elke AI-beslissing zelf controleren. Ook niet: AI kan veilig volledig toezicht houden op AI. De inzet is een systeem waarin menselijke expertise juist wordt gebruikt op de momenten waarop geautomatiseerde controle het meest onzeker of kwetsbaar is.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Sampura Research kiest voor menselijke controle naast AI"?
Sampura Research is een Londense non profitorganisatie voor AI veiligheid, opgericht door Rishub Jain en Josh Jacob, voormalige onderzoekers van Google DeepMind.
What are the key points to validate first?
Sampura Research is een Londense non profitorganisatie voor AI veiligheid, opgericht door Rishub Jain en Josh Jacob, voormalige onderzoekers van Google DeepMind. De organisatie waarschuwt dat AI systemen die andere AI systemen beoordelen weliswaar snel en goedkoop zijn, maar menselijke controle niet volledig kunnen vervangen.
What should I do next in practice?
Sampura wil hybride beoordelaars ontwikkelen die mensen en AI combineren, met menselijke tussenkomst bij onzekere of risicovolle gevallen.