AnswersPublished14 sources
Sampura Research vil la mennesker beholde kontrollen over avansert KI
Sampura Research ble offentlig lansert 25. august 2026 av de tidligere Google DeepMind forskerne Rishub Jain og Josh Jacob.
Publisert avRedigert med GPT-5.6 LunaBilder generert med GPT Image 1.5
Research answer
Key takeaways
- Sampura Research ble offentlig lansert 25. august 2026 av de tidligere Google DeepMind forskerne Rishub Jain og Josh Jacob.
- Organisasjonen har fått et innledende tilsagn på 11 millioner dollar fra Coefficient Giving, hvorav 7 millioner dollar gjelder det første året.
- Sampura mener ikke at mennesker skal kontrollere alle KI svar manuelt, men at mennesker bør kobles inn i de tilfellene der deres vurdering gir størst sikkerhetsgevinst.
- De første seks månedene skal brukes på åpne datasett, tester og en løpende resultatliste for blant annet bedrag, kulturell skjevhet og farlige handlinger fra KI agenter.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Sampura Research, the London based nonprofit launched on August 24, 2026 by former Google DeepMind researchers Rishub Jain, Joshua J. Article summary: Sampura Research is a London AI safety nonprofit founded by former Google DeepMind researchers Rishub Jain and Josh Jacob—not, based on its own announcement, by Alex Adams.. Topic tags: general web, ai safety, openai, llm, ai. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and
Sampura Research er en London-basert ideell organisasjon som forsker på sikkerhet rundt kunstig intelligens. Den ble grunnlagt av de tidligere Google DeepMind-forskerne Rishub Jain og Josh Jacob, og ble offentlig lansert 25. august 2026. Alex Adams nevnes i kunngjøringen som en person som har gitt tilbakemeldinger, men ikke som grunnlegger. 4
Organisasjonen har fått et innledende tilsagn på 11 millioner dollar fra Coefficient Giving – 7 millioner dollar for det første året og ytterligere 4 millioner dollar lovet senere. 4
Et motsvar til «KI overvåker KI»
Mye av arbeidet med såkalt scalable oversight – skalerbart tilsyn – går ut på å bruke store språkmodeller som dommere av andre KI-modeller. Det er raskere og billigere enn å la mennesker vurdere hvert eneste svar.
Sampuras innvending er at menneskelig dømmekraft ikke uten videre kan erstattes. Mennesker kan oppdage modellens ujevne eller «taggete» feil, fungere som en uavhengig kontroll mot at modell og dommer lurer hverandre, og diskutere nye eller skiftende menneskelige verdier på en måte automatiserte systemer ikke nødvendigvis kan. 4
Målet er derfor ikke å sende alle KI-resultater til et menneske. I stedet vil Sampura finne ut når menneskelig involvering faktisk er mest verdifull.
Hva er en hybrid dommer?
Hos Sampura betyr en «dommer» et menneske, en KI-modell eller en kombinasjon av begge som vurderer om en KI har oppført seg korrekt og i tråd med sikkerhetsmålene. Det kan for eksempel være en vurdering av et enkelt svar eller hele handlingsforløpet til en KI-agent.
Organisasjonen vil blant annet undersøke metoder som kan:
- anslå hvor sikker en KI-dommer er på vurderingen sin og sende usikre saker videre til mennesker
- fordele oppgaver eller deloppgaver mellom mennesker og KI
- gi menneskelige kontrollører spesialtilpasset KI-støtte
- balansere kostnad, hastighet og kvalitet i den menneskelige innsatsen
4
En slik modell kan sammenlignes med et sikkerhetsteam som ikke undersøker absolutt alt, men bruker automatiserte verktøy til å finne sakene som trenger ekspertblikk.
Åpne tester for bedrag og farlige handlinger
Sampuras første seksmånedersprogram skal være en offentlig og løpende oppdatert resultatliste med mer enn 20 deldatasett. Temaene skal blant annet omfatte deteksjon av bedrag, kulturell skjevhet og utrygge handlinger fra KI-agenter. 4
Testene skal ikke bare måle hvordan dommerne gjør det på statiske eksempler. Sampura vil også undersøke hva som skjer når modellen som overvåkes, kan optimalisere seg mot dommeren under forsterkende læring. Det er en viktig prøve på såkalt reward hacking – at en modell lærer å oppnå en belønning uten faktisk å oppfylle hensikten bak den.
Sampura sier at organisasjonen vil publisere forskningsartikler, kode, datasett og resultatlister. 4
Skal undersøke flere typer KI-skade
Forskningsplanen handler om mer enn det klassiske bildet av en «vill» eller ukontrollerbar KI. Den omfatter blant annet skjevhet, utrygge samtaler med barn og avhengighet av KI-baserte ledsagere.
På lengre sikt vil Sampura også gå fra å vurdere ferdige KI-svar til å undersøke hvordan man lager og tester instruksjoner, vurderingskriterier og testeksempler. Det kan gjøre det lettere å oppdage feil før de oppstår, men kunngjøringen viser foreløpig til en forskningsretning – ikke en dokumentert evne til å holde avanserte modeller under kontroll. 4
Organisasjonen vil etter hvert måle om bedre dommere faktisk reduserer belønningsmanipulering, når dommerne må trenes på nytt fordi modellene endrer seg, og hvordan menneskelig kontroll kan brukes effektivt i praksis. En mulig fremgangsmåte er først å la uavhengige tredjeparter stressteste systemene, før de eventuelt tas i bruk i trening, evaluering og overvåking hos selskaper som utvikler de mest avanserte modellene. 4
Talent er en flaskehals
Planene kommer samtidig som det er knapphet på personer med erfaring innen KI-evaluering. METR, en organisasjon som tester KI-modellers kapasitet og risiko, har for eksempel lyst ut en stilling innen evaluering med en grunnlønn på 285 548–503 116 dollar i året. Utlysningen åpner for enda høyere lønn til eksepsjonelle kandidater. 9
Det illustrerer hvorfor Sampuras rekruttering i London er strategisk interessant. Den primære kunngjøringen sier imidlertid bare at organisasjonen ansetter tekniske medarbeidere til oppstartsteamet. Det finnes ikke tilstrekkelig primærkildegrunnlag her for den mer spesifikke påstanden om minst seks ansatte med lønn på 100 000–290 000 pund. 4
En del av et større sikkerhetsspørsmål
I juli 2026 signerte mer enn 1 100 personer fra selskaper som utvikler avanserte KI-modeller, et åpent brev som ba om en internasjonal mekanisme for å bremse utviklingen dersom den skulle gå raskere enn mennesker kan føre sikkert tilsyn med. 1
Sampuras arbeid kan bidra med en teknisk forutsetning for en slik mekanisme: mer pålitelige og etterprøvbare evalueringer. Men en forskningsorganisasjon kan ikke alene skape lovhjemmel, internasjonal koordinering, tilgang til modeller eller håndheving. Arbeidet utfyller derfor styring og regulering – det erstatter dem ikke.
Jains avgang ble omtalt i forbindelse med en bredere rekke avganger fra DeepMind. Påstanden om at fem sentrale forskere forlot selskapet i løpet av seks dager, ser imidlertid ut til å stamme fra svakere sekundærkilder og bør ikke behandles som uavhengig bekreftet. 5
Den mest forsvarlige konklusjonen er dermed mer avgrenset enn at KI-selskaper «ikke kan kontrollere det de har bygget». Det som er dokumentert, er at robust overvåking av stadig mer kapable modeller fortsatt ikke er bevist, at evalueringskompetanse er mangelvare, og at Sampura vil gjøre menneskelig medvirkning mer skalerbar og motstandsdyktig – uten å anta at KI trygt kan overvåke KI alene.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Sampura Research vil la mennesker beholde kontrollen over avansert KI"?
Sampura Research ble offentlig lansert 25. august 2026 av de tidligere Google DeepMind forskerne Rishub Jain og Josh Jacob.
What are the key points to validate first?
Sampura Research ble offentlig lansert 25. august 2026 av de tidligere Google DeepMind forskerne Rishub Jain og Josh Jacob. Organisasjonen har fått et innledende tilsagn på 11 millioner dollar fra Coefficient Giving, hvorav 7 millioner dollar gjelder det første året.
What should I do next in practice?
Sampura mener ikke at mennesker skal kontrollere alle KI svar manuelt, men at mennesker bør kobles inn i de tilfellene der deres vurdering gir størst sikkerhetsgevinst.