Tidligere DeepMind-forsker advarer: Å «temme tempoet» kan være for svakt

Alex Turner, tidligere forsker ved Google DeepMind, har et skarpere budskap enn den vanlige oppfordringen om å «roe ned» KI-utviklingen: Systemene ved den teknologiske fronten kan være i ferd med å bli bedre raskere enn selskaper, myndigheter – og selv rivaliserende stormakter – klarer å styre dem på en pålitelig måte. I sine offentlige uttalelser peker Turner på sporing av datakraft som en mulig vei til reell regulering. Samtidig advarer han om at frivillig tilbakeholdenhet kan bli utilstrekkelig i et KI-kappløp. 17

Hvorfor Turner sluttet i DeepMind

Turner jobbet i DeepMinds team for skalerbar KI-tilpasning, ofte kalt alignment, før han sa opp i juni 2026. Han oppga at han sluttet etter at Google inngikk en avtale som åpnet for at Pentagon kunne bruke selskapets KI i gradert arbeid. Innvendingen hans var at avtalen manglet bindende begrensninger mot autonome våpen og masseovervåking. 1819

For Turner henger militær bruk og KI-sikkerhet tett sammen: Sikkerhetsprinsipper har liten verdi hvis de ikke kan håndheves når kommersielt og strategisk press øker. Arbeidet hans i DeepMind handlet om tilpasning – å forsøke å sikre at framtidige, svært kapable systemer opptrer i tråd med menneskelig velferd. 19

Risikoen han peker på: tap av kontroll

Turner sier ikke at en katastrofe er uunngåelig. Argumentet er et risikoscenario: Dersom KI-systemer kan forbedre KI-forskning, automatisere deler av sin egen videreutvikling eller operere på et nivå mennesker ikke kan inspisere meningsfullt, kan institusjonene miste evnen til å vurdere og begrense dem i tide.

Faren ligger ikke i «intelligens» alene, men i kombinasjonen av evner, autonomi og manglende pålitelig kontroll. Et system som kan forfølge komplekse mål, få tilgang til verktøy og bidra til å forbedre etterfølgerne sine, kan skape en tilbakekoblingssløyfe der kapasiteten vokser raskere enn menneskelig evaluering og styring.

Turner har derfor argumentert for at selskaper ikke bør la KI forbedre seg selv til et nivå av intelligens som ikke lar seg kontrollere. Dette er en advarsel om en plausibel feilmodus – ikke dokumentasjon på at et slikt system allerede finnes, eller en fastslått prognose om menneskehetens undergang. 1719

Derfor står datakraft sentralt

Datakraft – de spesialiserte brikkene, datasentrene og strømmen som trengs for å trene avanserte modeller – er en knapp og fysisk innsatsfaktor i utviklingen av KI ved fronten. Turner har omtalt sporing av slik datakraft som et mulig grunnlag for regler som faktisk kan håndheves. 17

I praksis kan et system for å overvåke datakraft gi myndigheter og uavhengige kontrollører innsikt i uvanlig store treningskjøringer. Det kan utløse krav om lisens, tilsyn eller vurdering ved bestemte terskler, og gjøre det vanskeligere å i det stille passere avtalte kapabilitetsgrenser. Det løser ikke tilpasningsproblemet alene. Poenget er styring: Det gir noe konkret å revidere før en modell tas i bruk.

Her går skillet i debatten. Frivillige løfter kan vise intensjon, mens overvåking og bindende krav er ment å virke også når et enkelt selskap har sterke grunner til å løpe raskere enn konkurrentene.

Amodeis alternativ: Temme tempoet, ikke stanse alt

Anthropic-sjef Dario Amodei har foreslått å «temme tempoet ved fronten» (pacing the frontier): å redusere farten KI-evnene forbedres i, slik at arbeid med tilpasning, sikkerhetstiltak og ekstern evaluering kan holde følge. Han skiller uttrykkelig dette fra å stanse modelltrening eller teknologisk framgang. 16

Planen hans har tre deler:

1. Uavhengige kontrollører inne i laboratoriene. Selskaper som utvikler de mest avanserte modellene, skal gi eksterne kontrollører løpende tilgang på nivå med ansatte. De skal kunne etterprøve sikkerhetspraksis, vurdere tilpasning og rapportere hendelser. Anthropic har selv forpliktet seg til dette. 16
2. Samordning mellom demokratiske land og ledende KI-selskaper. Deltakerne skal arbeide mot felles sikkerhetsstandarder og grenser for ukontrollert vekst i KI-evner. 116
3. Etter hvert internasjonalt samarbeid, også med Kina der det er mulig. Målet er å unngå et farlig kappløp der tilbakeholdenhet i ett land bare flytter utviklingen til et annet. 18

Rammeverket åpner for fortsatt utvikling helt i front, men krever en langsommere og mer etterprøvbar framdrift. Turner legger større vekt på å hindre ukontrollert selvforbedring og på å regulere innsatsfaktorene som gjør slik utvikling mulig i utgangspunktet.

Altman, Musk og Hassabis: Støtte, men ikke full enighet

Amodeis forslag fikk uvanlig offentlig støtte fra flere ledere i konkurrerende KI-organisasjoner.

• Sam Altman har sagt at OpenAI vil innføre uavhengige kontrollører med tilgang på nivå med ansatte, og at selskapet ønsker sikkerhetskrav for laboratorier ved KI-fronten velkommen. 212
• Elon Musk støttet offentlig Amodeis retning med ordene «Dario har rett». Tilgjengelig dekning gir imidlertid færre detaljer om hvilken konkret reguleringsmodell han støtter. 47
• Demis Hassabis sa at Amodeis essay peker mot riktig vei framover. Dermed støtter også DeepMind-sjefen den brede retningen mot sterkere vern og lavere tempo ved fronten. 27

Støtten innebærer ikke at de er enige om alle terskler, håndhevingsmekanismer eller geopolitiske avveiinger. Men den viser at debatten i større grad har flyttet seg fra om KI-sikkerhet trenger oppmerksomhet, til om selskapene kan fortsette å skalere mens sikkerhetsarbeidet forsøker å ta dem igjen.

Kina er både innvendingen og grunnen til samarbeid

Standardinnvendingen mot å bremse er geopolitisk: Hvis amerikanske selskaper holder igjen, kan Kina fortsette. Reuters beskriver den større konflikten som en strid mellom koordinert tilbakeholdenhet og mer markedsstyrte sikkerhetstiltak, der konkurransen med Kina er sentral. 1

Amodeis svar er trinnvis koordinering: først blant demokratiske land og deres ledende laboratorier, og deretter bredere. Men global enighet er den mest usikre delen av planen. Kontrollmuligheter, strategisk mistillit og ulike nasjonale interesser gjør en bindende avtale vanskelig.

Turners vektlegging av datakraft viser hvorfor tilhengere ønsker mekanismer som er mer enn en oppfordring til godvilje. Hvis myndigheter kan identifisere og kontrollere ressursene bak de største treningskjøringene, kan de få et mer håndhevbart virkemiddel enn løfter avgitt midt i et internasjonalt kappløp. 17

Den egentlige striden: Hvem må bevise at det er trygt?

Den gryende enigheten i bransjen er begrenset. Amodei, Altman, Musk og Hassabis har støttet en form for lavere tempo og sterkere evaluering. 127 Men hovedkonflikten står igjen:

• Skal selskaper fortsette å utvikle KI ved fronten mens sikkerhetspraksisen forbedres parallelt?
• Eller bør enkelte utviklingsbaner – særlig systemer som kan forbedre seg selv uten effektiv kontroll – forbys inntil det finnes en troverdig måte å styre dem på?
• Kan eksterne kontrollører være uavhengige og godt nok informert til å utfordre laboratoriene de vurderer?
• Og kan internasjonalt samarbeid hindre at sikkerhetsregler blir en konkurranseulempe for dem som faktisk følger dem?

Turners bidrag er å insistere på at dette ikke bare er et spørsmål om bedriftenes forsiktighet. Hvis den reelle bekymringen er tap av kontroll, må svaret kunne revideres og håndheves. Amodeis plan er et viktig skritt mot ekstern innsyn; Turners advarsel forklarer hvorfor kritikerne mener den avgjørende testen er om tilsynet faktisk kan stanse et farlig kapabilitetskappløp. 1617