Shane Legg: AI-säkerheten måste hålla jämna steg med vägen mot AGI

Google DeepMinds medgrundare Shane Legg sätter fingret på en fråga som blir allt viktigare i takt med att AI-modellerna utvecklas: säkerhetsarbetet får inte hamna på efterkälken. När systemen blir mer kapabla måste också metoderna för övervakning, kontroll och styrning utvecklas i samma takt. 141

I samband med varningen lanserade Legg DeepMind Institute (DMI), en ny plattform för forskning, publicering och diskussion om hur artificiell generell intelligens – AGI – kan komma att införas och påverka samhället. 13642

Säkerhet är mer än en teknisk fråga

Leggs budskap handlar inte enbart om hur bra AI blir på enskilda uppgifter. Den centrala frågan är om människor, företag och myndigheter hinner bygga upp tillräcklig tillsyn och kontroll för att systemen ska förbli hanterbara. 1

DMI:s uppdrag är därför bredare än traditionell AI-forskning. Institutet vill främja tvärvetenskaplig forskning, samarbete och debatt om AGI-erans tekniska och samhälleliga frågor: hur AGI-system och grupper av AI-agenter kan byggas och styras säkert, vilka värden som ska prioriteras och vilka institutioner och regler som kan behöva förändras. 16

Områdena omfattar bland annat vetenskap, utbildning, samhälle, offentlig politik, filosofi, ekonomi, säkerhet och mänskligt välbefinnande. 1636

Öppnar för långsammare lanseringar av de mest avancerade modellerna

Legg beskrev Anthropic-vd:n Dario Amodeis förslag om att bromsa, men inte stoppa, lanseringen av de mest avancerade AI-modellerna som ”intressant i riktningen” och ”värt att överväga”. 2

Det är inte ett besked om en ny policy från DeepMind. Men det visar att Legg ser ett försiktigare lanseringstempo som ett seriöst alternativ i debatten om hur kraftfull AI bör släppas när skyddsåtgärderna fortfarande utvecklas. 2

AGI är enligt Legg inte här ännu

Trots nya påståenden från chefer på Nvidia och OpenAI anser Legg att det är för tidigt att säga att AGI redan har uppnåtts. Underlaget redovisar inte någon detaljerad direkt förklaring till varje förmåga som han anser saknas. Den säkra slutsatsen är därför att dagens system, enligt Legg, inte når upp till DeepMinds tröskel för AGI. 4

Google DeepMind beskriver AGI som ett system med den mänskliga hjärnans kognitiva förmågor. Det är en betydligt bredare måttstock än att prestera starkt på vissa tester eller specifika arbetsuppgifter. 13

Samtidigt står Legg fast vid sin långvariga prognos: han är fortsatt ”bekväm” med bedömningen att sannolikheten är 50 procent för ”minimal” AGI till 2028. Det är en prognos, inte en bekräftad tidsplan. 210

De första essäerna: från insyn till ekonomisk omställning

Vid lanseringen publicerade institutet en introduktion och flera mer fördjupade essäer. Tre av de första ämnena visar bredden i satsningen:

1. Insyn i resonemang – Rohin Shah och Anca Dragan argumenterar för att AI-modellers resonemang bör förbli möjliga för människor att tolka, så att modeller kan granskas för exempelvis vilseledning eller strategiskt beteende. 11
2. Ekonomisk politik för AGI – En essä granskar elva möjliga politiska åtgärder för att hantera den ekonomiska störning som mer avancerad och utbredd AI kan skapa. Bedömningen utgår bland annat från välbefinnande, motståndskraft, handlingsutrymme och ekonomisk stabilitet. 39
3. Principer för en ny utopism – Texten undersöker vad mänskligt välbefinnande kan innebära i ett samhälle präglat av AGI, men betonar att ”utopi” inte bör förstås som ett löfte om perfektion. 37

Institutet listar dessutom essän ”A framework for frontier AI and the dawning of a new age”, vid sidan av introduktionen och de tre ämnena ovan. 4138

Slutsatsen: kapacitet och kontroll måste växa tillsammans

Leggs hållning förenar framtidstro med återhållsamhet. Han menar inte att AGI redan finns, men ser ändå en betydande möjlighet – 50 procent – att en minimal form av AGI nås före slutet av 2028. 210

Hans huvudsakliga varning gäller därför inte ett enskilt årtal. Den gäller tempot: om AI-kapaciteten accelererar måste också samhällets förmåga att förstå, övervaka och styra hur tekniken används göra detsamma. 1216