AnswersPublished23 sources
Shane Legg advarer: KI-sikkerheten må holde tritt med veien mot AGI
Shane Legg advarer om at KI fremskritt ikke må gå raskere enn sikkerhetstiltakene som trengs for å overvåke og kontrollere systemene. DeepMind Institute skal samle tverrfaglig forskning og debatt om hvordan stadig kraftigere KI og AGI bør bygges, styres, tas i bruk og brukes.
Publisert avRedigert med GPT-5.6 TerraBilder generert med GPT Image 2
Research answer
Key takeaways
- Shane Legg advarer om at KI fremskritt ikke må gå raskere enn sikkerhetstiltakene som trengs for å overvåke og kontrollere systemene.
- DeepMind Institute skal samle tverrfaglig forskning og debatt om hvordan stadig kraftigere KI og AGI bør bygges, styres, tas i bruk og brukes.
- De første essayene handler blant annet om innsyn i KI resonnering, økonomisk politikk ved KI drevet omstilling og menneskelig livsutfoldelse.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Google DeepMind co-founder Shane Legg warn about the relationship between rapidly advancing artificial intelligence and safety cont. Article summary: Legg’s central warning was that AI capabilities must not advance faster than the safeguards needed to monitor and control them. He launched the DeepMind Institute (DMI), a discussion and publishing platform on how AGI sh. Topic tags: general, news, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks
Google DeepMind-medgründer Shane Legg har et klart budskap: Kapasiteten i kunstig intelligens må ikke utvikle seg raskere enn sikkerhetsmekanismene som skal overvåke og kontrollere stadig kraftigere systemer. Advarselen kom da han lanserte DeepMind Institute (DMI), en ny arena for spørsmål knyttet til innføring og konsekvenser av kunstig generell intelligens, ofte omtalt som AGI. 1
41
Sikkerheten må ikke havne på etterskudd
Leggs poeng er ikke bare at modeller blir mer kapable. Det avgjørende er om kontroll, overvåking, styring og styringsmodeller utvikler seg fort nok til at systemene fortsatt kan håndteres forsvarlig. 1
Derfor er instituttets mandat bredere enn rent teknisk KI-forskning. DMI skal stimulere til tverrfaglig forskning, samarbeid og debatt om de viktigste tekniske og samfunnsmessige spørsmålene i en AGI-æra – blant annet hvordan AGI-systemer og fellesskap av KI-agenter kan bygges og styres på en sikker måte. 16
DeepMind Institute er en arena, ikke et nytt KI-laboratorium
DeepMind Institute er en publiserings- og debattplattform, ikke en erstatning for Google DeepMinds ordinære KI-forskning. Målet er å samle bidrag fra Google DeepMind og forskningsmiljøer utenfor selskapet om hvordan stadig mer kapabel KI bør utvikles, reguleres, tas i bruk og anvendes. 36
42
Temaene spenner over vitenskap, utdanning, samfunn, politikk, filosofi, økonomi, sikkerhet og menneskelig livsutfoldelse. Det innebærer både spørsmål om hvordan alvorlige risikoer kan begrenses, og hvilke institusjoner, regler og samfunnsmål som eventuelt må endres dersom AGI tas i bred bruk. 16
36
Å bremse lanseringer er «verdt å vurdere»
Legg omtalte Anthropic-sjef Dario Amodeis forslag om å bremse, men ikke stanse, lanseringen av de mest avanserte KI-modellene som «interessant i retning» og «verdt å vurdere». 2
Dette er ikke en kunngjort DeepMind-policy. Men uttalelsen viser at Legg ser en mer forsiktig lanseringstakt som et seriøst alternativ i debatten om hvordan utrulling kan holdes i takt med nødvendige sikkerhetstiltak. 2
Han mener det er for tidlig å erklære AGI som oppnådd
Legg sa at det fortsatt er for tidlig å hevde at AGI allerede er oppnådd, til tross for nylige påstander fra ledere i Nvidia og OpenAI. Rapporteringen gir ikke en fullstendig, direkte forklaring på alle mangler han sikter til. Den mest forsvarlige konklusjonen er derfor at Legg ikke mener dagens systemer oppfyller DeepMinds terskel for AGI. 4
Google DeepMind har beskrevet AGI som et system med den menneskelige hjernens kognitive evner. Det er en langt bredere standard enn å være svært god på enkelte tester eller avgrensede oppgaver. 13
Samtidig sa Legg at han fortsatt er «komfortabel» med sitt mangeårige anslag om 50 prosent sannsynlighet for «minimal» AGI innen 2028. Det er en prognose, ikke en bekreftet tidsplan. 2
10
Dette handler de første essayene om
Lanseringen omfatter et introduksjonsessay og flere faglige essays. Tre av de sentrale tidlige temaene viser hvor bredt instituttet legger opp arbeidet:
- Åpenhet om resonnering – Rohin Shah og Anca Dragan argumenterer for å bevare tolkbar resonnering som mennesker kan bruke til å overvåke modeller for bedrag eller strategisk skjuling.
11
- Økonomisk politikk for AGI – Et essay vurderer 11 mulige tiltak for å møte potensiell økonomisk uro fra stadig mer avansert og utbredt KI, vurdert blant annet ut fra velferd, motstandskraft, handlingsrom og økonomisk stabilitet.
39
- Prinsipper for en ny utopisme – Essayet drøfter hva menneskelig livsutfoldelse kan bety i et samfunn formet av AGI, samtidig som det advarer mot å behandle «utopi» som et løfte om perfeksjon.
Instituttet lister også et fjerde fagessay ved lanseringen: «A framework for frontier AI and the dawning of a new age», i tillegg til introduksjonen og de tre temaene over. 41
38
Hovedpoenget
Leggs standpunkt kombinerer hastverk med tilbakeholdenhet. Han mener ikke at AGI allerede er her, men tillegger fortsatt «minimal» AGI innen 2028 en sannsynlighet på 50 prosent. Varslet hans handler dermed mindre om én konkret dato enn om et krav til styring: Dersom KI-kapasiteten akselererer, må også evnen til å forstå, overvåke og forme bruken av teknologien akselerere. 1
2
16
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Shane Legg advarer: KI-sikkerheten må holde tritt med veien mot AGI"?
Shane Legg advarer om at KI fremskritt ikke må gå raskere enn sikkerhetstiltakene som trengs for å overvåke og kontrollere systemene.
What are the key points to validate first?
Shane Legg advarer om at KI fremskritt ikke må gå raskere enn sikkerhetstiltakene som trengs for å overvåke og kontrollere systemene. DeepMind Institute skal samle tverrfaglig forskning og debatt om hvordan stadig kraftigere KI og AGI bør bygges, styres, tas i bruk og brukes.
What should I do next in practice?
De første essayene handler blant annet om innsyn i KI resonnering, økonomisk politikk ved KI drevet omstilling og menneskelig livsutfoldelse.