Bill Gates advarer om at KI kan true jobber, sikkerhet og menneskelige relasjoner

Bill Gates’ advarsel handler om mer enn at kunstig intelligens kan overta enkelte kontorjobber. I essayet «The turbulent AI era is here. The choices we make now are critical» argumenterer han for at KI utvikler seg så raskt at arbeidsliv, sikkerhet og menneskelige relasjoner kan bli forstyrret før myndigheter og samfunn har blitt enige om hvordan overgangen skal håndteres. 117

Han mener ikke at KI bør stanses fullstendig. Poenget hans er at fordelene ikke automatisk vil veie opp for kostnadene. Uten målrettet politikk kan teknologien forsterke forskjeller og i verste fall gi et samlet negativt resultat.

Tre hovedrisikoer ved KI

1. Mange jobber kan forsvinne permanent

Gates tror KI vil ta over oppgaver innen juss, kundeservice, medisin, programvare og produksjon i løpet av omtrent et tiår – ikke over flere generasjoner. Han peker særlig på stillinger på begynner- og mellomnivå som utsatte, mens mange av de nye jobbene vil kreve ferdigheter det tar flere år å tilegne seg. 15

Det skaper en krevende overgang selv om KI på lengre sikt skulle føre til nye typer arbeid. De som mister jobben, vil ikke nødvendigvis kunne omskolere seg raskt nok, og uten riktige tiltak kan det bli færre nye jobber enn jobbene som forsvinner. 15

Utviklingen vil heller ikke nødvendigvis stoppe ved skrivebordet. Gates mener bedre KI og robotikk etter hvert kan påvirke fysiske yrker, blant annet innen bygg og servering. Derfor bør ikke automatisering behandles som et midlertidig problem som bare gjelder enkelte kontoryrker. 110

2. Kraftigere KI kan gjøre alvorlig skade lettere

Gates advarer også om at KI kan gi kriminelle og andre skadeaktører bedre forutsetninger for å gjennomføre dataangrep og utvikle biologiske trusler. Når systemene blir mer avanserte, kan terskelen for nødvendig kunnskap og ressurser bli lavere. 717

Han har tidligere omtalt skadeaktørers bruk av KI som én av de to store utfordringene det kommende tiåret, sammen med forstyrrelsene i arbeidsmarkedet. 22 I det nye essayet bruker han bekymringen som argument for strengere sikkerhetstiltak, overvåking og internasjonal samordning – ikke bare frivillige løfter fra teknologiselskapene.

3. KI-venner kan fortrenge menneskelig kontakt

Den tredje risikoen er først og fremst sosial, ikke økonomisk eller militær. Gates advarer om at KI-baserte samtalepartnere kan erstatte noe menneskelig samvær og utnytte følelsesmessige sårbarheter. Det kan få følger for barns sosiale og emosjonelle utvikling. 413

Bekymringen gjelder ikke bare upassende innhold. Systemer som er utviklet for å maksimere engasjement, kan oppmuntre brukerne til å tilbringe stadig mer tid med en kunstig samtalepartner – på bekostning av familie, venner, lærere og andre mennesker.

Hvorfor mener Gates at samfunnet ikke er klart?

Kritikken hans retter seg mot mer enn myndighetene. Gates skriver at ledere, eksperter, næringsliv, lokalsamfunn og offentligheten ennå ikke har en felles plan for en overgang som kan bli uvanlig turbulent. 110

Han mener også at teknologibransjen har sterke insentiver til å fremheve fordelene ved KI og omtale de alvorligste risikoene som noe som ligger langt frem i tid. Selskapene konkurrerer om investeringer, markedsandeler, talenter og strategiske fortrinn, noe som kan gjøre det vanskelig å prioritere forsiktighet selv når risikoen er reell. 16

Det forklarer hovedspenningen i essayet: KI kan gi enorme gevinster, men institusjonene som skal fordele gevinstene og begrense skadene, utvikler seg saktere enn selve teknologien.

Dette vil Gates gjøre nasjonalt

Et system for å styre overgangen

Gates etterlyser en samordningsstruktur som kan samle offentlige etater, forskere, bedrifter og lokalsamfunn. Målet skal være å følge med på hvordan KI påvirker samfunnet, forutse endringer i arbeidsmarkedet og lage regler for farlig bruk før problemene blir omfattende. 1719

Skatt på KI-drevet utskifting av arbeidskraft

Han foreslår også skatt eller lignende ordninger for automatisering og KI-drevet utskifting av arbeidskraft. Begrunnelsen er at de økonomiske gevinstene ved å erstatte ansatte ikke bare bør tilfalle teknologiselskapene, mens samfunnet må dekke kostnadene ved arbeidsledighet, omskolering og økte forskjeller. 614

Arbeid som forbeholdes mennesker

Det mest særpregede forslaget er «Human Reserved» – arbeid eller oppgaver som samfunnet bevisst lar mennesker utføre, selv når KI eller roboter kunne gjort jobben. Gates sammenligner ideen med et naturreservat: et beskyttet område som opprettes fordi fri utbygging kan føre til et irreversibelt tap. 81219

Noen roller kan bli forbeholdt mennesker permanent fordi menneskelig tilstedeværelse anses som avgjørende. Andre kan få midlertidig beskyttelse for arbeidstakere som i praksis ikke har mulighet til å omskolere seg eller gå over i et nytt yrke. 8

Ifølge omtaler av essayet diskuterte Gates en modell der så mye som rundt 40 prosent av arbeidet kan forbeholdes mennesker i den mest omfattende versjonen av forslaget. Tallet er et politisk forslag – ikke en prognose for hvor mange jobber KI vil fjerne, og heller ikke en gjeldende regel. 11

Gates ønsker et internasjonalt system

Gates mener nasjonale regler alene ikke vil være nok. Han foreslår en global institusjon som kan overvåke avansert KI, vurdere farlige egenskaper og samordne sikkerhetstiltak mellom land. 917

Rammeverket bør ifølge ham hente lærdom fra flere eksisterende internasjonale ordninger, blant annet atominspeksjoner, flysikkerhet og Montreal-protokollen, som håndterte ozonnedbrytende stoffer. Funksjonene kan omfatte verifisering, tidlig varsling, felles standarder og samarbeid om risikoer som krysser landegrensene. 910

Gates skal også ha ønsket en samtale med Kinas president Xi Jinping om internasjonal styring av KI-risiko, inkludert muligheten for å overvåke teknologiens potensielle bruk i biologiske angrep. Møtet ble omtalt som foreløpig, og meningsfulle globale begrensninger vil være avhengige av samarbeid mellom de ledende KI-maktene – ikke av at ett enkelt land handler alene. 9

Gates erkjenner sin egen rolle

Gates understreker at han ikke er en nøytral tilsynsmyndighet eller spesialist på KI-sikkerhet. Han er teknologigründer og filantrop, og karrieren hans er tett knyttet til fordelene ved innovasjon. Samtidig mener han at nettopp personer med innflytelse må snakke tydelig om risikoen i stedet for å vente på full enighet eller absolutt sikkerhet. 110

Den praktiske lærdommen er derfor ikke nødvendigvis at alle de fryktede utfallene vil bli virkelighet. Det er en advarsel om beredskap. Gates mener KI kan bli tidenes største utjevner – eller en kilde til historisk urettferdighet – og at resultatet vil avhenge av valgene som tas før arbeidsledighet, misbruk og sosial skade blir vanskelige å reversere. 418