Bill Gates varnar för AI: jobb, säkerhet och mänskliga relationer står på spel

Bill Gates varnar för mer än att AI ska ta över vissa kontorsjobb. I sin nästan 6 000 ord långa essä, ”The turbulent AI era is here. The choices we make now are critical”, skriver han att utvecklingen går så snabbt att arbetsmarknaden, säkerheten och mänskliga relationer kan förändras innan regeringar och samhällen har enats om hur omställningen ska hanteras. 117

Gates slutsats är inte att AI måste stoppas helt. Däremot menar han att teknikens fördelar inte automatiskt kommer att väga tyngre än nackdelarna. Utan medveten politik kan AI enligt honom fördjupa ojämlikheten och leda till ett resultat som sammantaget blir negativt.

Tre stora risker som Gates pekar ut

1. AI kan slå ut många jobb permanent

Gates räknar med att AI inom ungefär ett årtionde kommer att ta över arbetsuppgifter inom bland annat juridik, kundservice, vård, programvaruutveckling och tillverkningsindustri – snarare än att förändringen ska ske över flera generationer. De mest utsatta rollerna är ofta jobb på junior och mellannivå, medan många nya arbeten kommer att kräva färdigheter som tar flera år att skaffa. 15

Det skapar en svår omställning även om AI på längre sikt leder till nya typer av arbeten. Den som blir av med jobbet i dag kanske inte hinner vidareutbilda sig tillräckligt snabbt, och utan rätt politik kan antalet nya jobb bli mindre än antalet jobb som försvinner. 15

Förändringen behöver inte heller stanna vid skrivbordsarbete. Gates bredare resonemang är att bättre AI och robotik så småningom kan påverka även fysiska yrken, däribland byggbranschen och hotell- och restaurangsektorn. Politiker kan därför inte behandla automatiseringen som ett tillfälligt problem som bara gäller vissa kontorsyrken. 110

2. Kraftfullare AI kan sänka tröskeln för allvarlig skada

Gates varnar också för att AI kan ge kriminella och andra aktörer med ont uppsåt större möjligheter att genomföra cyberangrepp och utveckla biologiska hot. När systemen blir mer avancerade kan den kunskap och de resurser som krävs för att orsaka skada minska. 717

Han har tidigare beskrivit missbruk av AI som en av det kommande årtiondets två avgörande utmaningar, tillsammans med störningarna på arbetsmarknaden. 22 I den nya essän blir oron ett argument för starkare skydd, övervakning och internationell samordning – inte enbart frivilliga löften från teknikföretag.

3. AI-sällskap kan tränga undan mänskliga relationer

Den tredje risken är social snarare än strikt ekonomisk eller militär. Gates varnar för att AI-kompisar kan ersätta en del mänsklig kontakt och utnyttja människors känslomässiga sårbarhet, med möjliga konsekvenser för barns sociala och emotionella utveckling. 413

Det handlar enligt honom inte bara om olämpligt innehåll. System som utformas för att maximera engagemang kan få användare att tillbringa mer tid med en artificiell följeslagare, även när det sker på bekostnad av relationer till familj, vänner, lärare eller andra människor.

Därför menar Gates att samhället inte är redo

Gates riktar sin kritik mot mer än regeringar. Han skriver att politiska ledare, experter, företag, lokalsamhällen och allmänheten ännu saknar en gemensam plan för en omställning som kan bli ovanligt turbulent. 110

Han menar också att teknikbranschen har incitament att lyfta fram AI:s möjligheter och beskriva de allvarligaste riskerna som avlägsna. Företagen konkurrerar om investeringar, marknadsandelar, kompetens och strategiska fördelar, vilket kan göra försiktighet svårare även när riskerna är trovärdiga. 16

Det förklarar den centrala spänningen i essän: AI kan skapa enorma vinster, men institutionerna som ska fördela vinsterna och begränsa skadorna utvecklas långsammare än själva tekniken.

Gates förslag på nationella åtgärder

En samordnad struktur för omställningen

Gates vill se ett system som samlar myndigheter, forskare, företag och lokalsamhällen. Målet skulle vara att följa AI:s effekter, förutse störningar på arbetsmarknaden och införa regler för farlig användning innan problemen blir omfattande. 1719

Skatt på AI-driven ersättning av arbetskraft

Han föreslår också skatter eller liknande mekanismer för automatisering och AI-driven ersättning av mänsklig arbetskraft. Tanken är att de ekonomiska vinsterna från att ersätta arbetstagare inte huvudsakligen ska hamna hos teknikföretagen, medan samhället får bära kostnaderna för arbetslöshet, omskolning och ökade klyftor. 614

Vissa arbetsuppgifter ska reserveras för människor

Det mest särpräglade förslaget är ”Human Reserved” – jobb eller arbetsuppgifter som samhället medvetet låter människor fortsätta utföra även när AI eller robotar skulle kunna göra dem. Gates jämför idén med ett naturreservat: ett skyddat område som skapas eftersom en helt fri exploatering kan leda till oåterkalleliga förluster. 81219

Vissa roller skulle kunna reserveras permanent eftersom mänsklig närvaro anses avgörande. Andra skulle kunna skyddas tillfälligt för personer som inte realistiskt kan vidareutbilda sig eller byta yrke. 8

Enligt rapporter har Gates diskuterat att reservera upp till omkring 40 procent av arbetet för människor i den mest långtgående versionen av förslaget. Siffran är ett politiskt idéförslag – inte en prognos över hur många jobb AI kommer att ta bort och inte heller en gällande regel. 11

Den internationella modell Gates vill bygga

Gates menar att nationella regler inte kommer att räcka. Han vill se en global institution som kan övervaka avancerad AI, bedöma farliga förmågor och samordna skyddsåtgärder mellan länder. 917

Modellen skulle hämta lärdomar från flera befintliga internationella system, bland annat kärnvapeninspektioner, flygsäkerhet och Montrealprotokollet mot ozonnedbrytande ämnen. Funktionerna skulle kunna omfatta verifiering, tidiga varningssystem, gemensamma standarder och samarbete kring risker som går över nationsgränser. 910

Gates har enligt uppgifter också försökt få till ett samtal med Kinas president Xi Jinping om internationell hantering av AI-risker, däribland möjligheten att övervaka AI:s användning i biologiska angrepp. Mötet beskrivs som preliminärt, och meningsfull global kontroll skulle kräva samarbete mellan de stora AI-makterna – inte att ett enda land agerar på egen hand. 9

Gates egen brasklapp

Gates medger att han inte är en neutral tillsynsmyndighet eller specialist på AI-säkerhet. Han är teknikentreprenör och filantrop, och hans karriär är nära förknippad med innovationens möjligheter. Hans argument är att just personer med inflytande därför måste tala tydligt om riskerna i stället för att vänta på full enighet eller absolut säkerhet. 110

Den praktiska slutsatsen är alltså inte nödvändigtvis att alla befarade scenarier kommer att inträffa. Snarare handlar det om beredskap. Gates tror att AI kan bli historiens kraftfullaste utjämnande teknik – eller en källa till historisk orättvisa. Vilket av dessa resultat som blir verklighet beror enligt honom på beslut som fattas innan arbetslöshet, missbruk och sociala skador blir svåra att vända. 418