Microsofts ”doom loop” visar hur AI kan göra jobbet mer innehållslöst

Ryan Roslanskys ”doom loop” beskriver en arbetsprocess där AI genererar ett dokument, en annan AI sammanfattar det och människor sedan sprider resultatet vidare utan att bidra med analys, bevis eller ett beslut. Texten kan låta professionell, men organisationen har inte nödvändigtvis fått en ny idé, en kontrollerad uppgift eller ett bättre beslutsunderlag. 1134

Budskapet är därför inte att AI aldrig ska användas. Poängen är att inte blanda ihop välformulerad text med användbart tänkande. AI kan skynda på arbetet, men kan inte automatiskt ta över människans ansvar för det omdöme som arbetet kräver.

Så fungerar ”doom loop”

Roslansky berättade att han fick ett dokument som uppenbart var helt AI-genererat. Han bad sedan ett AI-verktyg att sammanfatta texten – och upptäckte att sammanfattningen inte tillförde ”något som förde idén framåt”. 113

Det är den kedjan han beskriver som en ond cirkel:

1. AI producerar ett dokument för arbetsplatsen.
2. Mottagaren använder AI för att slippa läsa eller bearbeta hela dokumentet.
3. Sammanfattningen skickas vidare som om arbetet har gått framåt.
4. Ingen tillför nya fakta, sin yrkeskunskap, en tolkning eller ett faktiskt beslut.

Problemet är alltså större än att det första utkastet kan innehålla fel. En organisation kan automatisera både produktionen och konsumtionen av information – samtidigt som den mänskliga insatsen som ger kommunikationen ett värde försvinner.

Ett dokument kan vara grammatiskt korrekt och lätt att följa, men ändå sakna en substantiell idé.

Vad betyder ”AI-sörja”?

Med ”AI-sörja” – eller ”AI slop” – avses i det här sammanhanget generiskt material med lågt värde, som ser färdigt ut men saknar ett eget perspektiv eller användbart innehåll. Roslansky menar att problemet inte längre bara finns på sociala plattformar, utan även i det dagliga arbetslivet. 38

Hans formulering om ”ett hav av likformighet” pekar på en större risk. När medarbetare använder liknande modeller, instruktioner, mallar och företagsspråk kan arbetsplatsens kommunikation bli alltmer utbytbar.

Konsekvenserna kan bli:

• mindre självständig analys;
• svagare signaler om vad en medarbetare faktiskt anser;
• mer tid som går åt till att granska material som ser informativt ut men tillför lite;
• beslut som bygger på otestade sammanfattningar i stället för ansvarstagande resonemang.

Det är en effektivitetsparadox. AI kan göra det billigare att skriva och sammanfatta, samtidigt som själva informationen blir mindre värdefull. Som en rapport sammanfattade Roslanskys oro kan resultatet bli ”ett mycket dyrt sätt att slippa skriva och läsa”. 4

AI som förstärkning – inte ersättning

Roslanskys bredare syn är att AI ska hjälpa människor att göra, lära sig och skapa saker, utan att deras egna erfarenheter och perspektiv försvinner. 1130

Skillnaden är viktig. AI kan vara användbart när det hjälper en person att tydliggöra en idé som personen själv förstår, jämföra underlag, hitta luckor eller hantera rutinuppgifter. Det blir betydligt mindre värdefullt när tekniken ersätter själva idén – eller när ingen längre tar ansvar för att kontrollera resultatet.

En praktisk kontrollfråga följer av varningen: Vad tillförde människan efter att AI gjort sitt? Svaret bör vara mer än ett godkännande av formuleringarna. Det kan vara en verifierad uppgift, en bedömning av målkonflikter, ett beslut, en kundinsikt eller ett perspektiv som inte hade kunnat komma ur en generell sammanställning.

Den obekväma ironin för Microsoft

Roslanskys kritik hörs inne i företaget vars produkter bidrar till att göra just den här arbetsprocessen möjlig. Microsoft har lanserat Copilot brett i sitt produktivitets-ekosystem och bygger ut agenter som kan äga återkommande processer, utföra åtgärder utan att vänta på en fråga och arbeta i bakgrunden med tillgång till godkända appar och filer. 202118

Det skapar en tydlig spänning, men gör inte Roslansky till en AI-motståndare. Hans poäng handlar snarare om arbetsdesign och styrning: ju mer systemen kan generera, skicka vidare, sammanfatta och agera på information, desto viktigare blir det att bestämma var mänsklig granskning och ansvar fortfarande är obligatoriskt.

Microsofts egen dokumentation visar dessutom fortfarande en AI-varning i Copilot Chat. Administratörer kan göra meddelandet tydligare eller länka till organisationens egen AI-policy. 19 Det bevisar inte att alla resultat är opålitliga, men visar att genererat innehåll ska behandlas som något som behöver granskas – inte som färdigt och automatiskt tillförlitligt arbete.

En del av Microsofts interna AI-diskussion

Roslanskys användning av uttrycket ”AI-sörja” står också bredvid vd:n Satya Nadellas tidigare invändning mot att främst beskriva AI med just det ordet. Nadella har argumenterat för att AI bör ses som en stöttande struktur för mänsklig potential, snarare än en ren ersättning för mänsklig förmåga. 3235

Formuleringarna skiljer sig åt, men grundfrågan är densamma: förstärker AI människors tänkande, eller ersätter den det tänkande som organisationer faktiskt är beroende av?

Microsoft angriper frågan från båda håll. Företaget bygger mer självständiga system, bland annat agenter som kan övervaka händelser, fatta beslut och utföra uppgifter enligt definierade instruktioner och skyddsräcken. 21 Samtidigt visar produktkontroller och varningar att automatiseringen behöver gränser och tillsyn.

Brad Smiths offentliga samtal med Roslansky handlade om AI-oro, kompetens och arbetslivets framtid. Det ligger i linje med Roslanskys betoning av mänsklig förmåga, men det tillgängliga underlaget visar inte att Smith specifikt ställde sig bakom inlägget om ”doom loop” från den 31 augusti. 30

Vad arbetsplatser kan göra

Roslanskys varning handlar i grunden mer om ansvar än om att avslöja vem som har skrivit en text. Ett dokument blir inte värdefullt bara för att det är långt, välpolerat eller sammanfattat. Någon måste fortfarande stå för fakta, resonemang, konsekvenser och beslut.

En rimlig arbetsmodell är därför inte att förbjuda AI från att skriva utkast eller göra sammanfattningar. I stället bör människor behålla ansvaret där innehåll skapas och omdöme används:

• använd AI för struktur, researchstöd, första utkast och rutinmässig omformulering;
• låt en person med relevant kunskap kontrollera viktiga påståenden;
• gör rekommendationer, underlag och antaganden tydliga;
• använd sammanfattningar som stöd för läsningen, inte som en ursäkt för att slippa förstå innehållet;
• fråga vilket nytt beslut eller vilken insikt AI-processen faktiskt ledde till.

Kärnan är enkel: AI kan skynda på en mänsklig idé – men den kan inte ersätta att någon först har en idé.