Microsoft-sjef advarer mot AI-loop: – En dyr måte å unngå å tenke på

Ryan Roslanskys «doom loop» beskriver en arbeidsflyt der kunstig intelligens lager et dokument, en annen AI oppsummerer det, og mennesker sender resultatet videre uten å tilføre særlig analyse. Teksten kan høres profesjonell ut, men organisasjonen har ikke nødvendigvis fått en ny idé, kontrollert en eneste viktig opplysning eller tatt en bedre beslutning. 1134

Poenget hans er derfor ikke at arbeidslivet skal slutte å bruke AI. Advarselen handler om å ikke forveksle velformulert tekst med nyttig tenkning. AI kan få arbeidet til å gå raskere, men den kan ikke automatisk ta ansvar for vurderingene som ligger bak.

Slik fungerer «doom loop»-en

Roslansky fortalte at han mottok et dokument som tydelig så ut til å være skrevet av AI. Deretter ba han et AI-verktøy om å oppsummere teksten. Resultatet ga «ingenting som brakte ny tenkning til ideen», skrev han. 113

Løkken ser slik ut:

1. AI produserer et dokument til bruk på jobben.
2. Mottakeren bruker AI for å slippe å lese eller bearbeide dokumentet i sin helhet.
3. Oppsummeringen sendes videre som om den representerer fremdrift.
4. Ingen tilfører nye fakta, fagkunnskap, tolkninger eller beslutninger.

Problemet er altså ikke bare at det første utkastet kan inneholde feil. En hel organisasjon kan automatisere både produksjonen og forbruket av informasjon – og samtidig fjerne det menneskelige bidraget som gjør kommunikasjon verdifull.

Et dokument kan være grammatisk korrekt og ryddig strukturert, men likevel mangle en faktisk idé.

Hva mener han med «AI-søppel»?

«AI slop» brukes her om generisk materiale med lav verdi: Tekst som ser ferdig ut, men som mangler et originalt perspektiv eller noe substansielt å bidra med. Roslansky mener problemet ikke lenger bare finnes i sosiale medier, men også i det daglige arbeidslivet. 38

Uttrykket hans «et hav av likhet» peker på en større bekymring. Når ansatte bruker mange av de samme systemene, promptene, malene og formuleringene, kan kommunikasjonen på jobb bli stadig mer utskiftbar.

Konsekvensene kan være:

• mindre særpreget analyse;
• svakere signaler om hva en medarbeider faktisk mener;
• mer tid brukt på å vurdere materiale som ser informativt ut, men tilfører lite;
• beslutninger basert på ukritiske sammendrag fremfor ansvarlig resonnement.

Dette er et effektivitetsparadoks. AI kan gjøre skriving og oppsummering billigere, samtidig som selve informasjonen blir mindre verdifull. Som en omtale oppsummerte Roslanskys bekymring: Resultatet kan bli «en svært dyr måte å unngå å skrive og lese på». 4

AI som forsterker – ikke erstatter

Roslanskys bredere syn er at AI skal hjelpe mennesker med å gjøre, lære og skape ting, samtidig som deres egne erfaringer og perspektiver består. 1130

Forskjellen er viktig. AI kan være nyttig når den hjelper en person med å tydeliggjøre en idé vedkommende allerede forstår, sammenligne dokumentasjon, finne kunnskapshull eller håndtere rutinearbeid.

Den er langt mindre nyttig når den blir en erstatning for å ha en idé i utgangspunktet – eller når ingen tar ansvar for å kontrollere resultatet.

En enkel test følger av advarselen hans: Hva tilføyde mennesket etter at AI var ferdig? Svaret bør være mer enn en godkjenning av formuleringene. Det kan være et kontrollert faktagrunnlag, en vurdering av avveininger, en beslutning, en kundeinnsikt eller et synspunkt som ikke kunne kommet fra en generell oppsummering alene.

Derfor er advarselen ubehagelig for Microsoft

Roslanskys kritikk kommer fra innsiden av selskapet som samtidig gjør nettopp denne typen arbeidsflyt mulig. Microsoft har rullet ut Copilot i produktivitetsverktøyene sine og bygger ut agenter som kan håndtere repeterbare prosesser, utføre handlinger uten å vente på en ny melding og jobbe i bakgrunnen med tilgang til godkjente apper og filer. 202118

Det skaper en tydelig spenning, men gjør ikke Roslansky til en motstander av AI. Han peker heller på et problem med utformingen av arbeidet: Jo mer systemene kan generere, sende videre, oppsummere og handle på informasjon, desto viktigere blir det å definere når menneskelig kontroll og ansvar fortsatt er obligatorisk.

Microsofts egen dokumentasjon viser fortsatt en AI-advarsel i Copilot Chat. Administratorer kan gjøre meldingen mer fremtredende eller lenke til virksomhetens egen AI-policy. 19 Det beviser ikke at alle svar fra Copilot er upålitelige, men det viser behovet for å behandle AI-generert innhold som noe som skal vurderes – ikke som ferdig og automatisk korrekt arbeid.

En del av Microsofts interne AI-diskusjon

Roslanskys bruk av uttrykket «AI slop» står også side om side med toppsjef Satya Nadellas tidligere innvendinger mot å bruke begrepet om AI. Nadella har argumentert for at AI bør ses som et stillas for menneskelig potensial, ikke bare som en erstatning for menneskelig kapasitet. 3235

Ordbruken er forskjellig, men spørsmålet er mye av det samme: Forsterker AI menneskers tenkning, eller erstatter den tenkningen organisasjoner faktisk er avhengige av?

Microsoft går i praksis i begge retninger. Selskapet bygger mer selvstendige systemer, blant annet agenter som kan overvåke hendelser, ta beslutninger og utføre oppgaver innenfor definerte instrukser og sikkerhetsrammer. 21 Samtidig viser produktkontroller og ansvarsfraskrivelser at automatiseringen fortsatt trenger grenser og tilsyn.

Brad Smiths offentlige samtale med Roslansky handlet om AI-uro, ferdigheter og arbeidslivets fremtid. Det passer med Roslanskys vektlegging av menneskelig kompetanse, men kildene viser ikke at Smith spesifikt støttet innlegget om «doom loop» fra august. 30

Hva betyr dette for AI på arbeidsplassen?

Roslanskys advarsel handler til syvende og sist mer om ansvar enn om hvem som har skrevet teksten. Et dokument blir ikke verdifullt bare fordi det er langt, polert eller oppsummert. Noen må fortsatt stå ansvarlig for faktaene, resonnementet, konsekvensene og beslutningen.

Den tryggeste løsningen er ikke nødvendigvis å forby AI fra å lage utkast eller sammendrag. Det er å sørge for at et menneske fortsatt har ansvaret der innholdet skapes og vurderingene tas:

• Bruk AI til struktur, research-støtte, førsteutkast og rutinemessig bearbeiding.
• La en person med relevant fagkunnskap kontrollere viktige påstander.
• Gjør anbefalinger, dokumentasjon og antakelser tydelige.
• Bruk sammendrag som støtte for lesing, ikke som en måte å slippe ansvar for å forstå innholdet på.
• Spør hvilken ny beslutning eller innsikt AI-prosessen faktisk førte til.

Kjernen i budskapet er enkel: AI kan få en menneskelig idé raskere frem, men den kan ikke erstatte det å ha en idé.