En trafikljusmodell kan göra företagets AI-regler tydligare

Singapores domstolar erbjuder företag en användbar utgångspunkt för regler om AI: bedöm användningen efter hur mycket ansvar som lämnas över till systemet, i stället för att nöja er med ett generellt besked om att AI är ”tillåtet” eller ”under mänsklig övervakning”. Domstolarnas vägledning tillåter generativ AI som stöd vid förberedelser av domstolshandlingar, men ansvaret för att materialet är korrekt och kontrollerat ligger kvar hos dem som använder det. Företag kan ta fasta på samma princip, men måste utforma sina egna regler efter arbetsuppgifterna och riskerna. Det handlar inte om krav från domstolarna på företag. 36

Dra gränsen efter uppgiften – inte verktyget

Samma AI-verktyg kan passa för en uppgift med låg risk men vara olämpligt när ett beslut påverkar en person. Singapores domstolar har beskrivit en trafikljusmodell: grönt för användning som översättning och sammanfattning, där AI hjälper människor att förstå information utan att avgöra ett mål; gult när användningen kräver större försiktighet; och rött för sådant som domstolarna inte tänker överväga att använda AI till. 638

Företag kan använda färgerna som struktur för en praktisk policy. Exemplen nedan är förslag att utgå från, inte en universell indelning. Bedöm den faktiska uppgiften, vilken information som används och vad följderna av ett fel kan bli.

Grönt: stöd i rutinuppgifter

Tillåt godkända AI-verktyg för uppgifter med lägre risk, till exempel formatering, översättning, strukturering av information eller ett första utkast. Tala om vilka verktyg som är godkända, vilken information medarbetare får mata in och om resultatet måste kontrolleras före användning. Klargör också att ett AI-genererat utkast inte automatiskt är ett godkänt beslut eller en officiell ståndpunkt från företaget.

Gult: förbered underlag – men fatta inte beslutet

I ärenden med större konsekvenser kan AI hjälpa till att ordna underlag, sammanfatta handlingar eller skissa på alternativ. Kräv att en namngiven granskare kontrollerar viktiga uppgifter mot originalkällorna, väger in relevant sammanhang och godkänner materialet innan det påverkar någon.

Oberoende kontroll betyder att gå tillbaka till själva underlaget eller en tillförlitlig originalkälla – inte att be ett annat AI-system bekräfta det första systemets svar. Singapores domstolsguide lägger ansvaret på domstolsanvändare att se till att material som lämnas in är oberoende kontrollerat, korrekt, sant och lämpligt. 3

Rött: låt en människa fatta beslutet

Ett företag kan reservera beslut om exempelvis anställning, säkerhet eller tillgång till viktiga tjänster för människor. AI kan då hjälpa till med förberedelser, men ska inte fatta beslutet eller automatiskt utlösa det. Den ansvariga personen bör bedöma det enskilda fallet, kunna säga nej till systemets rekommendation och kunna förklara beslutet.

Detta är ett föreslaget skydd för företag – inte ett påstående om att Singapores domstolar kräver exakt den regeln av näringslivet. Rättsväsendet har sagt att AI-verktyg kan hjälpa domare att läsa och sammanfatta material, men att AI i nuläget inte används för att väga bevis, tillämpa lag på fakta eller utöva juridiskt omdöme. 40

Gör reglerna offentliga och konkreta

En offentlig policy blir mer användbar om den beskriver faktiska arbetsuppgifter i stället för att bara lova ”ansvarsfull AI”. För varje godkänd användning kan företaget publicera en kort beskrivning som svarar på följande:

• Vad får AI göra i den här uppgiften – och vad är inte tillåtet?
• Vilken information får medarbetare lämna till verktyget?
• Vem kontrollerar resultatet, och mot vilket underlag?
• Vem ansvarar för det slutliga beslutet?
• Hur kan en medarbetare eller den som påverkas påtala ett problem eller bestrida ett fel?

Internt kan företaget föra en rimligt avvägd dokumentation över vilket verktyg och vilken uppgift det gäller, vilka källor som har granskats och vem som godkänt arbetet. Ge granskare både tid och mandat att säga emot. Annars riskerar den mänskliga kontrollen att bli en formalitet.

Ompröva färgerna – och värna medarbetarnas omdöme

Se färgklassningen som något som behöver omprövas, inte som en permanent etikett. Testa det specifika verktyget i det faktiska arbetsflödet, undersök fel och avgör om kontrollerna behöver skärpas eller användningen pausas. Utgå inte från att allmänna påståenden om en AI-modell gäller för varje uppgift.

Ge också medarbetare möjlighet att öva på arbetet som AI hjälper till med. Singapores chefsdomare har lyft en oro för att AI kan förändra rutinuppgifter som traditionellt har hjälpt yngre jurister att bygga grundläggande yrkeskunskaper. 2335 För företag är lärdomen bredare: medarbetare behöver själva förstå arbetsuppgiften och få erfarenhet av den för att kunna upptäcka misstag och granska AI-resultat med eget omdöme.

En enkel princip att följa

Trafikljusmodellen fungerar bäst när varje färg innebär en faktisk skillnad: vad AI får göra, vad en människa måste kontrollera, vem som ansvarar och hur ett beslut kan ifrågasättas. Beskriv gränserna för varje arbetsuppgift, se över dem när verktyg och arbetsflöden förändras och låt människor med rätt kompetens och mandat stå för beslut som får stora konsekvenser.