Brug Singapores trafiklysmodel til at sætte grænser for AI på jobbet

Singapores domstole giver virksomheder et nyttigt udgangspunkt for AI-regler: Sæt grænser efter, hvor meget ansvar systemet får – i stedet for blot at sige, at AI er “tilladt” eller “under menneskelig kontrol”. Domstolene tillader generativ AI som hjælp til at udarbejde retsdokumenter, men ansvaret for, at materialet er korrekt og kontrolleret uafhængigt, ligger fortsat hos dem, der bruger det. Virksomheder kan lade sig inspirere af princippet, men deres egne regler skal passe til opgaverne og risikoen. De er ikke krav fra domstolene. 36

Sæt grænsen efter opgaven – ikke værktøjet

Det samme AI-værktøj kan være fint til en enkel skriveopgave og uegnet til en afgørelse, der påvirker et menneske. Singapores domstole har beskrevet en trafiklysmodel: Grøn for brug, der hjælper mennesker med at forstå information uden at afgøre en sag; gul, hvor AI kræver større forsigtighed; og rød for brug, domstolene ikke vil overveje. 638

En virksomhed kan bruge farverne som en praktisk struktur for sin egen politik. Eksemplerne her er forslag til et udgangspunkt, ikke en universel klassificering. Vurdér den konkrete opgave, de oplysninger, der indgår, og konsekvenserne af en fejl.

Grøn: Hjælp til rutineopgaver

Tillad godkendte AI-værktøjer til opgaver med lavere risiko, som formatering, oversættelse, organisering af information eller et første udkast. Angiv, hvilke værktøjer medarbejderne må bruge, hvilke oplysninger de må indtaste, og om resultatet skal kontrolleres, før det bruges. Gør det klart, at et AI-udkast ikke i sig selv er en godkendt beslutning eller officiel udmelding fra virksomheden.

Gul: Forbered arbejdet – men træf ikke afgørelsen

Ved opgaver med større konsekvenser kan AI måske hjælpe med at organisere dokumentation, opsummere sagsakter eller skitsere muligheder. Kræv, at en navngiven medarbejder kontrollerer vigtige påstande mod de oprindelige oplysninger, tager relevant kontekst med og godkender materialet, før det får betydning for nogen.

Uafhængig kontrol betyder, at man går tilbage til kildematerialet eller en autoritativ registrering – ikke at man beder et andet AI-system bekræfte det første. Singapores vejledning placerer ansvaret hos brugerne for at sikre, at det materiale, de fremlægger for retten, er kontrolleret uafhængigt, korrekt, sandt og passende. 3

Rød: Lad et menneske stå for afgørelsen

En virksomhed kan beslutte, at afgørelser om for eksempel ansættelse, sikkerhed eller adgang til grundlæggende tjenester skal træffes af et menneske. AI kan i så fald hjælpe med forberedelsen, men bør ikke træffe eller automatisk udløse den endelige afgørelse. Den ansvarlige medarbejder skal vurdere sagen, kunne tilsidesætte systemets anbefaling og forklare beslutningen.

Det er en anbefalet sikkerhedsforanstaltning for virksomheder – ikke en påstand om, at Singapores domstole kræver netop denne regel af erhvervslivet. Retsvæsenet har sagt, at AI-værktøjer kan hjælpe dommere med at læse og gennemgå materiale, men at AI foreløbig ikke bruges til at afveje beviser, anvende loven på konkrete forhold eller udøve et skøn. 40

Gør reglerne offentlige og konkrete

En offentlig politik er mere nyttig, når den beskriver konkrete opgaver frem for blot at love “ansvarlig AI”. Skriv en kort beskrivelse for hver godkendt brug, der besvarer:

• Hvad må AI bruges til i denne opgave – og hvad er uden for rammerne?
• Hvilke oplysninger må medarbejderne indtaste i værktøjet?
• Hvem kontrollerer resultatet, og hvad skal det sammenholdes med?
• Hvem har ansvaret for den endelige beslutning?
• Hvordan kan en medarbejder eller berørt person gøre opmærksom på en bekymring eller anfægte en fejl?

Internt bør virksomheden føre en registrering af AI-værktøjet og opgaven, hvilke kilder der er gennemgået, og hvem der har godkendt arbejdet. Giv dem, der kontrollerer resultatet, tid og mandat til at sige systemet imod. Ellers risikerer menneskelig kontrol at blive en formalitet.

Vurdér farverne igen – og hold fast i medarbejdernes faglighed

Se hver farvekategorisering som noget, der skal tages op til vurdering igen, ikke som en permanent etiket. Afprøv det konkrete værktøj i den konkrete arbejdsgang, undersøg fejl, og vurder, om kontrollen skal skærpes, eller brugen sættes på pause. Gå ikke ud fra, at en generel påstand om en AI-model gælder for alle opgaver.

Sørg også for, at medarbejderne stadig får mulighed for at øve sig i det arbejde, AI hjælper med. Singapores øverste dommer har rejst bekymring for, at AI kan ændre rutineopgaver i juraen, som traditionelt har hjulpet yngre jurister med at opbygge grundlæggende færdigheder. 2335 Læringen rækker videre end juraen: Medarbejdere skal have nok erfaring til at forstå arbejdet, opdage fejl og bruge deres egen dømmekraft, før de kan kontrollere AI-resultater på meningsfuld vis.

En enkel standard at styre efter

Trafiklysmodellen virker bedst, når hver farve ændrer, hvad der faktisk sker: Hvad AI må gøre, hvad et menneske skal kontrollere, hvem der står til ansvar, og hvordan en afgørelse kan anfægtes. Offentliggør grænserne for de enkelte opgaver, gennemgå dem, når værktøjer og arbejdsgange ændrer sig, og lad mennesker med den nødvendige faglighed og bemyndigelse stå for afgørelser med store konsekvenser.