Grønt, gult eller rødt? Slik kan bedrifter sette tydelige regler for KI

Singapores domstoler viser hvordan virksomheter kan tenke mer konkret om KI: Sett grenser etter hva systemet skal brukes til og hvor mye ansvar det får, i stedet for å nøye seg med en generell beskjed om at KI er «tillatt» eller «menneskekontrollert».

Domstolene tillater generativ KI som hjelp i arbeidet med rettsdokumenter, men brukerne har fortsatt ansvar for at innholdet de leverer, er korrekt og kontrollert mot uavhengige kilder. Bedrifter kan ta med seg dette prinsippet – men må utforme egne regler for sine oppgaver og risikoer. Domstolenes retningslinjer er ikke krav til virksomheter. 36

Sett grenser etter oppgaven – ikke bare verktøyet

Det samme KI-verktøyet kan være nyttig til et ufarlig førsteutkast, men uegnet til å ta en avgjørelse som får betydning for en person. Singapores domstoler har beskrevet en trafikklysmodell: Grønt for bruk som hjelper folk med å forstå informasjon, gult der bruken krever større forsiktighet, og rødt for områder domstolene ikke vil vurdere å bruke KI på. 638

For bedrifter kan fargene gi en praktisk struktur for retningslinjene. Eksemplene under er forslag til utgangspunkt, ikke en universell fasit. Vurder den konkrete oppgaven, hvilke opplysninger som brukes, og hva som kan skje hvis KI tar feil.

Grønt: Hjelp til rutinearbeid

La godkjente KI-verktøy bistå med oppgaver med lav risiko, som formatering, oversettelse, organisering av informasjon eller et førsteutkast. Si hvilke verktøy som er godkjent, hvilke opplysninger ansatte kan legge inn, og om resultatet må kontrolleres før bruk.

Gjør det også klart at et KI-generert utkast ikke i seg selv er en godkjent beslutning eller uttalelse på vegne av virksomheten.

Gult: Forbered arbeidet – ikke ta avgjørelsen

I saker med større konsekvenser kan KI for eksempel hjelpe med å sortere dokumentasjon, oppsummere opplysninger eller skissere mulige alternativer. Krev at en navngitt medarbeider kontrollerer viktige påstander mot originalmaterialet, vurderer relevant sammenheng og godkjenner resultatet før det får konsekvenser for noen.

Uavhengig kontroll betyr å gå tilbake til dokumentasjonen eller en autoritativ kilde – ikke å be en annen KI om å bekrefte svaret fra den første. Singapores veiledning legger ansvaret på brukerne for å sørge for at materiale som sendes til domstolen, er kontrollert uavhengig, korrekt, sant og egnet. 3

Rødt: La et menneske ta beslutningen

En bedrift kan reservere avgjørelser om for eksempel ansettelse, sikkerhet eller tilgang til viktige tjenester for mennesker. KI kan eventuelt brukes som støtte i forberedelsene, men bør ikke ta avgjørelsen eller automatisk utløse den. Den ansvarlige personen må vurdere saken, kunne avvise KI-ens anbefaling og forklare avgjørelsen.

Dette er et anbefalt sikkerhetstiltak for bedrifter – ikke en påstand om at Singapores domstoler har fastsatt akkurat denne regelen for næringslivet. Domstolene har uttalt at KI kan hjelpe dommere med å lese og sammenfatte materiale, men at KI foreløpig ikke brukes til å veie bevis, anvende juss på faktum eller utøve skjønn. 40

Gjør reglene konkrete og synlige

En offentlig KI-policy er mer nyttig når den beskriver hva virksomheten faktisk gjør, enn når den bare lover å bruke KI «ansvarlig». For hver godkjente bruk bør en kort beskrivelse svare på:

• Hva kan KI gjøre i denne oppgaven – og hva er utenfor grensene?
• Hvilke opplysninger kan ansatte legge inn i verktøyet?
• Hvem kontrollerer resultatet, og hva skal det kontrolleres mot?
• Hvem har ansvaret for den endelige avgjørelsen?
• Hvordan kan en ansatt eller en berørt person melde fra om en bekymring eller bestride en feil?

Internt bør virksomheten føre en oversikt som står i forhold til risikoen: hvilket verktøy og hvilken oppgave det gjelder, hvilke kilder som er gjennomgått, og hvem som har godkjent resultatet. De som kontrollerer KI-arbeidet, må ha både tid og myndighet til å si seg uenig. Ellers kan menneskelig kontroll bli en formalitet i stedet for et reelt sikkerhetstiltak.

Vurder bruken på nytt – og ta vare på faglig skjønn

Fargekodingen bør ikke være en permanent merkelapp. Test det konkrete verktøyet i den aktuelle arbeidsflyten, undersøk feil, og vurder om kontrollene må endres eller bruken settes på pause. Ikke gå ut fra at generelle påstander om en KI-modell gjelder for enhver oppgave.

Sørg også for at ansatte får øve på arbeidet KI skal hjelpe med. Singapores høyesterettsjustitiarius har pekt på at KI kan endre rutineoppgaver som tradisjonelt har hjulpet yngre jurister med å bygge grunnleggende ferdigheter. 2335 Den praktiske lærdommen gjelder bredere: Ansatte må ha nok erfaring til å forstå arbeidet, oppdage feil og bruke eget skjønn før de kan kontrollere KI-resultater på en meningsfull måte.

En enkel standard å styre etter

Trafikklysmodellen er nyttig når hver farge får praktiske følger: Hva KI får lov til å gjøre, hva et menneske må kontrollere, hvem som står ansvarlig, og hvordan en avgjørelse kan utfordres. Beskriv grensene for hver oppgave, vurder dem på nytt når verktøy og arbeidsmåter endrer seg, og la mennesker med riktig kompetanse og myndighet stå for avgjørelser med store konsekvenser.