Zo maakt een bedrijf duidelijke afspraken over AI

De Singaporese rechtspraak biedt bedrijven een bruikbaar vertrekpunt voor AI-beleid: kijk niet alleen naar de tool, maar vooral naar de taak en de gevolgen van een fout. Een algemene regel als ‘AI is toegestaan, mits er menselijk toezicht is’ zegt weinig over wie waarvoor verantwoordelijk is.

De Singaporese rechtbanken staan het gebruik van generatieve AI toe bij het voorbereiden van processtukken, maar de mensen die het materiaal gebruiken blijven verantwoordelijk voor de juistheid ervan en moeten het onafhankelijk controleren. Bedrijven kunnen dat uitgangspunt vertalen naar hun eigen werkwijze. De richtlijnen van de rechtbank zijn echter geen bedrijfsregels en schrijven bedrijven niet voor hoe zij AI moeten inzetten. 36

Deel AI-gebruik in naar taak en risico

Eenzelfde AI-tool kan geschikt zijn om een tekst te vertalen, maar ongeschikt om zelfstandig een beslissing te nemen die iemand raakt. De Singaporese rechtspraak gebruikt een verkeerslichtmodel: groen voor toepassingen zoals vertalen en samenvatten die mensen helpen informatie te begrijpen zonder een zaak te beslissen; oranje voor gebruik dat extra voorzichtigheid vraagt; en rood voor toepassingen die de rechtbank niet wil overwegen. 638

Een bedrijf kan die kleuren gebruiken als praktische indeling. De voorbeelden hieronder zijn mogelijke uitgangspunten, geen universele classificatie. Beoordeel steeds de specifieke taak, de gebruikte informatie en wat de gevolgen zijn als de AI zich vergist.

Groen: ondersteuning bij routinewerk

Sta goedgekeurde AI-tools toe voor taken met een lager risico, zoals opmaak, vertaling, informatie ordenen of een eerste versie schrijven. Leg vast welke tools zijn goedgekeurd, welke informatie medewerkers mogen invoeren en of de uitkomst moet worden gecontroleerd voordat die wordt gebruikt. Maak ook duidelijk dat een AI-concept op zichzelf geen goedgekeurd bedrijfsstandpunt of besluit is.

Oranje: voorbereiden, niet beslissen

Bij werk met grotere gevolgen kan AI bijvoorbeeld helpen om stukken te ordenen, dossiers samen te vatten of opties op een rij te zetten. Wijs een verantwoordelijke beoordelaar aan die belangrijke beweringen controleert aan de hand van de oorspronkelijke stukken, relevante context meeweegt en het werk goedkeurt voordat het gevolgen heeft voor iemand.

Onafhankelijk controleren betekent teruggaan naar het onderliggende bewijs of de gezaghebbende bron. Een tweede AI vragen of de eerste gelijk heeft, is geen onafhankelijke controle. De Singaporese rechtbanken leggen gebruikers de verantwoordelijkheid op om materiaal dat zij aan de rechtbank voorleggen zelfstandig te controleren en ervoor te zorgen dat het juist, waarheidsgetrouw en passend is. 3

Rood: houd het besluit bij een mens

Een bedrijf kan besluiten dat bepaalde beslissingen — bijvoorbeeld over werk, veiligheid of toegang tot essentiële diensten — altijd door een mens worden genomen. AI kan dan helpen bij de voorbereiding, maar neemt het besluit niet zelf en zet het ook niet automatisch in gang. De verantwoordelijke medewerker moet de situatie beoordelen, de aanbeveling van het systeem kunnen afwijzen en het besluit kunnen toelichten.

Dit is een aanbevolen waarborg voor bedrijven, niet een bewering dat de Singaporese rechtbanken deze precieze regel aan ondernemingen opleggen. De Singaporese rechterlijke macht heeft aangegeven dat AI rechters kan helpen bij het lezen en verwerken van materiaal. Op dit moment gebruikt zij AI niet om bewijs af te wegen, het recht op feiten toe te passen of beoordelingsvrijheid uit te oefenen. 40

Maak de regels openbaar en concreet

Een openbaar AI-beleid is nuttiger als het beschrijft wat er bij concrete taken wel en niet mag, in plaats van alleen te beloven dat het bedrijf ‘verantwoord met AI’ omgaat. Beschrijf per goedgekeurde toepassing kort:

• Wat mag AI bij deze taak doen, en wat niet?
• Welke informatie mogen medewerkers invoeren?
• Wie controleert de uitkomst, en aan de hand van welke bronnen?
• Wie neemt het uiteindelijke besluit?
• Hoe kunnen medewerkers of betrokkenen een fout melden of aanvechten?

Houd intern een passende administratie bij van de gebruikte tool en taak, de geraadpleegde bronnen en de persoon die de uitkomst goedkeurde. Geef beoordelaars voldoende tijd en bevoegdheid om de AI-uitkomst naast zich neer te leggen. Anders dreigt menselijke controle een formaliteit te worden.

Herzie de indeling en behoud menselijk inzicht

Behandel een kleurindeling niet als een blijvend keurmerk. Test de specifieke tool in de specifieke werkwijze, onderzoek fouten en pas de controles aan of leg het gebruik stil als dat nodig is. Ga er niet zomaar van uit dat een algemene claim over een AI-model ook voor iedere taak geldt.

Zorg er daarnaast voor dat medewerkers het werk waarop AI helpt zelf blijven oefenen. De hoogste rechter van Singapore heeft gewaarschuwd dat AI routinewerk in de juridische sector kan veranderen — werk waarmee beginnende juristen traditioneel basisvaardigheden opbouwen. 2335 Voor bedrijven geldt een bredere les: medewerkers hebben voldoende praktijkervaring nodig om de taak te begrijpen, fouten te herkennen en zelfstandig te oordelen. Pas dan kunnen zij AI-uitkomsten betekenisvol controleren.

Een eenvoudige toets voor bedrijfsbeleid

Het verkeerslichtmodel is pas nuttig als elke kleur in de praktijk iets verandert: wat AI mag doen, wat een medewerker moet controleren, wie verantwoordelijk blijft en hoe een besluit kan worden aangevochten. Publiceer die grenzen per taak, herzie ze wanneer tools of werkprocessen veranderen en laat mensen met voldoende kennis en bevoegdheid verantwoordelijk blijven voor ingrijpende beslissingen.