Singapores nye KI-regler: Varsler om persondata og informasjonskort for chatboter

IMDAs chatbotveiledning er noe annet. Den er frivillig og gjelder eksterne, brukerrettede generative KI-chatboter som kommuniserer med kunder, forbrukere eller andre medlemmer av offentligheten. Målet er å samle viktig informasjon på ett sted, slik at brukerne kan forstå hva chatboten gjør, hvor den kan feile, hvordan den sikres, hvordan data behandles og hvor bekymringer kan meldes.

Hva PDPCs veiledning omfatter

Veiledningen gjelder persondata gjennom hele livsløpet til et generativt KI-system. Det kan blant annet omfatte nettinnsamlet informasjon, data som brukere har oppgitt for å få en vanlig tjeneste og som senere brukes til modellutvikling, utrulling av modeller, sikkerhet, lagring og håndtering av krav om innsyn eller korrigering.

Den sentrale personvernutfordringen er endret formål. Opplysninger som først ble gitt i forbindelse med en transaksjon, en konto, kundestøtte eller en annen tjeneste, kan senere bli brukt i stor skala til modelltrening eller finjustering. Når dataene først er inngått i en omfattende treningsprosess, kan det bli vanskeligere for enkeltpersoner å forstå hva som har skjedd, kontrollere bruken eller utøve rettighetene sine.

Veiledningen fordeler også ansvar gjennom KI-leverandørkjeden. Modelltilbydere har ansvar for plikter etter Singapores personvernlovgivning, PDPA, knyttet til utvikling og utrulling av modeller. Systemtilbydere forventes å vurdere sikkerheten og kommunisere relevante beskyttelsestiltak, mens virksomhetene som tar systemene i bruk, må definere behandlingsformål, forstå dataflyten og kontrollere sikkerhetstiltakene i løsningene de setter i drift.

Når kreves et KI-spesifikt varsel?

En virksomhet må innhente samtykke gjennom et KI-spesifikt varsel når den ønsker å bruke «User Data» til å utvikle en generativ KI-modell, og ingen unntak fra samtykkekravet i PDPA gjelder. Varslet må gjøre KI-bruken tydelig. Det er ikke tilstrekkelig å vise til brede uttrykk som «tjenesteforbedring», «personalisering» eller «produktutvikling».

Dette er særlig relevant når opplysninger ble gitt direkte gjennom et eksisterende produkt eller en tjeneste for et ikke-KI-relatert formål, men senere gjenbrukes til modellutvikling. Virksomheten må vurdere sammenhengen dataene opprinnelig ble samlet inn i, det nye formålet og om et lovbestemt unntak gjelder.

Offentlig tilgjengelige data er et eget tilfelle

Unntaket for offentlig tilgjengelige data i PDPA kan i enkelte tilfeller gjøre det mulig å samle inn offentlig tilgjengelige persondata til modellutvikling uten samtykke. Det betyr likevel ikke at alle opplysninger som kan nås på nettet, automatisk omfattes. Data bak betalingsmur, innlogging, registrering eller en tilsvarende digital hindring må vurderes nøye for å avgjøre om de fortsatt er offentlig tilgjengelige i denne sammenhengen.

Tilstrekkelig anonymiserte data

Data som er tilstrekkelig anonymisert, regnes ikke som persondata etter PDPA fordi de ikke kan knyttes til en bestemt person. PDPC oppfordrer virksomheter til å bruke anonymiserte data til analyse og forskning når det lar seg gjøre.

Det er imidlertid ikke nok å fjerne navnet. En person kan fortsatt være identifiserbar gjennom opplysningene som står igjen, eventuelt sammen med annen informasjon som med rimelighet er tilgjengelig. Virksomheten må derfor undersøke om anonymiseringen faktisk fjerner muligheten for å identifisere enkeltpersoner.

Hva med opptak fra kundesentre?

Kildematerialet etablerer ikke et eget, kategorisk unntak for opptak fra kundesentre. Et opptak som identifiserer, eller med rimelighet kan identifisere, den som ringer, bør behandles som persondata når virksomheten vurderer gjenbruk til generativ KI.

Før opptaket brukes til modellutvikling, må virksomheten derfor ha et gyldig grunnlag etter PDPA – for eksempel samtykke, korrekt varsel eller et annet lovbestemt unntak. Kildene gir ikke tilstrekkelig grunnlag for å fastslå en særregel for alle kundesenteropptak. Den konkrete vurderingen avhenger av innholdet i opptaket, hvordan det ble samlet inn, den planlagte KI-bruken og eventuelle unntak.

Hva bør et KI-spesifikt varsel inneholde?

Varslet bør gi brukerne konkret og meningsfull informasjon. Veiledningen peker særlig på disse punktene:

• Formålet med KI-bruken: Si at persondata skal brukes til å utvikle eller forbedre en generativ KI-modell.
• Hvorfor dataene brukes: Forklar formålet med modellutviklingen eller forbedringen.
• Hvilke data som omfattes: Beskriv kategoriene av persondata som skal brukes.
• Hvordan dataene brukes: Forklar bruken, for eksempel til trening eller finjustering når det er relevant.
• Hvilke valg personen har: Forklar hvordan vedkommende kan avslå eller trekke tilbake samtykke, eller reservere seg der en slik mulighet gjelder.

En generell personvernerklæring kan fortsatt inneholde nyttig bakgrunnsinformasjon. Den bør likevel ikke være den eneste informasjonen dersom den gjør formålet med KI-treningen uklart. Det avgjørende spørsmålet er om en rimelig bruker kan forstå at persondata kan bli brukt til å utvikle eller forbedre en generativ KI-modell.

Hvor kan varselet vises?

Kildematerialet foreskriver ikke ett bestemt format eller én obligatorisk plassering for alle virksomheter. En praktisk løsning kan være å vise informasjonen der dataene samles inn eller der tjenesten brukes – for eksempel ved opprettelse av konto, i et tidsnært varsel i tjenesten, i personverninnstillinger eller via en tydelig lenket personvernerklæring.

Dette er en praktisk implementeringsvurdering, ikke en uttømmende liste fra PDPCs faktaark. Uansett format bør informasjonen være synlig og konkret, ikke gjemt i lange og generelle vilkår.

Samtykke, reservasjon og retten til innsyn

Personer kan be om innsyn i og korrigering av persondata også etter at opplysningene er brukt i utviklingen av en generativ KI-modell. Virksomheter forventes å ha gode rutiner tidlig i dataflyten, vurdere forespørsler fra sak til sak og ta i bruk egnede tekniske tiltak. Samtidig kan det være krevende å spore enkeltopplysninger i store treningsdatasett.

Når samtykke er det rettslige grunnlaget, må personen få vite hvordan samtykke kan nektes eller trekkes tilbake. Det betyr ikke automatisk at alle kan fortsette å bruke alle deler av en tjeneste på uendrede vilkår etter å ha reservert seg. Om tilgangen til hovedtjenesten kan fortsette, avhenger blant annet av hvilken rolle KI-treningen spiller, hvor nødvendig behandlingen er og hvordan virksomheten har utformet samtykkeløsningen. Kildene etablerer ikke en generell rett til å beholde full tjenestetilgang etter enhver reservasjon.

IMDAs frivillige «Chatbot Info Card»

IMDAs retningslinjer for åpenhet rundt generative KI-chatboter har et tydelig brukerperspektiv. De gjelder virksomheter som tilbyr eksterne generative KI-chatboter, og skal hjelpe brukerne med å ta mer informerte valg, standardisere informasjonen som gis og gjøre leverandørene mer ansvarlige for egne løfter om sikkerhet og pålitelighet.

Hovedideen er et «Chatbot Info Card», sammenlignet med en næringsdeklarasjon eller etikett på et legemiddel. Det kan være en egen informasjonsside eller et annet dokument, så lenge brukeren får ett samlet og tilgjengelig sted for den viktigste informasjonen.

Kortet bør følge tre prinsipper:

• Relevant: Ta med informasjon brukeren trenger for å vurdere om og hvordan chatboten kan brukes.
• Tilgjengelig: Bruk klart språk og gjør informasjonen enkel å finne og navigere i.
• Aktuell: Publiser informasjonen når chatboten lanseres, og oppdater den når vesentlige endringer påvirker funksjoner, risiko eller sikkerhetspolicyer.

Dette bør kortet forklare

Et nyttig informasjonskort bør dekke:

• chatbotens tiltenkte formål, funksjoner og muligheter;
• viktige begrensninger, blant annet når svar bør kontrolleres eller bruk kan være uegnet;
• tiltak for pålitelighet og sikkerhet;
• hvordan brukerens innlegg, samtaler og andre data behandles; og
• kanaler for klager, tilbakemeldinger og rapportering av hendelser.

Kortet er ingen garanti for at chatboten er korrekt eller sikker. Verdien ligger i at brukeren får et bedre grunnlag for å vurdere når verktøyet kan stoles på, hvilken informasjon det er klokt å dele, og hvor man kan henvende seg dersom noe går galt.

IMDA startet med offentlige chatboter fordi disse når bredt ut til forbrukere og kan reise spørsmål om blant annet personvern, barns sikkerhet og risiko for personer i en sårbar psykisk situasjon. Rammeverket kan senere også bli et referansepunkt for andre generative KI-løsninger og sektorspesifikk veiledning.

Hvordan selskaper og offentlige virksomheter vil følge opp

Google, Meta, DBS, OCBC, Singapore Airlines og Synapxe har opplyst at de vil bruke chatbotveiledningen som referanse når de forbedrer åpenheten i offentlige chatboter. Det viser en plan om tilpasning og videreutvikling – ikke at alle allerede har lansert identiske informasjonskort.

For banker vil det trolig være viktig å forklare hva kundevendte chatbotfunksjoner kan og ikke kan gjøre, hvilke sikkerhetstiltak som finnes, og hvordan opplysningene håndteres. DBS viste til sine kundevendte KI-initiativer, mens OCBC knyttet veiledningen til bankens eksisterende styring av KI og risikohåndtering.

Singapore Airlines har sagt at selskapet vil fortsette å gjennomgå og styrke KI-styringen og sikkerhetstiltakene etter hvert som det utvider KI-baserte kundeopplevelser. Google og Meta støttet målet om klarere og mer tilgjengelig informasjon om hvordan KI-produktene fungerer og hvordan brukerne samhandler med dem.

Også offentlige organer ventes å bruke rammeverket som referanse. National Library Board og Health Promotion Board planlegger å ta retningslinjene i betraktning for sine offentlige chatboter.

Hva betyr dette i praksis?

Singapore kombinerer et mer spesifikt personvernvarsel for enkelte former for KI-bruk med en frivillig åpenhetsstandard for chatboter. Tiltakene bør derfor ses som utfyllende, ikke som det samme:

1. Kartlegg dataene: Finn ut hvilke persondata som går inn i modellutviklingen eller chatbotløsningen, og hvorfor.
2. Vurder rettslig grunnlag: Avklar om samtykke kreves, eller om et unntak i PDPA gjelder.
3. Gjør KI-gjenbruk tydelig: Bruk et KI-spesifikt varsel når det kreves, i stedet for generelle formuleringer om produktforbedring.
4. Planlegg for brukerrettigheter: Ha nok informasjon i den tidlige delen av dataflyten til å kunne vurdere krav om innsyn, korrigering og tilbaketrekking av samtykke.
5. Publiser chatbotinformasjon: For offentlige generative KI-chatboter bør virksomheten tilby et relevant, tilgjengelig og oppdatert informasjonskort om funksjoner, begrensninger, sikkerhet, pålitelighet, databehandling og rapporteringskanaler.

Samlet sett lover tiltakene ikke at brukerne alltid kan stanse all KI-relatert bruk av dataene sine. De presser likevel virksomhetene mot tydeligere informasjon, mer bevisst datastyring og større ansvarlighet i KI-løsninger som møter offentligheten.