Når du setter deg på et fly, er det ikke bare tilliten til selve flyet som teller. Du stoler også på vedlikeholdet, flyplassdriften, luftromskontrollen og menneskene som utfører arbeidet. Singapores minister for digital utvikling og informasjon, Josephine Teo, mener kunstig intelligens (KI) etter hvert kan trenge en tilsvarende helhet av sikkerhetstiltak. I et LinkedIn-innlegg 17. september knyttet hun dette til et enkelt poeng: Folk vil ikke bruke en teknologi regelmessig hvis de ikke har tillit til den. Hun sa ikke at et slikt regelverk for KI allerede finnes.
2
3
7
Mer enn en sikkerhetstest
I luftfarten fordeles ansvaret på mange ledd, fra produksjon og vedlikehold til styring av luftrom og flyplasser. Ansatte må få opplæring, og sikkerhetstiltak må følges i den daglige driften. For Teo viser dette hvorfor tillit ikke kan hvile på én teknisk kontroll eller et løfte fra én leverandør.
7
9
Det betyr ikke at luftfartens regler kan kopieres rett over til KI. Sammenligningen peker snarere på spørsmål utviklere, virksomheter som tar KI i bruk, og dem som fører tilsyn, må finne svar på sammen: Hvordan testes systemene? Hvem vurderer dem når de endres? Og hvilken veiledning trenger brukerne? Teo har beskrevet flysikkerhet som en tilnærming med flere lag og understreket at Singapore må lære raskt, fordi det ikke finnes en ferdig oppskrift på KI-sikkerhet.
5
Sikkerhet mens teknologien tas i bruk
Singapores linje er å utvikle sikkerhetstiltak parallelt med økt bruk, mens forskning og testing fortsetter. Blant tiltakene er AI Verify, som skal fremme ansvarlig testing og åpenhet, og Singapore AI Safety Institute. Teo har også omtalt en ordning for akkreditering av uavhengige KI-testere, slik at virksomheter lettere kan vurdere hvem de kan stole på til å undersøke systemene deres. Tiltakene skal gi bedre grunnlag for tillit; de betyr ikke at alle risikoer er avklart.
1
2
22
Singapore har dessuten vært vertskap for International Scientific Exchange on AI Safety, bidratt til Singapore Consensus om globale forskningsprioriteringer for KI-sikkerhet og deltatt i felles testarbeid. Dette er samarbeid om kunnskap og evaluering, ikke et bindende internasjonalt tilsyn etter mønster fra luftfarten.
18
1
En annen vektlegging enn å bremse utviklingen
Teos budskap kommer samtidig med advarsler om stadig kraftigere KI, blant annet risiko for tap av menneskelig kontroll, cyberangrep og bioterrorisme. Anthropic-sjef Dario Amodei ba 12. september om å dempe tempoet i utviklingen av de mest avanserte modellene, slik at sikkerhetsarbeid og uavhengig kontroll kan holde følge. Hans advarsel om at framtidige KI-agenter kan skape omfattende forstyrrelser på internett, var en prognose – ikke en hendelse som allerede har inntruffet.
13
10
11
Forskjellen ligger i hva de legger mest vekt på: Teo vil styrke sikkerheten mens KI tas i bruk, mens Amodei også vil gi kontrollarbeidet mer tid før de mest avanserte modellene blir enda kraftigere. Begge stiller dermed det samme spørsmålet: Kan sikkerhetstiltakene holde tritt med teknologien folk forventes å stole på?
1
3
11