Singapores svar på KI-advarslene: Test systemene, begrens agentene

Hva gjør man når KI-forskere advarer om at teknologien kan få katastrofale følger? I Singapore dreier svaret seg mindre om å sette et tall på en fjern risiko og mer om å stille krav som kan undersøkes nå: La uavhengige fagfolk teste systemene, gi innsyn i sikkerhetsarbeidet og begrens hva KI kan få tilgang til og utføre. 732

Advarslene som skjerpet debatten

I september 2026 sluttet Jacob Coxon i KI-selskapet Anthropic. Etter å ha arbeidet både der og i OpenAI anklaget han selskapene for å utvikle KI som kan forbedre seg selv, uten å opptre ansvarlig. Anthropic-forskeren Evan Hubinger sa seg enig i bekymringen og anslo personlig sannsynligheten for at KI vil føre til menneskehetens utryddelse i løpet av det neste tiåret, til over 10 prosent. Det er hans vurdering – ikke en målt sannsynlighet eller et bevis for at en slik hendelse er nært forestående. 34

Anthropic-sjef Dario Amodei tok til orde for å senke utviklingstakten. I et forslag fra 12. september ville han også gi eksterne evaluatorer tilgang til å kontrollere om sikkerhetsrutiner og kommunikasjon blir fulgt, og til å rapportere hendelser. Dermed blir et sentralt spørsmål ikke bare hvor alvorlig er faren?, men hva kan andre faktisk kontrollere? 1332

Testing gir svar – men ingen evig garanti

Singapores testverktøy AI Verify, lansert i 2022, kan brukes til å undersøke om resultater fra KI-systemer er rettferdige, robuste og forklarlige. Et program for akkreditering av KI-testere skal bidra til større testkapasitet. Slike ordninger kan avdekke svakheter ved systemer som finnes i dag; de kan ikke bevise at alle fremtidige systemer er trygge. 1933

Uavhengig kontroll krever mer enn at leverandøren viser til sin egen internkontroll. De som skal evaluere et system, trenger tilstrekkelig tilgang til å undersøke sikkerhetsarbeidet og avdekke hendelser. Virksomheter trenger på sin side innsyn og styringsmuligheter før de kobler en modell til egne data og arbeidsprosesser. Tilgang til modellens vekter alene gir ikke nødvendigvis svar på hvilke valg som ble tatt under treningen, hva som har gått galt, eller hvilke sikkerhetstiltak som finnes. 3234

Dette utelukker ikke pauser. En ekspert i Singapore som er trukket inn i debatten, mener utviklere bør stanse en aktivitet dersom de ikke kan holde systemet tilstrekkelig under kontroll eller forklare hvordan alvorlig risiko håndteres. Det er noe annet enn å sette all KI-utvikling på vent. 32

Gi ikke KI-agenter mer myndighet enn de trenger

For autonome KI-agenter er spørsmålet umiddelbart praktisk. En agent som kan bruke verktøy og utføre oppgaver på tvers av systemer, må ha grenser for hva den får gjøre. Singapores myndighet for digital utvikling, Infocomm Media Development Authority (IMDA), lanserte i januar 2026 et rammeverk for styring av slike agenter. Det anbefaler å vurdere risiko på forhånd og begrense agentenes selvstendighet og tilgang til verktøy og data. En oppdatert versjon presiserer prinsippet om minste nødvendige tilgang. Rammeverket er veiledning, ikke et generelt lovforbud mot å ta i bruk KI-agenter. 504852

For en virksomhet betyr det å utpeke en ansvarlig person for hver agent, begrense tilganger, følge med på hva agenten gjør og sørge for at handlinger kan spores – og om mulig reverseres. Det er mer konkret enn å erklære at agenten er «trygg». 34 Singapores minister Josephine Teo har sammenlignet betydningen av sikkerhetstiltak og standarder for tillit til KI med sikkerhetsarbeidet i sivil luftfart. 17

Kjernen er ansvarlighet også når risikoen er usikker: Test det som kan testes, slipp til uavhengig kontroll, og ikke gi systemer myndighet som ikke kan styres forsvarlig. Det avgjør ikke debatten om KIs langsiktige risiko, men gir utviklere og brukere konkrete oppgaver her og nå. 3248