Singapores svar på AI-varningarna: granska systemen och begränsa agenterna

Varningarna om AI:s framtida risker har blivit skarpare. Men för aktörer i Singapores AI-bransch är den mest angelägna frågan inte att sätta en siffra på ett möjligt katastrofscenario. Den är vad som går att granska och styra redan nu: vilka tester har gjorts, vad får utomstående insyn i och vilka befogenheter får ett AI-system när det tas i bruk? 732

Varningarna som skärpte debatten

I september lämnade forskaren Jacob Coxon Anthropic, efter att ha arbetat även på OpenAI. Han anklagade båda företagen för att driva utvecklingen mot självförbättrande superintelligens utan att ta tillräckligt ansvar. Anthropic-forskaren Evan Hubinger instämde offentligt och uppskattade personligen risken för att AI orsakar mänsklighetens utplåning inom tio år till över 10 procent. Det är hans bedömning – inte en uppmätt sannolikhet eller ett belägg för att katastrofen är nära. 34

Anthropics vd Dario Amodei efterlyste en långsammare utveckling. I ett förslag den 12 september ville han också ge oberoende utvärderare tillgång att kontrollera om säkerhetsrutiner och kommunikation följs, samt möjlighet att rapportera incidenter. Därmed blir frågan mer konkret: vad kan någon utanför företaget faktiskt kontrollera? 1332

Tester ger underlag – inte garantier

Singapore lanserade testverktyget AI Verify 2022. Det kan användas för att bedöma om AI-resultat är rättvisa, robusta och möjliga att förklara. Ett program för ackreditering av AI-testare beskrivs också som ett sätt att bygga upp testkapaciteten. Sådana insatser kan synliggöra brister i befintliga system, men de bevisar inte att framtida system är säkra. 1933

En leverantörs egen försäkran om att en modell har klarat interna tester räcker inte för oberoende granskning. Granskare behöver tillräcklig insyn för att pröva uppgivna säkerhetsrutiner och fånga upp incidenter. Organisationer som vill koppla AI till sina data och arbetsflöden behöver i sin tur insyn och kontrollmöjligheter från leverantören. Att få tillgång till en modells vikter ger inte i sig en fullständig bild av träningsbeslut, fel eller skyddsåtgärder. 3234

Det utesluter inte pauser. En Singaporebaserad expert i debatten anser att utvecklare bör pausa en viss aktivitet om de inte kan hålla systemet under tillräcklig kontroll eller förklara hur allvarliga risker hanteras. Det är något annat än att stoppa alla AI-tillämpningar. 32

Sätt gränser innan en AI-agent får agera

Frågan blir särskilt viktig för AI-agenter: system som kan använda verktyg och utföra uppgifter i flera steg. I januari 2026 lanserade Singapores myndighet för digital utveckling, IMDA, ett ramverk för styrning av sådana agenter. Det rekommenderar att risker bedöms i förväg och att agenternas självständighet och åtkomst till verktyg och data begränsas. En uppdaterad version anger principen om minsta möjliga behörighet. Ramverket är vägledning, inte ett generellt lagförbud mot att använda agenter. 504852

För en organisation innebär det att utse en ansvarig för varje agent, begränsa dess behörigheter, följa upp vad den gör och se till att åtgärder kan spåras och, där det är möjligt, återställas. Det är mer konkret än att bara kalla agenten ”säker”. 34 Singapores minister Josephine Teo har jämfört betydelsen av skyddsåtgärder och standarder för förtroendet för AI med säkerhetsarbetet inom civilflyget. 17

Kärnan är ansvar trots osäkerhet: testa det som går att testa, släpp in oberoende granskare och ge inte system befogenheter som inte kan styras säkert. Det avgör inte debatten om AI:s långsiktiga risker, men ger utvecklare och användare konkreta uppgifter här och nu. 3248