Därför jämför Singapore AI-säkerhet med flygsäkerhet

Den som kliver ombord på ett flygplan litar inte bara på att det var säkert när det byggdes. Flygningen är också beroende av underhåll, flygledning, flygplatser, utbildad personal och rutiner som följs varje dag. Det är den helheten Singapores minister för digital utveckling och information, Josephine Teo, vill att AI-världen ska lära av. 79

I ett inlägg på LinkedIn den 17 september sade Teo att AI på sikt kan behöva säkerhetsarrangemang som liknar den civila luftfartens. Hon hävdade inte att ett sådant system redan finns. Poängen var att människor måste kunna lita på skydden om de regelbundet ska använda tekniken. 23

Säkerhet i flera led

Flygbranschens regler går inte att kopiera rakt av till AI. Men jämförelsen väcker konkreta frågor: Hur testas ett system innan det tas i bruk? Vem granskar det när det förändras? Vilken vägledning behöver dem som använder det? Teo har beskrivit flygsäkerheten som ett skydd i flera lager och sagt att Singapore måste lära sig snabbt, eftersom det ännu inte finns någon färdig handbok för AI-säkerhet. 5

Vad Singapore gör

Teos linje är att bygga skydd parallellt med att AI börjar användas mer, samtidigt som forskning och tester fortsätter. Bland landets initiativ finns AI Verify, som ska främja ansvarsfull testning och öppenhet, och Singapore AI Safety Institute. 1222

Teo har också beskrivit ett program för att ackreditera oberoende AI-testare. Tanken är att organisationer som använder AI ska få bättre grund för att bedöma vem de kan anlita för granskning. Det är steg mot mer tillförlitliga kontroller, inte ett tecken på att riskerna är lösta. 22

Eftersom AI-system och risker sträcker sig över landsgränser har Singapore stått värd för International Scientific Exchange on AI Safety, bidragit till Singapore Consensus on Global AI Safety Research Priorities och deltagit i gemensamma tester. Det är forsknings- och utvärderingssamarbete – inte en bindande internationell tillsynsmyndighet av flygets slag. 181

Inte samma sak som att bromsa utvecklingen

Teos fokus på trygg användning kommer samtidigt som varningarna för allt kraftfullare AI blivit skarpare, bland annat om förlorad mänsklig kontroll, cyberattacker och bioterrorism. Den 12 september förespråkade Anthropic-chefen Dario Amodei ett långsammare tempo för förbättringar av de mest avancerade AI-modellerna, så att säkerhetsarbete och oberoende granskning hinner med. Hans varning om att framtida AI-agenter skulle kunna orsaka omfattande störningar på internet var en prognos, inte ett konstaterat utfall. 131011

Skillnaden ligger i betoningen: Teo vill stärka skydden medan användningen växer; Amodei vill dessutom ge säkerhetsarbetet mer tid innan modellernas förmågor utvecklas ytterligare. Båda utgår från samma öppna fråga: kan säkerhetsarbetet hålla jämna steg med tekniken som människor förväntas lita på? 1311