Huawei-chef: Kina bør sætte fart på AI – og styre risiciene undervejs

Huaweis roterende bestyrelsesformand Eric Xu mener, at Kina skal opbygge stærkere AI-systemer, mens sikkerhedsrisiciene håndteres løbende. Pointen er ikke, at kinesisk AI er uden risiko. Hans pointe er, at kinesiske udviklere muligvis endnu ikke befinder sig på det kapacitetsniveau, hvor førende amerikanske selskaber har rapporteret de mest avancerede og uventede modeladfærdsmønstre. Derfor bør udviklingen fortsætte – med risikostyring ved siden af.

Xus hovedbudskab: Sikkerhed og acceleration kan ske samtidig

På Huaweis Connect-konference sagde Xu, at kinesiske AI-udviklere muligvis endnu ikke er langt nok fremme til at opleve de sikkerhedsrisici, som er rapporteret af førende amerikanske selskaber. Han argumenterede for, at de fortsat bør udvikle kraftigere modeller, men afveje innovation mod risiko.

Det er ikke et argument for at sætte udviklingen på pause. I Xus optik er større kapacitet nødvendig både for at kunne konkurrere og for at forstå de risici, som følger med AI-systemer i den teknologiske frontlinje. Strategien kan kort beskrives som: byg videre og styr risiciene. Modeller og infrastruktur skal udbygges, mens der samtidig udvikles kontrol med sikkerhed, styrbarhed og brug i praksis.

Kontrasten til amerikanske krav om lavere tempo

Debatten tog fart, efter at Anthropics direktør Dario Amodei opfordrede til et langsommere tempo i udviklingen af de mest avancerede AI-modeller, så der bliver mere tid til at håndtere voksende sikkerhedsrisici. Reuters skrev, at forslaget senere blev støttet af OpenAI-chefen Sam Altman og Elon Musk. 13

Amodeis synspunkt er præget af forsigtighed: Hvis modellernes evner udvikler sig hurtigere end sikkerhedsforanstaltningerne, bør laboratorier bevidst dæmpe tempoet. Reuters beskrev også bekymringer om uventet og potentielt skadelig modeladfærd, herunder en omtalt hændelse med OpenAI og Hugging Face, hvor en AI-"sværm" udførte cyberangreb.

Xu lægger vægten et andet sted. Han anerkender behovet for at balancere udvikling og risiko, men ser Kinas mest presserende opgave som at opbygge tilstrækkelig kapacitet – og tilstrækkelig regnekraft – til at nærme sig fronten, hvor disse risici bliver særligt relevante.

Hvorfor forslag om opbremsning møder modstand i Kina

Det statsstøttede kinesiske medie Global Times beskrev Amodeis forslag som en "Cold War playbook" og argumenterede for, at en opbremsning, der præsenteres som sikkerhedspolitik, kan begrænse Kinas teknologiske udvikling. 13

Kritikken skal ses i lyset af den geopolitiske AI-konkurrence. En frivillig global opbremsning kan få ulige virkninger, hvis USA allerede har et forspring i avancerede modeller og i de computerressourcer, der kræves for at træne dem. Brookings peger på, at kinesiske AI-selskaber – særligt startups – er begrænset af adgang til regnekraft, blandt andet på grund af amerikansk eksportkontrol med avancerede AI-chips og mere begrænsede kapitalressourcer.

Det løser ikke den grundlæggende debat om AI-sikkerhed. Men det forklarer, hvorfor kinesiske kommentatorer kan se krav om at "sætte tempoet ned" som tæt forbundet med konkurrencen om chips, modeller og teknologisk førerskab.

Kinas fokus på standarder for AI-agenter

Kina arbejder samtidig på kontrolmekanismer for mere selvstændig software. En planlagt obligatorisk national standard med titlen General Security Requirements for Artificial Intelligence Agent Application skal ifølge CGTN gælde AI-agentapplikationer på tværs af enheder og cloudplatforme. Den angivne udviklingsperiode er 18 måneder.

AI-agenter gør mere end at generere tekst: De kan bruge værktøjer og udføre handlinger på brugerens vegne. Det flytter sikkerhedsspørgsmålet fra kvaliteten af et svar til blandt andet tilladelser, brug af værktøjer, behandling af data, identifikation og muligheden for at kontrollere systemerne efter lancering.

Kontrasten er ikke blot, at Kina regulerer, mens USA ikke gør. Kinas tilgang lægger i denne debat betydelig vægt på statsstøttede standarder og formelle krav til agentapplikationer, mens den amerikanske debat i høj grad har handlet om frivillige tilsagn og foreslåede sikkerhedspraksisser fra selskaberne ved AI-fronten. 13

Huaweis prognose for 2035

Huawei forventer, at autonome agenter vil stå for mere end 90 % af den globale AI-token-trafik i 2035. Tokens er de informationsenheder, sprogmodeller behandler, når de modtager og genererer indhold. Ifølge Huawei vil udviklingen kræve kraftige stigninger i regnekraft og systemer, der holder selvstændig software sikker og kontrollerbar. 1

Selskabet har også anslået, at der kan være op til 900 milliarder aktive agenter i 2035. Det er en virksomhedsprognose – ikke et fastslået markedsudfald – og bør læses som Huaweis scenarie for fremtidig infrastrukturplanlægning, ikke som en sikker forudsigelse. 3

Prognosen viser alligevel, hvorfor Huawei ser sikkerhed for agenter som et centralt teknisk spørgsmål. Hvis AI-systemer i stigende grad overvåger information, træffer beslutninger og bruger eksterne værktøjer, bliver styring af deres adgang og adfærd en del af selve infrastrukturproblemet.

Regnekraft er Huaweis mest akutte flaskehals

Xu sagde, at Huawei ikke kan producere nok AI-computeudstyr til at imødekomme efterspørgslen i Kina, og at virksomheden derfor begrænser salget til udlandet. 2

Den begrænsning er central i Huaweis AI-strategi. Træning og drift af stadigt stærkere modeller kræver store mængder hardware, netværkskapacitet og datacenterressourcer. Brookings fremhæver tilsvarende, at begrænset adgang til avancerede AI-chips hæmmer kinesiske virksomheders mulighed for at matche amerikanske konkurrenters skala i regnekraft.

Xus argument handler dermed i høj grad om rækkefølge: Kina skal forbedre AI-sikkerhed og kontrol, men ikke bruge sikkerhedsbekymringer som begrundelse for at holde op med at bygge. Efter hans vurdering er den begrænsede compute-kapacitet den mest umiddelbare hindring for at mindske afstanden til AI-fronten; risikostyring skal udvikles parallelt med kapaciteten – ikke træde i stedet for den. 2