Når AI hjælper med at udvikle AI: Derfor efterlyser forskere mere tilsyn

Det centrale i forskernes advarsel er ikke kun, at AI-modeller kan blive mere avancerede. Det er også, at AI kan hjælpe med at udvikle den næste generation af AI – og dermed skabe en proces, der potentielt sætter yderligere fart på forskningen. Forskere fra OpenAI, Anthropic, Meta og Microsoft opfordrer politikere til at undersøge, hvor langt automatiseringen allerede er nået, før udviklingen bliver sværere at følge og føre tilsyn med. 23

En sådan udvikling omtales nogle gange som en intelligenseksplosion. Det er et muligt risikoscenarie, ikke et bevis på, at AI allerede forbedrer sig selv uden menneskelig styring. Det centrale politiske spørgsmål er, hvordan man måler og regulerer AI’s voksende rolle i udviklingen af AI. 114

Sådan kan AI-assisteret forskning sætte tempoet op

AI kan allerede indgå i arbejdet med at udvikle fremtidige modeller. Hvis AI’s bidrag hjælper forskere med at skabe mere avancerede systemer, og de nye systemer derefter overtager mere af forskningsarbejdet, kan hvert led i processen potentielt sætte fart på det næste. Det er dét, der menes med rekursiv selvforbedring: AI-systemer bidrager til at forbedre den proces, der bruges til at bygge AI-systemer. 15

Advarslen handler især om tempoet. I et scenarie, der er beskrevet i omtalen af forskernes artikel, kan fremskridt, der ellers ville tage et år, ske på få uger. Det er en forudsigelse – ikke et målt resultat. Kilderne fastslår ikke, at udviklingen allerede foregår så hurtigt. 314

En tidligere undersøgelse byggede på interviews med 25 forskere fra førende AI-laboratorier og universiteter. Mange af dem forventede, at AI ville kunne automatisere dele af AI-forskningen og skabe en positiv feedbacksløjfe. Det er med til at forklare, hvorfor muligheden tages alvorligt i branchen, men viser ikke, at en intelligenseksplosion er uundgåelig. 1

Hvad forskerne vil have politikerne til at undersøge

Det umiddelbare ønske er større indsigt i, hvor omfattende virksomhederne bruger AI i forskning og udvikling. Mere end 20 AI-ledere og forskere har opfordret politikere til at holde øje med udviklingen og overveje sikkerhedsforanstaltninger. 2

Det er vigtigt at skelne mellem at efterlyse tilsyn og at sige, at AI-laboratorierne allerede har overladt forskningen til AI. Bedre oplysninger om, hvor og hvordan AI bliver brugt, kan hjælpe politikere med at vurdere, om det eksisterende tilsyn er tilstrækkeligt, efterhånden som AI indgår i flere dele af udviklingsarbejdet. 23

Hvorfor nogle ønsker at sætte tempoet ned

En koordineret opbremsning kan give mere tid til sikkerhedstest, uafhængige vurderinger og stærkere tilsyn, før systemerne ændrer sig yderligere. Forskere hos OpenAI og Anthropic har offentligt argumenteret for en langsommere udvikling, mens andre branchefolk foretrækker en mere markedsstyret tilgang. Der er altså ikke enighed i branchen om, hvor meget udviklingen bør sættes ned – eller hvordan en pause skulle se ud. 818

Der er også praktiske spørgsmål: Hvilke systemer og aktiviteter skal omfattes? Hvem skal kontrollere, at reglerne bliver fulgt? Og hvordan koordinerer konkurrerende virksomheder en opbremsning? Omtalen peger på, at både betydningen af en pause og håndhævelsen af den stadig er uklare.

Kan et nødstop være en sikkerhedsventil?

Microsofts præsident Brad Smith har argumenteret for, at dem, der udvikler AI-modeller, udbydere af cloudinfrastruktur og dem, der administrerer AI-agenter, bør kunne slukke systemerne. Tanken er et muligt nødstop – ikke en erstatning for forebyggelse eller løbende overvågning.

Et sådant stop har dog sine begrænsninger. AI-systemer kan køre på tværs af distribueret infrastruktur, så én kontakt ikke nødvendigvis kan garantere, at alle dele standser. Eksperter har også fremhævet behovet for overvågning og menneskelig indgriben.

Når virksomheder både udvikler og fører tilsyn

Forslagene om en rolle til både udviklere og cloududbydere rejser et spørgsmål om, hvem der skal kontrollere systemerne. Microsoft udvikler AI-modeller og leverer samtidig cloudtjenester, som Smiths udtalelser viser. Når rollerne overlapper, bliver uafhængig kontrol og tydelige regler vigtige. Overlapningen beviser dog ikke i sig selv, at en virksomheds sikkerhedsargumenter er uoprigtige. 2

Der er også en bredere udfordring med koordinering. Branchefolk er uenige om tempoet, og debatten om at sætte farten ned foregår samtidig med hård konkurrence om at udvikle og udrulle AI. Det kan være svært for én virksomhed at holde igen frivilligt, hvis andre fortsætter hurtigt. Kilderne beskriver uenighed og konkurrencepres, men beviser ikke, at investeringsinteresser afgør den enkelte forskers synspunkter. 1218

For politikerne handler det derfor om to forbundne spørgsmål: Hvordan følger man AI’s rolle i udviklingen af AI, og hvordan sikrer man, at sikkerhedsforanstaltninger kan kontrolleres uafhængigt – frem for kun at bero på virksomhedernes egne forsikringer? Advarslerne taler for at undersøge spørgsmålene nu. De afgør hverken, hvor sandsynlig en intelligenseksplosion er, eller hvilken politisk løsning der vil virke bedst. 123