Lonsdale: Advarsler om AI-risici må ikke styre reguleringen

Joe Lonsdale mener, at AI-sikkerhed skal tages alvorligt. Men advarsler om, at kunstig intelligens kan udgøre en eksistentiel trussel, bør efter hans opfattelse ikke blive et redskab, som nogle få af branchens største selskaber kan bruge til at præge reglerne.

Det var hovedbudskabet fra Palantir-medstifteren og Anthropic-investoren på Reuters Momentum AI Austin i Texas den 25. september. Han fremsatte kritikken, selv om han samtidig roste Anthropic og selskabets topchef, Dario Amodei. 2

Advarsel mod frygtdrevet regulering

Lonsdale kaldte nogle førende AI-selskabers advarsler om eksistentielle risici et farligt forsøg på at påvirke den offentlige politik. Han kritiserede også det, han beskrev som bestræbelser fra personer tæt på Anthropic og OpenAI på at finansiere eksterne grupper, der går ind for strengere AI-regler. 2

Ifølge Lonsdale risikerer det at give en lille kreds af dominerende AI-udviklere for stor indflydelse på de regler, der skal gælde for hele branchen. Det er hans vurdering af selskabernes motiver og af, hvad deres politiske arbejde kan føre til — ikke en uafhængigt fastslået konklusion. 2

Han afviste ikke, at AI-sikkerhed er vigtig. Hans pointe var snarere, at regulering ikke bør drives af frygt. 2

Ros til Anthropic trods kritikken

Lonsdales udtalelser rummer en tydelig spænding: Han er investor i Anthropic, men kritiserede samtidig det, han beskrev som sikkerhedspolitisk lobbyarbejde fra personer tæt på selskabet og OpenAI. Han roste Amodei og sagde, at Anthropic førte an blandt konkurrenterne, når det gjaldt talent. 2

Kritikken handlede dermed om, hvordan sikkerhedsbekymringer kan påvirke politikken — ikke om, at AI-risici slet ikke findes. Separat har Amodei opfordret AI-selskaber til at sænke tempoet i udviklingen af modeller og foreslået tiltag, der skal give mere tid til at håndtere risiciene. 1

Forudser opkøb af ukrainske forsvarsvirksomheder

Lonsdale forudsagde også, at virksomheder, han støtter, sandsynligvis vil købe ukrainske forsvarsvirksomheder. Den tilgængelige omtale nævner ikke, hvilke virksomheder han henviste til, mulige opkøbsmål eller nogen tidsplan. Den giver heller ikke nærmere oplysninger om partnerskaber. 2

Hvad der ikke fremgår

Det foreliggende kildemateriale fastslår ikke Lonsdales konkrete holdning til ansvar for autonome våben eller, om han talte om at påtage sig en ledende rolle i Pentagon. Det bør derfor ikke udledes af hans bredere kommentarer om AI, regulering eller investeringer i forsvarssektoren.