Først en samtale – så måske et stop
Nvidia-topchef Jensen Huang siger, at virksomheden hypotetisk kan stoppe med at levere chips til en kunde, der udvikler usikker AI. I et interview med Bloombergs Emily Chang i London den 14. oktober blev han spurgt, om Nvidia ville afbryde leverancerne til en uansvarlig udvikler.
»Det er hypotetisk, men ja«, svarede Huang. Han tilføjede, at Nvidia først ville tage en samtale med kunden.
3
15
Huang pegede på, at Nvidia ikke driver andre virksomheders forretning, og at der er grænser for, hvor meget selskabet kan bedømme kundernes brug af teknologien.
14 Hans svar angiver altså ikke en fast procedure for, hvornår et kundeforhold ville blive afbrudt. Interviewet fastlagde heller ikke, hvad Nvidia konkret ville betegne som »usikker« AI, eller hvilken kunde der kunne være tale om.
10
Uenighed om, hvordan AI bliver sikrere
Huang mener, at den aktuelle bekymring for AI ikke er berettiget.
1
2 Hans tilgang er, at sikkerheden skal styrkes gennem tekniske løsninger, frem for at branchen sætter tempoet ned. Han har beskrevet sikkerhed som et ingeniørproblem og sagt, at udviklingshastighed og sikkerhed ikke behøver at være modsætninger.
7
Det adskiller sig fra Anthropic-chef Dario Amodeis argument om at sænke farten i AI-udviklingen af hensyn til sikkerheden.
2
7 Huang har i stedet talt for at udvikle værktøjer til at afgrænse og overvåge AI-systemer – herunder at bruge AI til at hjælpe med at holde AI under kontrol.
15
Det er Huangs vurdering og forslag, ikke en dokumentation for, at alle AI-systemer kan gøres sikre. I en tidligere samtale i New York sagde han, at »AI vil ikke løbe løbsk«, og fremhævede tilpasning, kontrol og overvågning som måder at håndtere teknologien på.
6
13
Nvidia lover computerkraft til britisk forskning
Samme dag annoncerede Nvidia et femårigt bidrag til britisk forskning i sikkerhed og beskyttelse af såkaldt agentisk AI – systemer, der kan udføre opgaver på egen hånd. Bidraget er computerkapacitet til en værdi af 250 millioner dollar, ikke en kontant donation.
11
12
Ordningen skal støtte det bredere britiske forskningsmiljø. En del af kapaciteten skal gå til BOLD, SOFAIR og Imperial College London, men Nvidia beskriver ikke hele bidraget som fordelt mellem de tre.
11 Huang deltog i Londons AI Safety and Security Research Forum den 14. oktober.
46