I et intervju med Bloomberg-journalisten Emily Chang i London 14. oktober sa Nvidia-sjef Jensen Huang at selskapet hypotetisk kunne stanse brikkeforsyningen til en kunde som utvikler utrygg KI. «Det er hypotetisk, men ja», svarte han på spørsmål om Nvidia ville slutte å levere til en uansvarlig utvikler.
3
15
Huang la til at Nvidia først ville snakke med kunden. Han sa at selskapet ikke driver kundenes virksomheter, og at det finnes grenser for hvor mye Nvidia kan bedømme hvordan andre bruker teknologien.
1
14
15 Det tilgjengelige kildematerialet utdyper ikke hvorfor samtalen skulle komme først. Han beskrev heller ikke noen fast prosedyre for når salg kan stanses, eller hva som konkret vil regnes som «utrygg» KI.
10
Uenighet om hvordan KI-sikkerhet bør håndteres
Huang mener dagens bekymring for KI ikke er berettiget.
1
2 Han har også omtalt sikkerhet som et teknisk problem som bør løses gjennom utvikling og testing, og argumentert for at sikkerhet og framdrift ikke trenger å stå i motsetning til hverandre.
7
Det skiller seg fra synet til Anthropic-sjef Dario Amodei, som har argumentert for at utviklingstempoet bør senkes av hensyn til sikkerheten.
2
7 Huang har i stedet pekt på tekniske tiltak, blant annet overvåking og begrensning av KI-systemer, som veien videre.
15
Dette er Huangs vurdering og forslag til tilnærming, ikke dokumentasjon på at alle KI-systemer kan brukes trygt. Uttalelsen om mulige leveransestanser var dessuten hypotetisk, ikke en kunngjøring om at Nvidia hadde valgt ut en kunde.
10
Nvidia lover beregningskapasitet til britisk forskning
Samme dag kunngjorde Nvidia en femårig satsing på forskning på sikkerhet og trygghet for såkalt agentbasert KI i Storbritannia. Løftet er beregningsressurser verdsatt til 250 millioner dollar – ikke 250 millioner dollar i kontanter.
11
Programmet skal støtte det bredere britiske forskningsmiljøet. En del av kapasiteten skal gå til BOLD, SOFAIR og Imperial College London, ifølge Nvidia.
11 Selskapet opplyste også at Huang deltok på et forum for forskning på KI-sikkerhet i London 14. oktober.
46