Jensen Huang zegt dat Nvidia in theorie de levering van chips kan stopzetten aan een klant die onveilige AI ontwikkelt. Maar voordat het zover komt, zou de topman eerst met die klant in gesprek gaan. Hij maakte de opmerking op 14 oktober in Londen, in een interview met Bloomberg-presentator Emily Chang.
3
14
Tegelijk vindt Huang de huidige bezorgdheid over AI overdreven. Volgens hem moet de sector de veiligheid verbeteren met techniek, in plaats van de ontwikkeling van AI af te remmen.
1
2
7
Een hypothetisch scenario, geen aangekondigd beleid
Chang vroeg Huang of Nvidia zou stoppen met leveren aan een onverantwoordelijke AI-ontwikkelaar. „Het is hypothetisch, maar ja”, antwoordde hij. Hij voegde eraan toe dat Nvidia eerst met de klant zou praten.
3
15
Huang benadrukte ook dat Nvidia de bedrijven waaraan het levert niet bestuurt. De chips zijn algemene technologie en het bedrijf heeft volgens hem maar beperkt zicht op hoe klanten die gebruiken.
1
14
Zijn antwoord is geen aankondiging dat Nvidia een klant daadwerkelijk de toegang tot chips ontzegt. Ook noemde hij geen bedrijf of concrete criteria voor wat precies als „onveilig” geldt.
10 Waarom hij eerst een gesprek zou willen voeren, blijkt niet nader uit de beschikbare uitspraken.
Huang wil veiligheid met techniek aanpakken
Huang zei dat het huidige niveau van bezorgdheid over AI volgens hem niet gerechtvaardigd is.
1
2 Zijn standpunt is dat veiligheid en verdere ontwikkeling samen kunnen gaan: veiligheid is volgens hem een technisch probleem dat met onder meer testen en betere waarborgen moet worden aangepakt.
7
Daarmee staat hij tegenover Anthropic-topman Dario Amodei, die heeft gepleit voor een vertraging van de AI-ontwikkeling om veiligheidsrisico’s te beperken.
2
7
Nvidia stelt computerkracht beschikbaar in het VK
Op dezelfde dag kondigde Nvidia een vijfjarige toezegging aan ter waarde van 250 miljoen dollar voor onderzoek naar de veiligheid en beveiliging van AI-agenten in het Verenigd Koninkrijk. Het bedrag vertegenwoordigt computerkracht en toegang tot rekenmiddelen, geen gift van 250 miljoen dollar in contanten.
11
Het programma is bedoeld voor de bredere Britse onderzoeksgemeenschap. Een deel van de beschikbare middelen gaat naar BOLD, SOFAIR en Imperial College London. Nvidia beschrijft de toezegging dus niet als een bedrag dat uitsluitend over die drie instellingen wordt verdeeld.
11
Huang nam op 14 oktober in Londen ook deel aan het Britse AI Safety and Security Research Forum.
46