Jensen Huang powiedział, że Nvidia mogłaby hipotetycznie przestać dostarczać chipy firmie rozwijającej niebezpieczną sztuczną inteligencję. Zastrzegł jednak, że przed takim krokiem chciałby najpierw porozmawiać z klientem. Jednocześnie ocenił, że obecny poziom obaw o AI jest przesadny, a bezpieczeństwo należy wzmacniać przede wszystkim przez rozwiązania inżynieryjne.
1
2
7
„To hipotetyczne, ale tak”
Bloomberg zapytał Huanga w Londynie 14 października, czy Nvidia wstrzymałaby dostawy układów dla nieodpowiedzialnego twórcy AI. „To hipotetyczne, ale tak” — odpowiedział szef firmy.
1
3
Huang dodał, że przed podjęciem takiej decyzji Nvidia najpierw porozmawiałaby z klientem. Podkreślił też, że firma nie prowadzi działalności swoich klientów i ma ograniczone możliwości oceniania, w jaki sposób wykorzystują jej technologię. Chipy Nvidii są rozwiązaniami ogólnego przeznaczenia, a nie narzędziami przeznaczonymi wyłącznie do jednego zastosowania.
1
14
15
Nie była to zapowiedź konkretnego wstrzymania dostaw ani szczegółowo opisana polityka firmy. Huang nie wskazał żadnego klienta ani nie określił, jakie działania uznałby za „niebezpieczne”.
10
Bezpieczeństwo przez inżynierię
Huang nie podziela poglądu, że rozwój AI należy spowolnić, by ograniczyć zagrożenia. Twierdzi, że bezpieczeństwo jest przede wszystkim problemem inżynieryjnym i można nad nim pracować równolegle z rozwojem technologii.
7 W relacji z rozmowy z Bloombergem podano również, że opowiadał się za rozwijaniem narzędzi do monitorowania i ograniczania ryzyka, w tym z wykorzystaniem AI do zabezpieczania AI.
15
To stanowisko różni się od podejścia Daria Amodeia, szefa Anthropic, który opowiada się za wolniejszym rozwojem w imię bezpieczeństwa.
2
7 Zapewnienia Huanga opisują jego poglądy i proponowany kierunek działań — same w sobie nie dowodzą, że każdy system AI można wdrożyć bezpiecznie.
250 mln dolarów na badania w Wielkiej Brytanii
Tego samego dnia Nvidia ogłosiła pięcioletnie wsparcie badań nad bezpieczeństwem i ochroną systemów agentowych AI w Wielkiej Brytanii. Zobowiązanie o wartości 250 mln dolarów ma formę dostępu do mocy obliczeniowej, a nie darowizny gotówkowej.
11
Program ma wesprzeć szersze brytyjskie środowisko badawcze. Część zasobów ma trafić do inicjatyw BOLD i SOFAIR oraz Imperial College London; komunikat Nvidii nie przedstawia całej kwoty jako podzielonej wyłącznie między te trzy podmioty.
11 Huang uczestniczył także w londyńskim Forum Badań nad Bezpieczeństwem i Ochroną AI.
46