Jensen Huang odmítá nové zákony pro AI. Spor o bezpečnost se vyostřil

Jensen Huang, šéf Nvidie, na konferenci Dreamforce 2026 prosazoval jednoduchou tezi: rychlý vývoj umělé inteligence a její bezpečnost nejsou protiklady. Podle něj proto odvětví nepotřebuje nové zákony ani zvláštní regulace pro AI. Firmy, které systémy vyvíjejí, mají samy zajistit, že je dokážou řídit, pořádně otestovat a nevydat je ve chvíli, kdy nejsou připravené.

Tím se Huang postavil na jednu stranu sílícího sporu. Nejde přitom o otázku, zda je bezpečnost důležitá. Jde o to, kdo má určovat tempo vývoje nejvýkonnějších modelů: samotné technologické firmy, nebo nezávislý dohled a veřejná moc.

Bezpečnost jako úkol pro inženýry

Huang odmítl představu, že si vývojáři musí vybrat mezi rychlostí a bezpečným produktem. Označil ji za falešné dilema. Laboratoře mohou podle něj postupovat rychle, a přitom své systémy kontrolovat, testovat a v případě pochybností jejich uvedení odložit.

Bezpečnost tedy nezlehčuje. Přesouvá ji však hlavně do roviny technického a provozního řízení uvnitř firem, které AI vytvářejí, nikoli do podoby plošné regulatorní brzdy.

Skepticky se také vyjadřoval k varováním, jež stavějí do středu debaty možné vyhynutí lidstva vinou AI. Podle dostupného zpravodajství zároveň nevylučuje nezávislé hodnotitele. Za prvořadé ale považuje, aby laboratoře měly nad vlastními systémy kontrolu a prováděly skutečně důkladné testy — ne jen formální procesy.

Shoda s Trumpem na summitu All-In

Huangův postoj navázal na jeho vystoupení na summitu All-In. Tam popsal „pauzu“ či zpomalení jako dobrovolné rozhodnutí, k němuž mohou firmy přistoupit, pokud usoudí, že své systémy přestávají zvládat.

Během akce Huangovi telefonoval prezident Donald Trump. Trump se k výzvám ke zpomalení AI stavěl ještě odmítavěji. Společným východiskem obou bylo, že Spojené státy nemají ztratit tempo v rozvoji AI kvůli plošnému regulatornímu omezení.

To je ovšem politická a strategická preference, ne důkaz, že všechny hrozby lze spolehlivě zvládnout jen dobrovolnými kroky firem. Klíčová otázka zní, zda společnosti pod silným konkurenčním tlakem dokážou samy od sebe vždy včas odložit potenciálně velmi výnosné uvedení produktu.

Amodei: schopnosti AI je třeba dávkovat

Generální ředitel Anthropicu Dario Amodei naopak vyzývá ke zpomalení tempa, jakým se zvyšují schopnosti nejpokročilejších AI modelů. Nevolá po ukončení vývoje, ale po získání času, aby bezpečnostní výzkum, sledování rizik a pravidla řízení technologií stačily držet krok. Navrhuje silnější testování a nezávislé hodnotitele s reálným přístupem do předních AI společností. 14

Obecnou výzvu k větší opatrnosti veřejně podpořili Sam Altman z OpenAI i Elon Musk. Altman uvedl, že OpenAI uvítá nezávislé hodnotitele s přístupem podobným zaměstnancům firmy; Musk reagoval stručně: „Dario má pravdu.“ 49

Rozdělení tak není prostě střetem „zastánců“ a „odpůrců“ AI:

• Huangův přístup: postupovat rychle a bezpečnost řešit kvalitním inženýrstvím, testováním a odpovědným rozhodováním o vydání produktu.
• Amodeiho přístup: vědomě regulovat tempo růstu schopností hraničních modelů, aby nezávislý dohled a bezpečnostní opatření nezaostávaly.
• Altman a Musk: podpořili Amodeiho apel na větší opatrnost a nezávislé hodnocení; podoba případného celoodvětvového zpomalení však zůstává sporná. 14

Nezávislí hodnotitelé jako možný průsečík

Debata není zcela černobílá. Amodei navrhuje, aby u předních AI firem působili externí hodnotitelé, kteří by ověřovali dodržování deklarovaných bezpečnostních postupů. 312

Huangova otevřenost vůči podobným hodnotitelům ukazuje omezený prostor pro shodu: vnější kontrola může být užitečná, aniž by automaticky znamenala nový regulatorní režim nebo povinné zpomalování. Spor se ale vrací u otázky pravomocí. Budou hodnotitelé jen poradci a auditory, nebo součástí závazného systému schopného firmu přinutit vývoj či nasazení pozastavit?

Datová centra: jiný, ale konkrétní druh obav

Výhrady veřejnosti vůči novým datovým centrům s debatou o AI souvisejí, ale nejsou totožné s obavou ze ztráty kontroly nad nejpokročilejšími modely. Lidé v dotčených místech mohou řešit bezprostřední dopady: spotřebu elektřiny a vody, emise, zábor půdy, hluk nebo zatížení místní infrastruktury.

Tyto námitky samy o sobě nedokazují existenční hrozbu AI. Ukazují však, že rozmach AI má sociální a environmentální náklady prožívané lokálně, zatímco velká část ekonomických přínosů i klíčových rozhodnutí se soustřeďuje jinde.

Podklady k tomuto článku neumožňují rozsah takového odporu spolehlivě vyčíslit. Nebylo by proto namístě jej vydávat za doložený celostátní či globální trend.

Proč je výsledek sporu důležitý i pro Nvidii

Byznys Nvidie je úzce svázán s pokračujícími investicemi do trénování a nasazování AI. Dohoda o akvizici platformy Hugging Face za 12,9 miliardy dolarů by podle dostupných zpráv posunula její roli dál než k čipům a infrastruktuře datových center: firma by získala výraznější pozici u platformy pro AI modely, datové sady a vývojáře. 17

Lze proto rozumně usuzovat, že pravidla, která by podstatně zdržela trénování modelů, jejich nasazení nebo stavbu datových center, by mohla ovlivnit poptávku v rozšiřujícím se AI ekosystému Nvidie. Jde o obchodní pobídku spojenou s postavením firmy — nikoli o důkaz Huangovy osobní motivace ani o důkaz, že jeho bezpečnostní argumenty nejsou upřímné.

Co zůstává nevyřešené

Huangův argument je sázkou na odpovědnost vývojářů: AI může postupovat rychle, pokud firmy systémy udrží pod kontrolou, důkladně je otestují a nevydají je, pokud nejsou bezpečné. Amodei naopak sází na záměrně řízené tempo a nezávislou kontrolu, protože dobrovolné pojistky nemusí u stále schopnějších systémů stačit. 14

Nejde tedy o spor, zda bezpečnost patří na první místo. Jde o to, zda má zůstat především disciplínou uvnitř AI laboratoří, nebo zda rozsah a možný dopad hraničních systémů vyžadují vymahatelné vnější pojistky ještě před dalším velkým skokem ve schopnostech AI.