Carney chce globální radu pro stabilitu AI. Nechce vývoj brzdit, ale koordinovat

Kanadský premiér Mark Carney chce vytvořit nové mezinárodní fórum, které by pomáhalo dohlížet na umělou inteligenci a koordinovat její bezpečný rozvoj. Nazval jej „radou pro technologickou stabilitu“ a přirovnal jej k Radě pro finanční stabilitu (Financial Stability Board), jež propojuje regulátory a instituce v oblasti globálního finančního systému. 17

Podstatné je, co Carney nepožaduje: nemluví o zastavení vývoje AI. Koordinovaná pravidla a pojistky podle něj nejsou překážkou ekonomického přínosu umělé inteligence, ale předpokladem, aby její přínosy byly dlouhodobé a širší. 17

Co je zatím na stole

Carney uvedl, že AI vyžaduje mezinárodní koordinaci a že rada pro technologickou stabilitu „dává smysl“. Přirovnání k Radě pro finanční stabilitu naznačuje spíše fórum pro přeshraniční sladění postupů než návrh jediného světového regulátora AI. 17

Veřejně ale dosud nejsou známy zásadní parametry: členové, právní mandát, způsob rozhodování ani vynucování pravidel. Jde tedy o politický návrh, který má otevřít debatu, nikoli o hotovou instituci.

Tři rozdílné pohledy na bezpečnost AI

Carneyho iniciativa přichází v době, kdy se spor o tempo vývoje nejpokročilejší AI vyostřuje.

Dario Amodei: zpomalit růst schopností modelů

Šéf Anthropicu Dario Amodei vyzval firmy vyvíjející AI, aby zpomalily tempo, jakým zvyšují schopnosti svých modelů. Argumentuje tím, že průmysl potřebuje více času na zvládnutí rizik zneužití. Jeho návrh zahrnuje přísnější bezpečnostní testování i koordinaci napříč odvětvím; podporu mu vyjádřili šéf OpenAI Sam Altman a majitel xAI Elon Musk. 4952

To je přímá výzva k omezení tempa na technologické špičce: vývoj by pokračoval, ale závod za stále výkonnějšími systémy by se zpomalil.

Donald Trump: přednost má konkurenceschopnost

Americký prezident Donald Trump odmítl potřebu dalších bezpečnostních omezení pro AI. Spojené státy podle něj už mají nástroje, jak firmy regulovat a stíhat; volání technologického sektoru po regulaci označil za „hoax“. Zároveň zdůrazňuje nutnost udržet americkou technologickou konkurenceschopnost. 51

Carney: bezpečnost koordinovat, růst nezastavovat

Carney stojí mezi těmito dvěma póly. Nevolá po plošném zpomalení vývoje modelů, jak navrhuje Amodei. Současně však nesdílí Trumpův názor, že další mezinárodní koordinace není třeba. Bezpečnostní správu AI naopak představuje jako způsob, jak rozvoj technologie učinit odolnějším a hodnotnějším. 174951

Proč návrh zazněl právě na investičním summitu

Načasování není náhodné. První kanadský národní Investment Summit měl přilákat zahraniční kapitál do více než 160 projektů. Patří mezi ně datová centra, pokročilá výroba, terminály pro zkapalněný zemní plyn (LNG), přístavy, těžba, energetika i digitální technologie. 212

Ottawa si stanovila cíl podnítit během pěti let investice přesahující 1 bilion kanadských dolarů. 212 Součástí nabídky je i infrastruktura pro AI: plánovaný kampus datových center společnosti Meta ve Sturgeon County v Albertě má mít hodnotu 13 miliard kanadských dolarů — ne 14,5 miliardy, jak se někdy uvádí — a jde o první kanadské datové centrum Mety. 15

Spojení investičního summitu a návrhu na správu AI tak vykresluje Kanadu jako zemi, která chce zároveň budovat AI infrastrukturu a prosazovat jasnější mezinárodní pravidla. Jde však o interpretaci vyplývající ze souběhu obou iniciativ, nikoli o oficiální tvrzení, že budoucí rada má řídit kanadské investiční projekty. 172

Obchodní spor s USA a snaha o diverzifikaci

Investiční ofenziva probíhá na pozadí zhoršujícího se obchodního sporu mezi Kanadou a Spojenými státy. USA uvalily 50% cla na kanadské zboží v hodnotě zhruba 20 miliard amerických dolarů. Kanada odpověděla cly ve výši 15 až 50 % na americké výrobky za přibližně 28 miliard kanadských dolarů. 3234

Carney rovněž uvedl, že Kanada musí snížit svou závislost na USA a prohloubit vztahy s Evropou. Podle dostupných zpráv chce usilovat o „jedinečné spojenectví“ s Evropskou unií, aniž by šlo o členství v EU. 3439

V tomto kontextu má získávání kapitálu pro energetiku, infrastrukturu a digitální projekty nejen obchodní, ale i strategický význam: Kanada může rozšiřovat své investiční vazby mimo svého největšího obchodního partnera.

Největší překážka: kdo se přidá

Hlavním problémem bude politická shoda. Taková rada by potřebovala účast vlád a firem, které se dnes neshodnou ani na základní otázce: zda nejpokročilejší AI vyžaduje přísnější a mezinárodně koordinovaná bezpečnostní opatření.

Amodei, Altman a Musk podpořili zpomalení vývoje na hranici možností současné AI, aby vznikl prostor pro bezpečnostní práci. Trump naopak argumentuje proti dalším omezením ve jménu americké konkurenceschopnosti. 4951

Zatím se neobjevily důkazy o závazné podpoře Carneyho návrhu ze strany USA, Číny, Evropské unie ani dalších velkých AI mocností. Návrh je proto vhodné chápat jako výzvu k budování rámce pro mezinárodní správu AI — ne jako dohodnutý globální projekt. 17

Shrnutí

Carneyho rada pro technologickou stabilitu má spojit rychlé investice a nasazování AI s mezinárodní koordinací bezpečnostních pravidel. Odmítá představu, že bezpečnost nutně znamená zastavit technologický pokrok, stejně jako názor, že stávající národní nástroje samy o sobě postačí.

Zda se z této střední cesty stane skutečná instituce, bude záviset na tom, zda se hlavní AI mocnosti dokážou shodnout, že přeshraniční koordinace stojí za to i v čím dál ostřejším technologickém závodě.