Roland Lescure, francouzský ministr financí, v komentáři zveřejněném 16. září postavil spor o tempo vývoje umělé inteligence do roviny technologické moci, nejen bezpečnosti. Podle něj přicházejí výzvy ke zpomalení od společností, které už jsou „na špici“. Pokud by se zpomalili všichni ostatní, pomohlo by to těmto lídrům udržet si první místo.
2
Schopnost využívat AI jako podmínka pro řízení rizik
Lescure netvrdí, že AI nepřináší rizika. Jeho argument zní, že Francie a Evropa musí rychleji rozvíjet vlastní kapacity a využívání AI, aby se samy dostaly mezi lídry schopné tato rizika řídit. Závislost na zahraničních poskytovatelích nejpokročilejších modelů by Evropě podle této logiky ponechala menší praktický vliv na nasazování i správu technologie.
2
Tento důraz navazuje na jeho dřívější varování, že evropská technologická suverenita v AI nesmí stát na jedné firmě. Vyzýval k budování širšího ekosystému místo soustředění evropských ambicí do jediného národního šampiona.
17
Střet s výzvou k omezení tempa vývoje
Generální ředitel Anthropicu Dario Amodei navrhl zpomalit tempo, s nímž firmy zvyšují schopnosti nejpokročilejších modelů. Cílem je získat čas pro bezpečnostní výzkum a pravidla dohledu v době, kdy jsou modely stále výkonnější. Součástí jeho návrhu je průběžný přístup nezávislých hodnotitelů k systémům, aby mohli ověřovat dodržování bezpečnostních závazků, hlásit incidenty a posuzovat bezpečnost modelů.
1
5
Reuters uvedl, že šéf OpenAI Sam Altman patří mezi lídry oboru usilující o koordinované zpomalení. V bezprostředním politickém doporučení je tak blíže Amodeiho přístupu než Lescureho důrazu na zrychlení.
4
Spor tedy není prostým dilematem „rychlost, nebo bezpečnost“. Amodeiho strana chce omezit tempo růstu schopností modelů, aby ochranná opatření mohla vývoj dohnat. Lescure naopak tvrdí, že Evropa musí AI rychle rozvíjet a zavádět, má-li mít reálnou kapacitu její důsledky ovlivňovat a řídit.
1
2
Co dostupné zdroje potvrzují — a co nikoli
Předložené zpravodajství podporuje tvrzení, že Amodei varoval před možností, že by pokročilí AI agenti mohli být obtížně ovladatelní. Zmínil i scénář, v němž by roj agentů mohl během šesti až dvanácti měsíců převzít velkou část internetu.
3
9
Zdroje zároveň potvrzují, že jeho návrh neznamenal úplné zastavení práce na AI, ale řízené zpomalení vývoje nejpokročilejších systémů.
1
8
Dostupné podklady však nepotvrzují konkrétnější výroky, které se s touto debatou někdy spojují: neověřují, že výzkumníci Anthropicu prohlásili, že rychlý vývoj AI povede k vyhynutí lidstva. Nepotvrzují ani to, že Lescure označil konkrétní rizika AI v kybernetické bezpečnosti či vzdělávání nebo že tvrdil, že jednoznačné předpovědi existenční hrozby by společnosti umožnily vyhnout se kolektivní odpovědnosti.
Praktické dilema pro Evropu
Lescureho zásah vystihuje napětí, jemuž čelí vlády mimo hlavní centra AI: zpomalení vývoje může dát více času na bezpečnostní kontrolní mechanismy, zároveň by však koordinované omezení tempa mohlo uchovat výhodu společnostem, které už mají nejsilnější modely, výpočetní kapacitu a nejširší možnosti nasazení.
1
2
Jeho odpovědí je budovat evropské schopnosti a současně si zachovat možnost řídit rizika. Zdroje jasně dokládají tento strategický rozpor, nikoli však dodatečná tvrzení týkající se kybernetické bezpečnosti, vzdělávání nebo vyhynutí lidstva.
2
4