EU nechce brzdit všechnu umělou inteligenci. U nejvýkonnějších modelů ale žádá opatrnost

Hlavní sdělení Ursuly von der Leyenové v projevu o stavu Unie zní: Evropská unie nechce plošně přibrzdit umělou inteligenci. Větší opatrnost ale chce u nejvyspělejších, takzvaných hraničních modelů, zatímco využití AI v důležitých odvětvích hodlá naopak urychlit. Současně Komise představila plán na silnější ochranu dětí v digitálním prostředí. 1

U nejvýkonnějších modelů chce EU „udržet tempo pod kontrolou“

Von der Leyenová chce pozvat hlavní laboratoře vyvíjející hraniční AI modely k jednání o tom, jak mohou veřejné orgány podpořit snahu odvětví „udržet tempo vývoje pod kontrolou“. Nejde tedy o okamžité moratorium ani o nový všeobecný zákaz vývoje AI, ale o dialog a bezpečnostní spolupráci. 16

Obavy míří především na stále schopnější modely, včetně systémů, které se mohou samy zlepšovat nebo rekurzivně zdokonalovat. Podle předsedkyně Komise by mohly umožnit kybernetické útoky v dosud nepředstavitelném rozsahu a brzy se dostat do rukou protivníků. 115

Výzva zapadá do širšího sporu v technologickém sektoru o rychlost dalšího rozvoje nejpokročilejší AI. Šéf Anthropic Dario Amodei žádal zpomalení; podle Reuters jeho postoj podpořili také šéf OpenAI Sam Altman a Elon Musk. Varování však zároveň vyvolala debatu, zda jde o přiměřenou obezřetnost, nebo o přehnaný „AI doomerismus“ — katastrofické předpovědi o AI. 17

EU chce navíc prohloubit spolupráci s Kanadou, Spojeným královstvím a dalšími podobně smýšlejícími partnery. Týkat se má zejména hodnocení hraničních modelů a souvisejících bezpečnostních opatření. 9

EU Kids Act: odstupňovaný přístup podle věku

Navrhovaný EU Kids Act nemá mířit pouze na klasické sociální sítě. Zahrnout má také platformy pro sdílení videí, online hry a chatboty využívající AI. Základem je rozlišit ochranná opatření podle věku uživatelů. Jde o návrh Komise, nikoli o pravidla, která by byla okamžitě vymahatelná. 1

Podoba ohlášeného přístupu zahrnuje:

• zákaz přístupu k sociálním sítím pro děti mladší 13 let; 1
• omezené účty pro děti ve věku 13 a 14 let, které nastaví a dohlížejí na ně rodiče; účty mají mít omezené funkce i časové limity; 1
• povinnost bezpečného návrhu služeb pro uživatele od 15 do 18 let.

Podstatné je, že odpovědnost nemá zůstat jen na dětech a rodičích. Platformy by měly navrhovat služby s ohledem na bezpečnost mladistvých. Podle zpráv o návrhu se od firem očekává ověřování věku uživatelů a řešení návykových prvků produktů, jako je nekonečné posouvání obsahu. 7

V průmyslu chce Komise zavádění AI urychlit

Vedle kontroly rizik na technologické špičce představila von der Leyenová AI jako základní technologii pro evropskou ekonomiku a bezpečnost. Zmínila například autonomní řízení a obranu a zdůraznila, že Evropa má z technologie vytěžit praktický přínos. 1

Komise označila pět oblastí s vysokou hodnotou, kde má podle ní Evropa dostatek dat i potřebné kapacity pro průmyslové využití AI:

1. zdravotnictví,
2. doprava,
3. zemědělství a potravinářství,
4. pokročilá výroba,
5. obrana a kosmonautika. 1

V listopadu chce Komise pro tyto oblasti oznámit iniciativy, které označila za zásadní. 1

Co z toho plyne

Nejde o strategii „zastavit AI“. Komise navrhuje dvojí postup: u nejpokročilejších modelů prosazovat důkladnější hodnocení, mezinárodní koordinaci a opatrnější tempo rozvoje; v širší ekonomice naopak zrychlit zavádění AI tam, kde může posílit veřejné služby, konkurenceschopnost průmyslu a bezpečnost. 19

Rozdíl je zásadní: Brusel nechce přibrzdit každý AI produkt nebo každé použití technologie. Vyšší míru obezřetnosti chce soustředit na hraniční modely s největšími bezpečnostními riziky a zároveň urychlit užitečné průmyslové nasazení AI v Evropě. 1