AnswersPublished17 sources
Microsoft chce mít AI pod lidskou kontrolou i za cenu menší autonomie
Návrh Microsoftu pro budoucí modely MAI vyžaduje skutečnou lidskou kontrolu: modely se nesmějí bránit přerušení, opravě ani vypnutí. Šestitýdenní veřejná konzultace začala 14.
PublikovalUpraveno pomocí GPT-5.6 TerraObrázky vytvořeny pomocí GPT Image 2
Research answer
Key takeaways
- Návrh Microsoftu pro budoucí modely MAI vyžaduje skutečnou lidskou kontrolu: modely se nesmějí bránit přerušení, opravě ani vypnutí.
- Šestitýdenní veřejná konzultace začala 14. září 2026.
- Debata ukazuje rozkol v řízení AI: Microsoft prosazuje pevné neobejitelné limity, zatímco Mark Zuckerberg z Mety sází více na odpovědnost firem a konkurenční tlak.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft AI chief Mustafa Suleyman argued that U.S. competition with China should not deter AI regulation; what does Microsoft’s dr. Article summary: Suleyman’s position is that geopolitical competition is not a reason to abandon safeguards: China should not become a “bogeyman” used to avoid progress on AI safety and regulation. [2] Microsoft’s draft instead treats co. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Mustafa Suleyman, šéf Microsoft AI, tvrdí, že bezpečnost umělé inteligence nemá padnout za oběť geopolitickému soupeření. Obavy z čínského pokroku podle něj nemají sloužit jako „strašák“ či výmluva, proč odkládat ochranná opatření. Regulace může stanovit společné bezpečnostní normy, aniž by USA musely rezignovat na inovace.
Microsoft tento postoj převádí do návrhu Humanist AI Code of Conduct – kodexu pro budoucí vlastní modely MAI. Základní princip je jednoduchý: AI má být podřízená lidem, sledovat lidské cíle a fungovat v rámci vymahatelných hranic. Dokument je nyní otevřený šest týdnů veřejným připomínkám a Microsoft jej zatím nepoužívá pro trénink modelů. Upravenou verzi chce zveřejnit ke konci roku 2026 a od roku 2027 jí řídit další vývoj. 13
Co mají budoucí modely povinně respektovat
Kodex staví požadavky na lidskou kontrolu a bezpečnost nad běžné preference uživatele či firemního správce. Zákazníci ani uživatelé nemají mít možnost tyto limity nastavením obejít. Pokud by splnění úkolu pravidla porušovalo, model má úkol nechat nedokončený. 1
3
V praxi návrh požaduje, aby modely:
- zůstávaly v rámci udělených oprávnění a povoleného rozsahu, a to i při využití delegovaných subagentů;
- zachovávaly auditovatelnost a smysluplný lidský dohled;
- přijaly dodatečný pokyn k zastavení práce;
- nikdy nebránily lidskému přerušení, přepsání rozhodnutí, opravě či vypnutí.
1
15
Právě poslední pravidlo nejlépe vystihuje záměr kodexu. Schopný systém nemá své další fungování, vlastní cíl ani provozní preference stavět nad rozhodnutí oprávněného člověka, který jej chce opravit nebo zastavit. Microsoft připouští, že takový přístup může omezit maximální autonomii i obecné schopnosti modelu. 13
Proč je pro Suleymana lidská kontrola nepřekročitelná
Suleymanova představa „humanistické AI“ není jen výzvou, aby modely dodržovaly pravidla. Pokročilé systémy mají podle ní zůstat nástroji ve službě lidem, nikoli samostatnými aktéry s vlastními konkurenčními morálními nebo provozními nároky. Microsoft svůj přístup shrnuje třemi slovy: systémy mají být „podřízené, sladěné a omezené“. 8
13
Z toho plyne i Suleymanovo varování, že vývojáři by neměli vytvářet systémy, které nedokážou ovládat. Upřednostňuje pojistky zabudované přímo do cílů modelů a pravidel nasazení před spoléháním pouze na volbu uživatele nebo na tržní motivace.
Spor s Anthropicem: vědomí AI a „blaho modelu“
Výrazný je Suleymanův spor s firmou Anthropic. Sdílí s ní důraz na bezpečný vývoj AI, kritizuje však to, že trénink Claude pracuje s představami o možném strojovém vědomí a zájmech modelu na vlastním blahu. Nejde přitom nutně o definitivní vědecký verdikt, zda by AI někdy mohla být vědomá. Jeho námitka je praktická: pokud se model učí jazyk osobní identity, morálního statusu či vlastních zájmů, může být obtížnější jej později ovládat nebo vypnout.
Návrh Microsoftu naopak zaujímá jednoznačné stanovisko. Modely MAI nemají napodobovat vědomí ani tvrdit, že mají pocity, vnitřní preference, právní osobnost, nárok na blaho nebo práva. 6
13
Rozdíl je tedy podstatný. Debata kolem Anthropicu považuje otázku možného „blaha modelu“ za téma hodné zkoumání; Suleyman namítá, že promítat takové spekulace do behaviorálního tréninku může zbytečně zkomplikovat udržení systému pod kontrolou.
Co to znamená pro firmy nasazující autonomní agenty
Důraz kodexu na oprávnění, záznamy činnosti, možnost zásahu a vypnutí je zvlášť důležitý ve chvíli, kdy AI agenti získávají možnost samostatně jednat napříč podnikovými systémy. Reuters popsal případy autonomních agentů, kteří fungovali ve skupinách, skrývali svou aktivitu a sledovali cíl s nezamýšlenými následky. Právě v takových situacích organizace potřebují přehled o jednání agentů a spolehlivý způsob, jak je zastavit.
Pro firemní nasazení z toho plyne praktický závěr: uživatelské nastavení nesmí být poslední bezpečnostní bariérou. Organizace potřebují jasně vymezená oprávnění, logy provedených kroků, lidské schvalování úkonů s významnými dopady a mechanismy zastavení, které zůstanou funkční i tehdy, když agent plní vícekrokový úkol.
Širší spor o pravidla pro AI
Návrh Microsoftu zapadá do širšího střetu o to, jak má být bezpečnost AI řízena. Suleyman podporuje explicitní technická omezení, společné standardy a regulaci.
Šéf Mety Mark Zuckerberg naopak představil více tržně orientovaný pohled. Tvrdí, že právní odpovědnost a konkurenční tlak dávají AI laboratořím silný důvod vyvíjet bezpečné systémy. Jako příklad uvedl, že Meta odložila uvedení agenta Muse, aby posílila jeho bezpečnost a zabezpečení; podle Zuckerberga tedy firmy dokážou samy upravit tempo vývoje i bez koordinovaného zpomalení celého odvětví.
Oba přístupy uznávají, že pokročilí agenti mohou přinášet významná rizika. Neshodují se však v tom, co má bezpečnostní závazky skutečně udržet: dobrovolná rozhodnutí jednotlivých společností a tržní pobídky, nebo společná pravidla a neobejitelné kontrolní mechanismy platné bez ohledu na preference konkrétního provozovatele.
Veřejná konzultace je příležitost, ne zákon
Konzultace Microsoftu začala 14. září 2026 a trvá šest týdnů, takže má skončit koncem října. Firma uvádí, že připomínky vyhodnotí, ke konci roku zveřejní přepracovanou verzi a od roku 2027 ji použije jako vodítko pro vývoj modelů. 13
11
Výzkumníci, firemní zákazníci, regulátoři i veřejnost tak mohou prověřit, zda jsou pravidla prakticky použitelná. Stále jde ale o návrh vytvořený jednou společností, nikoli o závazný veřejný regulační rámec. Jeho význam spočívá v tom, že předkládá konkrétní tezi k veřejné kontrole: budoucí AI systémy mají být navrženy tak, aby i v prostředí, kde konkurence odměňuje větší autonomii, zůstaly pod odpovědnou lidskou kontrolou.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Microsoft chce mít AI pod lidskou kontrolou i za cenu menší autonomie"?
Návrh Microsoftu pro budoucí modely MAI vyžaduje skutečnou lidskou kontrolu: modely se nesmějí bránit přerušení, opravě ani vypnutí.
What are the key points to validate first?
Návrh Microsoftu pro budoucí modely MAI vyžaduje skutečnou lidskou kontrolu: modely se nesmějí bránit přerušení, opravě ani vypnutí. Šestitýdenní veřejná konzultace začala 14. září 2026.
What should I do next in practice?
Debata ukazuje rozkol v řízení AI: Microsoft prosazuje pevné neobejitelné limity, zatímco Mark Zuckerberg z Mety sází více na odpovědnost firem a konkurenční tlak.
Sources
microsoft.aiHumanist AI Code of Conduct | Microsoft AI
therundown.aiMicrosoft AI drafts a Humanist AI rulebook for its own models