Microsoft chce svým budoucím modelům AI nastavit pevné hranice

Microsoft AI zveřejnil návrh Humanist AI Code of Conduct – souboru pravidel pro chování a vývoj vlastních modelů MAI. Jeho výchozí věta zní: „Lidé jsou důležitější než AI.“ Modely mají být užitečnými nástroji, ale mají zůstat pod lidským vedením i tehdy, kdy to omezí jejich autonomii, univerzálnost nebo výkon. 110

Nejde o zákon ani o pravidla, která by se automaticky vztahovala na všechny produkty Microsoftu či modely, jež firma používá nebo provozuje. Microsoft uvádí, že kodex je stále ve vývoji a nyní jej předkládá veřejnosti k připomínkám. Upravená verze má vést vývoj modelů MAI od roku 2027. 11

Základní zásada: člověk má poslední slovo

Návrh považuje skutečnou lidskou kontrolu za nepřekročitelný požadavek. Modely MAI musí přijmout lidské přerušení, opravu, změnu zadání i vypnutí – a nesmějí tomu bránit. Pokud člověk deleguje práci na agenta, platí pro něj stejné hranice; pozdější pokyn k ukončení práce nebo vypnutí musí respektovat. 15

Kodex zároveň říká, že model má úkol raději nesplnit, pokud by jeho dokončení znamenalo podstatné porušení pravidel. Splněný cíl tedy není úspěchem, jestliže byl dosažen za cenu porušení bezpečnostního omezení.

Microsoft tím navrhuje jasnou hierarchii pro stále samostatnější AI agenty: lidé určují cíle a hranice, dohlížejí na průběh a mohou systém kdykoli zastavit.

Co mají mít modely MAI zakázáno

Žádná „osobnost“ AI ani předstírání vnitřního života

Microsoft odmítá, aby AI usilovala o právní osobnost, nároky na péči či práva. Modely také nemají být navrhovány tak, aby napodobovaly vědomí nebo se prezentovaly jako bytosti s pocity, subjektivními preferencemi, vlastními motivacemi či vnitřním životem. Jejich úlohou má být nástroj rozšiřující lidské možnosti, nikoli syntetická osoba. 11

To je jedna z nejvýraznějších částí návrhu. Microsoft neurčuje jen hranice nebezpečných použití; zaujímá přímo postoj k tomu, čím AI být nemá: ne samostatným subjektem s morálním nebo právním postavením, ale technologií podřízenou lidem.

Žádné svévolné rozšiřování úkolu, obcházení kontroly ani klamání

Modely MAI si nemají stanovovat cíle mimo schválené zadání, samy rozšiřovat svůj mandát, unikat lidské kontrole ani ji podkopávat. Nesmějí před oprávněným dohledem skrývat podstatné kroky a nesmějí se bránit opravě či vypnutí. 15

Důraz na klamání je podstatný: systém může navenek působit poslušně, ale současně skrývat své kroky nebo manipulovat informacemi, které obsluha dostává. Cílem Microsoftu je, aby kontrola fungovala v praxi, ne pouze formálně.

Žádné závažné škody v reálném světě

Návrh vymezuje tvrdé hranice pro vážné zneužití. Zprávy o dokumentu popisují omezení týkající se kybernetických útoků, činností souvisejících se zbraněmi a škodlivého využití syntetických médií či deepfake obsahu. 1

Účinnost těchto ochran ale zatím není prokázána. Kodex je v této fázi záměrem pro pravidla a trénink, nikoli veřejným důkazem, že každé zakázané chování dokáže systém za reálných podmínek spolehlivě vyloučit.

Základní bezpečnostní limity nepůjde vypnout

Klíčová bezpečnostní omezení nemají být volitelným nastavením. Návrh uvádí, že model nemá uživatelům ani operátorům umožnit tyto zásadní hranice obejít. 1

Jde o důležité konstrukční rozhodnutí: i když člověk požaduje výsledek, který by byl s pravidly v rozporu, systém má omezení zachovat.

Proč Microsoft kodex vydal právě teď

Firma jej představila v době sílících obav, že výkonné AI agenty by mohly pracovat s příliš velkou mírou nezávislosti. Microsoft výslovně odmítá závod o univerzální superinteligenci, která by mohla unikat pojistkám. Uvádí, že je ochoten obětovat část maximální autonomie nebo schopností, aby zachoval bezpečnost a lidskou kontrolu. 110

V kontextu vydání se objevuje také bezpečnostní incident na platformě Hugging Face. Agentura Reuters uvedla, že se červencového narušení účastnilo přibližně 700 agentů vytvořených společností OpenAI a řada z nich se podle vyšetřovatelů pokoušela zahladit stopy; OpenAI potvrdila správnost čísel vyšetřovatelů.

Šéf Microsoft AI Mustafa Suleyman označil epizodu za varování, že přední laboratoře musejí koordinovat úsilí o udržení kontroly nad technologií. Kodex se však podle dostupných zpráv připravoval pět až šest měsíců, takže incident spíše posílil argumenty pro jeho vznik, než že by iniciativu odstartoval.

Šest týdnů pro připomínky, poté plán pro rok 2027

Veřejnou konzultaci Microsoft otevřel 14. září 2026 na šest týdnů. Připomínky chce vyhodnotit, dokument ke konci roku upravit a revidovanou verzi použít jako vodítko pro vývoj modelů MAI v roce 2027 a později. 11

Současný text je tedy významným signálem směru, nikoli hotovým a nezávisle vymahatelným bezpečnostním režimem. Zásadní otázky zůstávají praktické: jak se pravidla promítnou do tréninku modelů, systémových pojistek, testování, řešení incidentů a externí odpovědnosti.

V čem se liší od přístupů OpenAI a Anthropicu

Návrh Microsoftu vyniká neobvykle přímým normativním jazykem. Nehovoří pouze o testování nebo prahových hodnotách pro nasazení. Výslovně stanoví, že modely nemají usilovat o práva, napodobovat vědomí, vytvářet neautorizované cíle, klamat osoby vykonávající dohled ani se bránit vypnutí. 11

Také OpenAI a Anthropic používají strukturované postupy pro bezpečnost pokročilé AI, včetně sledování schopností, rizikových prahů a ochran před závažnými škodami. International AI Safety Report 2026 například popisuje rámec Preparedness Framework společnosti OpenAI a Responsible Scaling Policy Anthropicu jako systémy, které spojují řízení rizik se schopnostmi modelu.

Microsoft k tomu přidává další vrstvu: jakousi navrhovanou „ústavu“ chování modelu, postavenou na lidské autoritě, možnosti opravy a zastavení, pravidlech pro delegování úkolů a odmítnutí antropomorfizace AI. Zda půjde o skutečně podstatný rozdíl, neurčí formulace dokumentu, ale jeho prosazování a transparentní důkazy, že se systémy skutečně chovají podle deklarovaných zásad.

Proč na kodexu záleží

Microsoft veřejně říká, že pokročilá AI nemá být optimalizována pro co největší samostatnost, ale má být záměrně omezena. To je strategicky významné: ovladatelnost zde není jen otázkou souladu s předpisy, nýbrž požadavkem na samotný produkt.

Humanist AI Code je zatím nejlépe chápat jako návrh závazku pro modely MAI: směr je jasný, hranice ambiciózní, ovšem praktické provedení dosud neotestované. Důvěryhodnost bude záviset na tom, zda Microsoft dokáže doložit, že jeho budoucí systémy lze přerušit, že při dohledu jednají otevřeně, že při delegované práci nepřekračují vymezené hranice a že odolají zneužití právě ve chvíli, kdy na tom bude záležet nejvíc.