Semafor pro firemní AI: co může dělat a kde musí rozhodnout člověk

Singapurské soudy nabízejí firmám užitečný výchozí bod pro pravidla používání umělé inteligence: rozlišovat podle toho, kolik odpovědnosti se svěřuje systému, místo obecného prohlášení, že AI je „povolená“ nebo „pod lidským dohledem“. Soudní pokyny umožňují využívat generativní AI při přípravě soudních dokumentů, odpovědnost za správnost a nezávislé ověření předkládaných materiálů však ponechávají na jejich uživatelích. Firmy si z tohoto principu mohou vzít inspiraci, vlastní pravidla ale musejí přizpůsobit konkrétním úkolům a rizikům — nejde o požadavky, které by soudy ukládaly podnikům. 36

Pravidla nastavujte podle úkolu, ne podle nástroje

Jeden nástroj AI může být vhodný pro nenáročné sepsání návrhu, ale nevhodný pro rozhodnutí, které ovlivní konkrétního člověka. Singapurské soudy popsaly takzvaný semaforový přístup: zelená označuje použití, například překlad nebo shrnutí, které lidem pomáhá porozumět informacím, ale nerozhoduje o případu; oranžová znamená, že je třeba postupovat obezřetněji; červená označuje oblasti, v nichž soudy použití AI nezvažují. 638

Firma může barvy využít jako praktickou kostru interních pravidel. Níže uvedené příklady jsou návrhem, nikoli univerzálním rozdělením. Vždy posuzujte konkrétní úkol, použité informace i možné následky chyby.

Zelená: pomoc s běžnou prací

Schválené nástroje AI mohou pomáhat s méně rizikovými činnostmi, jako je úprava formátu, překlad, třídění informací nebo příprava prvního návrhu. Určete, které nástroje zaměstnanci smějí používat, jaké informace do nich mohou vkládat a zda je před použitím nutná kontrola výstupu. Zároveň výslovně uveďte, že návrh vytvořený AI sám o sobě není schváleným rozhodnutím ani stanoviskem firmy.

Oranžová: připravovat podklady, ne rozhodovat

U závažnějších úkolů může AI pomoci uspořádat důkazy, shrnout záznamy nebo načrtnout možné varianty. Určete konkrétního pracovníka, který před použitím ověří důležitá tvrzení podle původních podkladů, zváží relevantní souvislosti a práci schválí.

Nezávislé ověření znamená vrátit se k původním důkazům nebo důvěryhodnému záznamu — nikoli požádat druhý systém AI, aby potvrdil výsledek prvního. Singapurské soudní pokyny ukládají uživatelům odpovědnost za to, aby materiály předkládané soudu byly nezávisle ověřené, přesné, pravdivé a vhodné. 3

Červená: konečné rozhodnutí ponechat člověku

Firma může například rozhodnutí týkající se zaměstnání, bezpečnosti nebo přístupu k zásadním službám vyhradit lidem. AI pak může pomoci s přípravou podkladů, ale neměla by rozhodnutí sama učinit ani je automaticky spustit. Odpovědný člověk musí případ posoudit, mít možnost doporučení systému odmítnout a umět své rozhodnutí vysvětlit.

Jde o doporučenou firemní pojistku, nikoli o tvrzení, že singapurské soudy předepisují podnikům přesně toto pravidlo. Zástupce tamní justice uvedl, že AI může soudcům pomáhat při čtení a zpracování materiálů, soudy ji však v současném přístupu nenasazují k hodnocení důkazů, aplikaci práva na skutkový stav ani k výkonu rozhodovací pravomoci. 40

Pravidla zveřejněte a popište konkrétně

Veřejná pravidla jsou užitečnější, když popisují konkrétní činnosti, místo aby pouze slibovala „odpovědné používání AI“. Ke každému schválenému použití zveřejněte stručnou informaci, která odpoví na otázky:

• Co smí AI v daném úkolu dělat — a co už je za hranou?
• Jaké informace mohou zaměstnanci do nástroje vložit?
• Kdo výstup kontroluje a podle čeho jej ověřuje?
• Kdo nese odpovědnost za konečné rozhodnutí?
• Jak mohou zaměstnanci nebo lidé, kterých se rozhodnutí týká, upozornit na problém či zpochybnit chybu?

Interně veďte přiměřený záznam o použitém nástroji a úkolu, prověřených zdrojích i osobě odpovědné za schválení. Kontrolující pracovníci musejí mít na posouzení dost času i pravomoc výstup odmítnout. Jinak se lidská kontrola může změnit v pouhou formalitu.

Pravidla průběžně ověřujte a chraňte úsudek zaměstnanců

Zařazení do barevné zóny nepovažujte za trvalé. Konkrétní nástroj otestujte v konkrétním pracovním postupu, sledujte chyby a podle výsledků upravte pravidla nebo používání pozastavte. Nepředpokládejte, že obecné tvrzení o schopnostech modelu platí pro každý úkol.

Dávejte také zaměstnancům příležitost procvičovat si práci, se kterou jim AI pomáhá. Předseda Nejvyššího soudu Singapuru upozornil, že AI může proměnit běžné právnické úkoly, které dosud pomáhaly začínajícím právníkům osvojit si základy profese. 2335 Pro firmy z toho plyne obecnější poučení: zaměstnanci potřebují dost zkušeností s danou činností, aby dokázali rozpoznat chyby a samostatně posoudit výstup AI.

Jednoduché pravidlo pro praxi

Semaforový model má smysl tehdy, když každá barva mění konkrétní postup: co AI smí dělat, co musí člověk ověřit, kdo odpovídá za výsledek a jak lze rozhodnutí napadnout. Hranice zveřejněte pro jednotlivé úkoly, průběžně je upravujte podle změn nástrojů a pracovních postupů a závažná rozhodnutí ponechte lidem, kteří mají pravomoc i potřebné zkušenosti.