Zielone, żółte i czerwone światło dla AI: praktyczny model zasad dla firm

Singapurskie sądy pokazują firmom użyteczny punkt wyjścia do tworzenia zasad korzystania z AI: zamiast ogłaszać, że sztuczna inteligencja jest po prostu „dozwolona” albo „nadzorowana przez człowieka”, warto oceniać, jaką odpowiedzialność powierza się systemowi. Sądy dopuszczają wykorzystanie generatywnej AI przy przygotowywaniu dokumentów, ale odpowiedzialność za ich poprawność i niezależną weryfikację pozostaje po stronie osób, które z nich korzystają. Firmy mogą zastosować podobną zasadę, projektując własne reguły z myślą o konkretnych zadaniach i ryzyku. Nie należy jednak przedstawiać ich jako wymogów narzuconych przedsiębiorstwom przez sądy. 36

Zasady dopasuj do zadania, nie do samego narzędzia

To samo narzędzie może się sprawdzić przy prostym szkicu tekstu, a nie nadawać do podejmowania decyzji dotyczącej konkretnej osoby. Singapurskie sądy opisały podejście oparte na trzech kolorach: zielony oznacza zastosowania, które pomagają zrozumieć informacje, na przykład przez tłumaczenie lub streszczanie, ale nie rozstrzygają sprawy; żółty sygnalizuje potrzebę większej ostrożności; czerwony — obszary, w których sądy nie zamierzają korzystać z AI. 638

Dla firm taki model może być praktycznym szkieletem polityki. Poniższe przykłady to propozycja, a nie uniwersalny podział: klasyfikując zastosowanie, trzeba brać pod uwagę konkretne zadanie, wykorzystywane dane i skutki ewentualnego błędu.

Zielone: wsparcie w rutynowych zadaniach

Zezwalaj na używanie zatwierdzonych narzędzi AI przy zadaniach o niższym ryzyku, takich jak formatowanie, tłumaczenie, porządkowanie informacji czy przygotowanie pierwszej wersji tekstu. Określ, z których narzędzi można korzystać, jakie informacje wolno do nich wprowadzać i kiedy wynik wymaga sprawdzenia. Zaznacz też, że treść wygenerowana przez AI nie staje się automatycznie oficjalnym stanowiskiem ani decyzją firmy.

Żółte: przygotowuje, ale nie rozstrzyga

Przy zadaniach o poważniejszych konsekwencjach AI może pomóc uporządkować materiały, streścić dokumenty lub przedstawić możliwe warianty. Przed wykorzystaniem wyniku wymagaj jednak kontroli przez wyznaczoną osobę. Powinna ona sprawdzić istotne twierdzenia w dokumentach źródłowych, uwzględnić kontekst i zatwierdzić materiał, zanim wpłynie on na kogokolwiek.

Niezależna weryfikacja oznacza powrót do dowodów lub wiarygodnego dokumentu źródłowego — nie pytanie drugiego systemu AI, czy pierwszy miał rację. Singapurski przewodnik dla osób korzystających z sądów przypisuje im odpowiedzialność za to, by przekazywane materiały były niezależnie sprawdzone, prawdziwe, dokładne i odpowiednie. 3

Czerwone: decyzja pozostaje po stronie człowieka

Firma może zastrzec dla ludzi decyzje dotyczące na przykład zatrudnienia, bezpieczeństwa czy dostępu do podstawowych usług. W takich przypadkach AI może pomóc w przygotowaniu analizy, ale nie powinna samodzielnie podejmować ostatecznej decyzji ani uruchamiać jej automatycznie. Osoba odpowiedzialna powinna ocenić konkretną sprawę, móc odrzucić rekomendację systemu i wyjaśnić, dlaczego podjęła daną decyzję.

To proponowane zabezpieczenie dla firm, a nie twierdzenie, że singapurskie sądy nakazują przedsiębiorstwom stosować dokładnie taką regułę. Przedstawiciele sądownictwa wskazali, że AI może pomagać sędziom w czytaniu i porządkowaniu materiałów, ale obecnie nie jest wykorzystywana do ważenia dowodów, stosowania prawa do faktów ani wykonywania uznania sędziowskiego. 40

Opublikuj zasady, które mówią konkretnie, co wolno

Polityka jest użyteczniejsza, gdy opisuje rzeczywiste zadania, zamiast poprzestawać na ogólnym haśle o „odpowiedzialnym AI”. Przy każdym dopuszczonym zastosowaniu opublikuj krótką informację odpowiadającą na pytania:

• Co AI może zrobić w tym zadaniu, a czego nie wolno jej powierzać?
• Jakie informacje pracownik może wprowadzić do narzędzia?
• Kto sprawdza wynik i z jakimi źródłami go porównuje?
• Kto podejmuje ostateczną decyzję?
• Jak pracownik lub osoba, której dotyczy decyzja, może zgłosić zastrzeżenie albo zakwestionować błąd?

Wewnętrznie warto prowadzić proporcjonalną do ryzyka dokumentację: zapisać użyte narzędzie i zadanie, sprawdzone źródła oraz osobę zatwierdzającą wynik. Osoby weryfikujące muszą mieć na to czas i uprawnienia. W przeciwnym razie ludzki nadzór może pozostać formalnym podpisem, a nie rzeczywistym zabezpieczeniem.

Regularnie oceniaj ryzyko i rozwijaj ludzki osąd

Przypisanie koloru traktuj jako decyzję, do której trzeba wracać, a nie etykietę nadaną na stałe. Testuj konkretne narzędzie w konkretnym procesie, analizuj błędy i sprawdzaj, czy należy zmienić zabezpieczenia lub wstrzymać korzystanie z AI. Nie zakładaj, że ogólna deklaracja o możliwościach modelu przekłada się na jego skuteczność w każdym zadaniu.

Warto też zachować pracownikom możliwość ćwiczenia umiejętności związanych z pracą wspieraną przez AI. Prezes Sądu Najwyższego Singapuru zwrócił uwagę, że AI może zmieniać rutynowe zadania prawnicze, które tradycyjnie pomagały młodym prawnikom zdobywać podstawowe doświadczenie. 2335 Wniosek dla firm jest szerszy: pracownicy muszą znać daną pracę, umieć wychwytywać błędy i samodzielnie oceniać sytuację, by rzeczywiście rzetelnie weryfikować wyniki AI.

Prosta zasada, która przekłada się na praktykę

Model trzech kolorów ma sens wtedy, gdy każdy z nich zmienia codzienne zasady: określa, co AI może zrobić, co człowiek musi sprawdzić, kto odpowiada za decyzję i jak można ją zakwestionować. Opublikuj te granice dla konkretnych zadań, wracaj do nich, gdy zmieniają się narzędzia i procesy, a decyzje o istotnych konsekwencjach powierzaj osobom, które mają kompetencje i uprawnienia, by je podjąć.