Systemy predykcyjne są skuteczne, gdy cel jest jasno określony, dane są odpowiednie, a koszty różnych rodzajów błędów można zmierzyć. Potrafią szybko przetwarzać duże zbiory informacji, stosować jednolitą procedurę i wykrywać wzorce, które mogą umknąć człowiekowi.

Ich ograniczenie wynika zarazem z cechy, która ułatwia zarządzanie nimi: zazwyczaj projektuje się je do jednego, określonego zadania. Model wykrywający oszustwa może oceniać transakcje, ale nie musi umieć wyjaśnić treści regulaminu, napisać raportu ani elastycznie zareagować na nieznaną sytuację. Jego działanie zależy także od jakości danych treningowych i od tego, co dokładnie zoptymalizowano do przewidywania.

To rodzi ważne pytania etyczne w obszarach takich jak kredyty, rekrutacja, ubezpieczenia i ochrona zdrowia. Dane historyczne mogą utrwalać społeczne uprzedzenia, a nieprzejrzyste systemy punktowe mogą utrudniać zakwestionowanie decyzji. Dlatego odpowiedzialne zarządzanie powinno obejmować jasno określony cel, testy dokładności i sprawiedliwości wobec odpowiednich grup, ochronę prywatności, możliwość wyjaśnienia decyzji oraz udział człowieka przy decyzjach o dużym wpływie na życie ludzi. Obawy dotyczące stronniczości, dezinformacji i niewłaściwego wykorzystania są szerszymi problemami polityki AI, a nie wyłącznie problemem chatbotów.

2. Generatywna AI: od przewidywania etykiet do tworzenia treści

Generatywna AI zmienia doświadczenie użytkownika z pytania „Do jakiej kategorii to należy?” na polecenie „Utwórz albo przekształć coś zgodnie z tą instrukcją”. Duże modele mogą generować wiarygodnie brzmiący tekst, obrazy, dźwięk i kod. Znajdują zastosowanie między innymi w przygotowywaniu odpowiedzi dla klientów, tłumaczeniach, nauczaniu, streszczaniu materiałów prawnych, wsparciu programistów oraz pracy twórczej.

Systemy generatywne mogą skrócić czas i obniżyć koszt przygotowania pierwszej wersji tekstu, ułatwić rozmowę ze złożonymi zasobami informacji oraz pomagać specjalistom, zamiast jedynie automatyzować pojedynczą decyzję.

Najważniejsza słabość: wiarygodne brzmienie nie oznacza prawdy

Model generatywny może z przekonaniem przedstawić wymyśloną lub niepoprawną informację, źródło, podstawę prawną, twierdzenie medyczne albo fragment kodu. NIST używa określenia konfabulacja na „tworzenie treści błędnych lub fałszywych, przedstawianych z przekonaniem”; potocznie zjawisko to nazywa się halucynacją.

Dlatego wszędzie tam, gdzie liczy się poprawność faktów, konieczna jest weryfikacja. Pomocne zabezpieczenia obejmują wyszukiwanie informacji w zaufanych materiałach, cytowania, ustrukturyzowaną ocenę jakości, testy właściwe dla danej dziedziny i kontrolę wykwalifikowanego człowieka. Płynną odpowiedź należy traktować jako szkic lub prognozę — nie jako dowód prawdziwości zawartego w niej twierdzenia.

Szersze ryzyka systemów generatywnych

Generatywna AI rodzi także pytania o ochronę danych, własność intelektualną, dezinformację i pochodzenie wygenerowanych materiałów. Wytyczne Komisji Europejskiej dotyczące wykorzystania AI w badaniach wskazują na te zagrożenia i podkreślają, że odpowiedzialność za opublikowaną pracę nadal spoczywa na człowieku, nawet jeśli przy jej tworzeniu wykorzystano AI.

Podobne wyzwanie dotyczy edukacji. Jeśli uczniowie i studenci regularnie zlecają AI pisanie, rozumowanie i rozwiązywanie problemów, mogą otrzymywać dopracowany rezultat, rzadziej ćwicząc podstawowe umiejętności. Wytyczne edukacyjne wymieniają między innymi ryzyko nieprawdziwych lub stronniczych treści, materiałów szkodliwych, naruszeń ochrony danych, naruszeń własności intelektualnej i problemów z uczciwością akademicką.

Błędy związane z bezpieczeństwem mogą być szczególnie poważne w wrażliwych rozmowach. Systemy generatywne mogą tworzyć treści pełne nienawiści, przemocy, seksualne lub manipulacyjne, a także niewłaściwie reagować na osobę sygnalizującą zamiar samookaleczenia. NIST wskazuje wśród istotnych zagrożeń między innymi niebezpieczne lub brutalne rekomendacje, naruszenia prywatności i szkodliwe uprzedzenia. W sytuacjach wysokiego ryzyka AI nie powinna zastępować profesjonalnej pomocy ani ludzkich procedur ochrony. Systemy muszą mieć skuteczne mechanizmy odmowy i eskalacji, zabezpieczenia prywatności oraz jasną drogę do szybkiego kontaktu z człowiekiem.

3. AI agentowa: planowanie, korzystanie z narzędzi i działanie

AI agentowa dodaje do modelu pętlę działania. Zamiast jednorazowo odpowiadać na polecenie, agent może zinterpretować cel, podzielić go na kroki, uruchomić narzędzia — takie jak przeglądarka, środowisko do wykonywania kodu, poczta elektroniczna lub API — sprawdzić rezultaty, zmienić plan i kontynuować pracę.

Stanford opisuje AI agentową jako systemy autonomiczne lub częściowo autonomiczne, które potrafią interpretować cele, porządkować działania, korzystać z narzędzi, reagować na informacje zwrotne i dostosowywać się, aby wykonać zadanie w określonych granicach.

Różnicę można przedstawić tak:

• system predykcyjny ocenia transakcję;
• system generatywny przygotowuje odpowiedź na jej temat;
• agent — jeśli otrzyma odpowiedni dostęp — może zbadać transakcję, zaktualizować sprawę i wysłać wiadomość.

Przykładem zastosowania w programowaniu jest Jules firmy Google. Google opisuje go jako asynchronicznego agenta kodującego, który integruje się z repozytoriami, kopiuje bazę kodu do maszyny wirtualnej w chmurze i pracuje nad zadaniami programistycznymi, aby później przekazać je do oceny. Innym podejściem są otwarte narzędzia wykorzystujące zewnętrzne funkcje, a rozwiązania rekrutacyjne, takie jak Hiring Assistant firmy LinkedIn, pokazują, że przepływy agentowe mogą obejmować także wyszukiwanie kandydatów i rekrutację.

Agenci są atrakcyjni, ponieważ mogą wykonywać wieloetapową pracę, a nie tylko podpowiadać następny krok. Agent programistyczny może zbadać błąd, zmienić kilka plików, uruchomić testy i przygotować propozycję zmian. Agent procesowy może zebrać informacje, uporządkować je i przygotować wiadomości do akceptacji.

Dlaczego autonomia zwiększa ryzyko?

Planowanie nie jest równoznaczne z niezawodnym rozumieniem sytuacji. Agent może źle odczytać stronę internetową, wybrać niewłaściwy plan, wykonać złośliwe polecenie albo powielać niewielki błąd przez wiele kolejnych kroków. Według raportu Stanford AI Index 2026 agenci poprawili skuteczność na benchmarku OSWorld — sprawdzającym wykonywanie rzeczywistych zadań komputerowych — z 12 proc. do około 66 proc., ale nadal nie radzili sobie z mniej więcej co trzecią próbą.

Halucynacja chatbota może pozostać problemem komunikacyjnym. Ten sam błąd popełniony przez agenta mającego dane logowania, dostęp do przeglądarki lub uprawnienia do płatności może jednak doprowadzić do rzeczywistego działania poza systemem. Dlatego zarządzanie agentami musi obejmować nie tylko jakość odpowiedzi, lecz także uprawnienia, odwracalność działań i odpowiedzialność.

Najważniejsze zagrożenia związane z agentami AI

Największe ryzyko pojawia się wtedy, gdy agent może wpływać na systemy, pieniądze, dane lub inne osoby:

• Nieautoryzowane płatności: agent może wybrać niewłaściwy produkt, przekroczyć budżet albo ulec manipulacji przez złośliwą stronę internetową.
• Wyciek prywatnych informacji i kradzież danych: dostęp do poczty, plików, danych klientów, kodu źródłowego lub kluczy API zwiększa ryzyko ujawnienia informacji, zwłaszcza w wyniku ataku typu prompt injection, czyli złośliwego polecenia wstrzykniętego do danych, które agent analizuje.
• Problemy z bezpieczeństwem i uszkodzenia oprogramowania: agent może wprowadzić niebezpieczny kod, zmienić konfigurację, usunąć zasoby albo ujawnić sekrety w logach i zewnętrznych narzędziach.
• Luki w odpowiedzialności: nie zawsze jest jasne, czy za konsekwencje odpowiada dostawca modelu, twórca aplikacji, organizacja wdrażająca system, dostawca narzędzia czy użytkownik.
• Manipulacja: długotrwale działający agent konwersacyjny może wywierać nadmierny wpływ, zwłaszcza na osoby podatne na sugestię lub wtedy, gdy system wydaje się bardziej kompetentny i godny zaufania, niż jest w rzeczywistości.

Jak wygląda odpowiedzialne zarządzanie AI?

Zabezpieczenia powinny odpowiadać możliwościom systemu i skutkom jego potencjalnej awarii.

W przypadku predykcyjnej AI organizacje powinny określić cel wykorzystania systemu, mierzyć dokładność i sprawiedliwość wyników, chronić dane osobowe oraz zapewnić możliwość wyjaśnienia i zakwestionowania decyzji o dużym znaczeniu.

W przypadku generatywnej AI należy weryfikować istotne twierdzenia, testować występowanie halucynacji i szkodliwych treści, kontrolować dane wrażliwe, rozstrzygać kwestie pochodzenia materiałów i własności intelektualnej oraz pozostawiać decyzje prawne, medyczne, finansowe i dotyczące bezpieczeństwa wykwalifikowanym osobom.

W przypadku agentów potrzebne są dodatkowe zabezpieczenia techniczne i organizacyjne:

1. Ogranicz zakres zastosowania. Jeszcze przed wdrożeniem określ, co agent może robić, a czego nie może.
2. Ogranicz dostęp. Stosuj uprawnienia minimalne, zawężony zestaw narzędzi, limity transakcji i środowiska izolowane.
3. Wymagaj zgody w kluczowych momentach. Działania finansowe, prawne, dotyczące prywatności i bezpieczeństwa nie powinny być wykonywane bez odpowiedniej autoryzacji człowieka.
4. Zapewnij możliwość audytu. Rejestruj aktywność, monitoruj zachowanie i wyznaczaj osoby odpowiedzialne za incydenty.
5. Testuj ataki i sytuacje skrajne. Sprawdzaj odporność na prompt injection, eksfiltrację danych, szkodliwe zachowania i błędy w odzyskiwaniu kontroli — przed wdrożeniem i w jego trakcie.
6. Zachowaj kontrolę człowieka. Człowiek powinien móc zatrzymać, cofnąć i zakwestionować działania o istotnych konsekwencjach.

Singapurski Infocomm Media Development Authority przedstawia takie podejście oparte na ryzyku w Model AI Governance Framework for Agentic AI — ramowym dokumencie przeznaczonym dla organizacji, które samodzielnie tworzą agentów lub wdrażają rozwiązania zewnętrznych dostawców. Najważniejsza lekcja brzmi: autonomię należy zwiększać stopniowo. Warto zacząć od pomocy tylko do odczytu, następnie dopuścić działania niskiego ryzyka, a czynności nieodwracalne lub o dużym wpływie pozostawić do wyraźnej akceptacji człowieka.

Kierunek rozwoju AI

Ewolucję sztucznej inteligencji najlepiej rozumieć nie jako trzy całkowicie odrębne epoki, lecz jako rozszerzający się zestaw możliwości. Tradycyjne systemy przewidują i klasyfikują. Systemy generatywne tworzą i przekształcają. Systemy agentowe dodają planowanie, korzystanie z narzędzi i wykonywanie działań.

Zarządzanie ryzykiem musi rozwijać się w tym samym tempie. Kontrole dokładności i sprawiedliwości nadal są potrzebne, ale nie wystarczają. Generatywna AI wymaga skutecznej weryfikacji, ustalania pochodzenia treści i ochrony przed niebezpiecznymi materiałami. Agenci potrzebują dodatkowo granic uprawnień, punktów akceptacji, monitorowania bezpieczeństwa i jasno przypisanej odpowiedzialności.

Im więcej system AI potrafi zrobić samodzielnie, tym dokładniej organizacje muszą określić, na co wolno mu sobie pozwolić.

Systemy predykcyjne są skuteczne, gdy cel jest jasno określony, dane są odpowiednie, a koszty różnych rodzajów błędów można zmierzyć. Potrafią szybko przetwarzać duże zbiory informacji, stosować jednolitą procedurę i wykrywać wzorce, które mogą umknąć człowiekowi.

Ich ograniczenie wynika zarazem z cechy, która ułatwia zarządzanie nimi: zazwyczaj projektuje się je do jednego, określonego zadania. Model wykrywający oszustwa może oceniać transakcje, ale nie musi umieć wyjaśnić treści regulaminu, napisać raportu ani elastycznie zareagować na nieznaną sytuację. Jego działanie zależy także od jakości danych treningowych i od tego, co dokładnie zoptymalizowano do przewidywania.

To rodzi ważne pytania etyczne w obszarach takich jak kredyty, rekrutacja, ubezpieczenia i ochrona zdrowia. Dane historyczne mogą utrwalać społeczne uprzedzenia, a nieprzejrzyste systemy punktowe mogą utrudniać zakwestionowanie decyzji. Dlatego odpowiedzialne zarządzanie powinno obejmować jasno określony cel, testy dokładności i sprawiedliwości wobec odpowiednich grup, ochronę prywatności, możliwość wyjaśnienia decyzji oraz udział człowieka przy decyzjach o dużym wpływie na życie ludzi. Obawy dotyczące stronniczości, dezinformacji i niewłaściwego wykorzystania są szerszymi problemami polityki AI, a nie wyłącznie problemem chatbotów.

2. Generatywna AI: od przewidywania etykiet do tworzenia treści

Generatywna AI zmienia doświadczenie użytkownika z pytania „Do jakiej kategorii to należy?” na polecenie „Utwórz albo przekształć coś zgodnie z tą instrukcją”. Duże modele mogą generować wiarygodnie brzmiący tekst, obrazy, dźwięk i kod. Znajdują zastosowanie między innymi w przygotowywaniu odpowiedzi dla klientów, tłumaczeniach, nauczaniu, streszczaniu materiałów prawnych, wsparciu programistów oraz pracy twórczej.

Systemy generatywne mogą skrócić czas i obniżyć koszt przygotowania pierwszej wersji tekstu, ułatwić rozmowę ze złożonymi zasobami informacji oraz pomagać specjalistom, zamiast jedynie automatyzować pojedynczą decyzję.

Najważniejsza słabość: wiarygodne brzmienie nie oznacza prawdy

Model generatywny może z przekonaniem przedstawić wymyśloną lub niepoprawną informację, źródło, podstawę prawną, twierdzenie medyczne albo fragment kodu. NIST używa określenia konfabulacja na „tworzenie treści błędnych lub fałszywych, przedstawianych z przekonaniem”; potocznie zjawisko to nazywa się halucynacją.

Dlatego wszędzie tam, gdzie liczy się poprawność faktów, konieczna jest weryfikacja. Pomocne zabezpieczenia obejmują wyszukiwanie informacji w zaufanych materiałach, cytowania, ustrukturyzowaną ocenę jakości, testy właściwe dla danej dziedziny i kontrolę wykwalifikowanego człowieka. Płynną odpowiedź należy traktować jako szkic lub prognozę — nie jako dowód prawdziwości zawartego w niej twierdzenia.

Szersze ryzyka systemów generatywnych

Generatywna AI rodzi także pytania o ochronę danych, własność intelektualną, dezinformację i pochodzenie wygenerowanych materiałów. Wytyczne Komisji Europejskiej dotyczące wykorzystania AI w badaniach wskazują na te zagrożenia i podkreślają, że odpowiedzialność za opublikowaną pracę nadal spoczywa na człowieku, nawet jeśli przy jej tworzeniu wykorzystano AI.

Podobne wyzwanie dotyczy edukacji. Jeśli uczniowie i studenci regularnie zlecają AI pisanie, rozumowanie i rozwiązywanie problemów, mogą otrzymywać dopracowany rezultat, rzadziej ćwicząc podstawowe umiejętności. Wytyczne edukacyjne wymieniają między innymi ryzyko nieprawdziwych lub stronniczych treści, materiałów szkodliwych, naruszeń ochrony danych, naruszeń własności intelektualnej i problemów z uczciwością akademicką.

Błędy związane z bezpieczeństwem mogą być szczególnie poważne w wrażliwych rozmowach. Systemy generatywne mogą tworzyć treści pełne nienawiści, przemocy, seksualne lub manipulacyjne, a także niewłaściwie reagować na osobę sygnalizującą zamiar samookaleczenia. NIST wskazuje wśród istotnych zagrożeń między innymi niebezpieczne lub brutalne rekomendacje, naruszenia prywatności i szkodliwe uprzedzenia. W sytuacjach wysokiego ryzyka AI nie powinna zastępować profesjonalnej pomocy ani ludzkich procedur ochrony. Systemy muszą mieć skuteczne mechanizmy odmowy i eskalacji, zabezpieczenia prywatności oraz jasną drogę do szybkiego kontaktu z człowiekiem.

3. AI agentowa: planowanie, korzystanie z narzędzi i działanie

AI agentowa dodaje do modelu pętlę działania. Zamiast jednorazowo odpowiadać na polecenie, agent może zinterpretować cel, podzielić go na kroki, uruchomić narzędzia — takie jak przeglądarka, środowisko do wykonywania kodu, poczta elektroniczna lub API — sprawdzić rezultaty, zmienić plan i kontynuować pracę.

Stanford opisuje AI agentową jako systemy autonomiczne lub częściowo autonomiczne, które potrafią interpretować cele, porządkować działania, korzystać z narzędzi, reagować na informacje zwrotne i dostosowywać się, aby wykonać zadanie w określonych granicach.

Różnicę można przedstawić tak:

• system predykcyjny ocenia transakcję;
• system generatywny przygotowuje odpowiedź na jej temat;
• agent — jeśli otrzyma odpowiedni dostęp — może zbadać transakcję, zaktualizować sprawę i wysłać wiadomość.

Przykładem zastosowania w programowaniu jest Jules firmy Google. Google opisuje go jako asynchronicznego agenta kodującego, który integruje się z repozytoriami, kopiuje bazę kodu do maszyny wirtualnej w chmurze i pracuje nad zadaniami programistycznymi, aby później przekazać je do oceny. Innym podejściem są otwarte narzędzia wykorzystujące zewnętrzne funkcje, a rozwiązania rekrutacyjne, takie jak Hiring Assistant firmy LinkedIn, pokazują, że przepływy agentowe mogą obejmować także wyszukiwanie kandydatów i rekrutację.

Agenci są atrakcyjni, ponieważ mogą wykonywać wieloetapową pracę, a nie tylko podpowiadać następny krok. Agent programistyczny może zbadać błąd, zmienić kilka plików, uruchomić testy i przygotować propozycję zmian. Agent procesowy może zebrać informacje, uporządkować je i przygotować wiadomości do akceptacji.

Dlaczego autonomia zwiększa ryzyko?

Planowanie nie jest równoznaczne z niezawodnym rozumieniem sytuacji. Agent może źle odczytać stronę internetową, wybrać niewłaściwy plan, wykonać złośliwe polecenie albo powielać niewielki błąd przez wiele kolejnych kroków. Według raportu Stanford AI Index 2026 agenci poprawili skuteczność na benchmarku OSWorld — sprawdzającym wykonywanie rzeczywistych zadań komputerowych — z 12 proc. do około 66 proc., ale nadal nie radzili sobie z mniej więcej co trzecią próbą.

Halucynacja chatbota może pozostać problemem komunikacyjnym. Ten sam błąd popełniony przez agenta mającego dane logowania, dostęp do przeglądarki lub uprawnienia do płatności może jednak doprowadzić do rzeczywistego działania poza systemem. Dlatego zarządzanie agentami musi obejmować nie tylko jakość odpowiedzi, lecz także uprawnienia, odwracalność działań i odpowiedzialność.

Najważniejsze zagrożenia związane z agentami AI

Największe ryzyko pojawia się wtedy, gdy agent może wpływać na systemy, pieniądze, dane lub inne osoby:

• Nieautoryzowane płatności: agent może wybrać niewłaściwy produkt, przekroczyć budżet albo ulec manipulacji przez złośliwą stronę internetową.
• Wyciek prywatnych informacji i kradzież danych: dostęp do poczty, plików, danych klientów, kodu źródłowego lub kluczy API zwiększa ryzyko ujawnienia informacji, zwłaszcza w wyniku ataku typu prompt injection, czyli złośliwego polecenia wstrzykniętego do danych, które agent analizuje.
• Problemy z bezpieczeństwem i uszkodzenia oprogramowania: agent może wprowadzić niebezpieczny kod, zmienić konfigurację, usunąć zasoby albo ujawnić sekrety w logach i zewnętrznych narzędziach.
• Luki w odpowiedzialności: nie zawsze jest jasne, czy za konsekwencje odpowiada dostawca modelu, twórca aplikacji, organizacja wdrażająca system, dostawca narzędzia czy użytkownik.
• Manipulacja: długotrwale działający agent konwersacyjny może wywierać nadmierny wpływ, zwłaszcza na osoby podatne na sugestię lub wtedy, gdy system wydaje się bardziej kompetentny i godny zaufania, niż jest w rzeczywistości.

Jak wygląda odpowiedzialne zarządzanie AI?

Zabezpieczenia powinny odpowiadać możliwościom systemu i skutkom jego potencjalnej awarii.

W przypadku predykcyjnej AI organizacje powinny określić cel wykorzystania systemu, mierzyć dokładność i sprawiedliwość wyników, chronić dane osobowe oraz zapewnić możliwość wyjaśnienia i zakwestionowania decyzji o dużym znaczeniu.

W przypadku generatywnej AI należy weryfikować istotne twierdzenia, testować występowanie halucynacji i szkodliwych treści, kontrolować dane wrażliwe, rozstrzygać kwestie pochodzenia materiałów i własności intelektualnej oraz pozostawiać decyzje prawne, medyczne, finansowe i dotyczące bezpieczeństwa wykwalifikowanym osobom.

W przypadku agentów potrzebne są dodatkowe zabezpieczenia techniczne i organizacyjne:

1. Ogranicz zakres zastosowania. Jeszcze przed wdrożeniem określ, co agent może robić, a czego nie może.
2. Ogranicz dostęp. Stosuj uprawnienia minimalne, zawężony zestaw narzędzi, limity transakcji i środowiska izolowane.
3. Wymagaj zgody w kluczowych momentach. Działania finansowe, prawne, dotyczące prywatności i bezpieczeństwa nie powinny być wykonywane bez odpowiedniej autoryzacji człowieka.
4. Zapewnij możliwość audytu. Rejestruj aktywność, monitoruj zachowanie i wyznaczaj osoby odpowiedzialne za incydenty.
5. Testuj ataki i sytuacje skrajne. Sprawdzaj odporność na prompt injection, eksfiltrację danych, szkodliwe zachowania i błędy w odzyskiwaniu kontroli — przed wdrożeniem i w jego trakcie.
6. Zachowaj kontrolę człowieka. Człowiek powinien móc zatrzymać, cofnąć i zakwestionować działania o istotnych konsekwencjach.

Singapurski Infocomm Media Development Authority przedstawia takie podejście oparte na ryzyku w Model AI Governance Framework for Agentic AI — ramowym dokumencie przeznaczonym dla organizacji, które samodzielnie tworzą agentów lub wdrażają rozwiązania zewnętrznych dostawców. Najważniejsza lekcja brzmi: autonomię należy zwiększać stopniowo. Warto zacząć od pomocy tylko do odczytu, następnie dopuścić działania niskiego ryzyka, a czynności nieodwracalne lub o dużym wpływie pozostawić do wyraźnej akceptacji człowieka.

Kierunek rozwoju AI

Ewolucję sztucznej inteligencji najlepiej rozumieć nie jako trzy całkowicie odrębne epoki, lecz jako rozszerzający się zestaw możliwości. Tradycyjne systemy przewidują i klasyfikują. Systemy generatywne tworzą i przekształcają. Systemy agentowe dodają planowanie, korzystanie z narzędzi i wykonywanie działań.

Zarządzanie ryzykiem musi rozwijać się w tym samym tempie. Kontrole dokładności i sprawiedliwości nadal są potrzebne, ale nie wystarczają. Generatywna AI wymaga skutecznej weryfikacji, ustalania pochodzenia treści i ochrony przed niebezpiecznymi materiałami. Agenci potrzebują dodatkowo granic uprawnień, punktów akceptacji, monitorowania bezpieczeństwa i jasno przypisanej odpowiedzialności.

Im więcej system AI potrafi zrobić samodzielnie, tym dokładniej organizacje muszą określić, na co wolno mu sobie pozwolić.