Jak sztuczna inteligencja przeszła od reguł do autonomicznych agentów

Sztuczna inteligencja nie rozwijała się według prostego scenariusza, w którym jedna technologia zastępowała poprzednią. Jej możliwości stopniowo się nawarstwiały. Systemy oparte na regułach i statystycznym przewidywaniu nadal są bardzo użyteczne, modele generatywne potrafią tworzyć tekst, obrazy, dźwięk, wideo i kod, a systemy agentowe łączą modele z narzędziami, aby realizować cele w kilku krokach.

Najłatwiej opisać tę zmianę jako przejście od podejmowania decyzji, przez tworzenie, do działania. Zmieniają się także ryzyka. Systemy predykcyjne trzeba oceniać pod kątem dokładności i sprawiedliwości, generatywne — prawdziwości, bezpieczeństwa i pochodzenia treści, a agentowe dodatkowo — przyznanych uprawnień, zatwierdzania działań i ścieżek audytowych.

Siedem dekad rozwoju AI

Nowoczesna sztuczna inteligencja zaczęła kształtować się w latach 50. XX wieku, wraz z pracami nad rozumowaniem maszyn, grami oraz sieciami neuronowymi. Później badania przechodziły przez systemy symboliczne i eksperckie, uczenie maszynowe w latach 90. oraz uczenie głębokie w latach 2010.

Nie były to jednak całkowicie odrębne epoki. Współczesny produkt może wykorzystywać model predykcyjny do sklasyfikowania zapytania, model generatywny do przygotowania odpowiedzi oraz tradycyjne mechanizmy programistyczne do sprawdzenia, czy określone działanie jest dozwolone.

1. Tradycyjna AI: reguły, klasyfikacja i przewidywanie

Tradycyjna AI obejmuje dwa szerokie podejścia:

• Systemy symboliczne i regułowe, w których ludzie zapisują logikę, wiedzę dziedzinową oraz procedury podejmowania decyzji.
• Systemy uczenia maszynowego, które uczą się statystycznych zależności na podstawie danych historycznych, aby klasyfikować dane wejściowe lub szacować wyniki.

Pierwsze programy do gier pokazały, że maszyny mogą przeszukiwać możliwe ruchy w ograniczonym środowisku. Z czasem podobne metody, uzupełnione o uczenie statystyczne, zaczęto wykorzystywać w praktycznych zadaniach, między innymi do:

• wykrywania nietypowych lub potencjalnie oszukańczych transakcji;
• oceny ryzyka kredytowego i prawdopodobieństwa niewypłacalności;
• prognozowania zagrożeń zdrowotnych, takich jak pogorszenie stanu pacjenta lub ponowna hospitalizacja;
• porządkowania produktów, filmów, muzyki i wpisów w silnikach rekomendacji;
• łączenia rozpoznawania mowy, klasyfikacji intencji i zdefiniowanych przepływów zadań w asystentach głosowych, takich jak Siri.

Takie systemy są zwykle skuteczne, gdy zadanie jest wąskie, powtarzalne i możliwe do jednoznacznego zmierzenia. Potrafią szybko przetwarzać duże zbiory przypadków i zapewniać spójne wyniki. Systemy regułowe bywają też łatwiejsze do skontrolowania niż złożone modele, ponieważ ich logika jest jawna.

Granice przewidywania

Tradycyjna AI nie rozumie automatycznie, dlaczego wystąpił dany rezultat. Model może wykryć zależność statystyczną, nie dowodząc związku przyczynowego, a system wytrenowany na obciążonych danych historycznych może powielać lub wzmacniać uprzedzenia. Reguły mogą z kolei działać wadliwie poza warunkami, dla których je zaprojektowano, natomiast złożone modele predykcyjne bywają trudne do wyjaśnienia.

Skuteczność może spadać, gdy zmienia się rzeczywistość — problem ten określa się często jako dryf danych. W obszarach wysokiego ryzyka, takich jak kredyty, zatrudnienie, ubezpieczenia, działania organów ścigania i opieka zdrowotna, odpowiedzialne wdrożenie wymaga zatem kontroli jakości danych, testów pod kątem stronniczości, wyjaśnień adekwatnych do decyzji, nadzoru człowieka, monitorowania oraz możliwości odwołania.

2. Generatywna AI: tworzenie nowych treści

Generatywna AI uczy się wzorców z dużych zbiorów tekstu, obrazów, dźwięku, wideo lub kodu, a następnie wykorzystuje je do tworzenia nowych wyników. Duże modele językowe generują tekst sekwencyjnie, natomiast systemy multimodalne mogą pracować z różnymi formatami.

Zmieniło to sposób korzystania z AI. Zamiast wybierać z ustalonego zestawu poleceń lub otrzymywać wynik klasyfikacji, użytkownik może opisać cel zwykłym językiem i poprosić system o przygotowanie, przekształcenie albo wyjaśnienie materiału.

Gdzie wykorzystuje się generatywną AI?

Najczęstsze zastosowania obejmują:

• Obsługę klienta: przygotowywanie odpowiedzi, podsumowywanie rozmów, tłumaczenie materiałów i wyszukiwanie informacji w bazach wiedzy.
• Pracę prawniczą: streszczanie dokumentów, wyszukiwanie klauzul, porównywanie orzeczeń i przygotowywanie pierwszych wersji pism. Prawnicy nadal muszą sprawdzać źródła pierwotne oraz twierdzenia prawne.
• Edukację: wyjaśnianie pojęć, tworzenie zadań ćwiczeniowych i udzielanie informacji zwrotnej.
• Pracę kreatywną: burze mózgów, tworzenie tekstów oraz generowanie obrazów, muzyki, koncepcji wideo i kodu.
• Programowanie: objaśnianie kodu, pisanie testów, sugerowanie poprawek i przyspieszanie rutynowych prac programistycznych.

Najważniejsze korzyści to szybkość, niższy koszt przygotowywania materiałów, komunikacja w języku naturalnym oraz możliwość tworzenia wielu spersonalizowanych wersji. Prawdopodobna i przekonująca odpowiedź nie jest jednak tym samym co rzetelny osąd ekspercki.

Najważniejsze ryzyka

Halucynacje i nadmierna pewność siebie. Duże modele językowe mogą tworzyć zmyślone, nieprawdziwe, stronnicze lub nadmiernie uproszczone informacje, przedstawiając je pewnym tonem. Badania nad ugruntowaniem odpowiedzi w źródłach i ich oceną wskazują na halucynacje, szkodliwe treści, manipulację, naruszenia praw autorskich, prywatności i bezpieczeństwa jako problemy wymagające testowania oraz monitorowania.

Nauka i uczciwość akademicka. Duży eksperyment terenowy w szkołach wykazał, że korepetycje wspierane przez AI poprawiały wyniki, gdy narzędzie było dostępne. Uczniowie, którzy korzystali z niego bez odpowiednich zabezpieczeń, mogli jednak osiągać gorsze rezultaty po odebraniu dostępu, co sugeruje ograniczone przyswajanie umiejętności. Podpowiedzi zaprojektowane przez nauczycieli lepiej chroniły proces nauki niż samo podawanie odpowiedzi. Narzędzia generatywne mogą również ułatwiać plagiat lub utrudniać ocenę, czy uczeń rzeczywiście opanował materiał.

Prawa autorskie i pochodzenie treści. Pochodzenie danych treningowych, naśladowanie stylu oraz wyniki odtwarzające chronione materiały pozostają przedmiotem sporów. Wytyczne dotyczące edukacji wskazują naruszenia własności intelektualnej jako istotne ryzyko, obok treści nieprawdziwych, stronniczych i niebezpiecznych.

Treści szkodliwe i manipulacyjne. Generatywne systemy mogą tworzyć dezinformację, materiały nękające, treści seksualne lub brutalne oraz niebezpieczne instrukcje. Zalecenia dotyczące bezpieczeństwa wskazują na potrzebę testów, zabezpieczeń, rejestrowania aktywności i monitorowania — nie należy zakładać, że model zawsze zachowa się zgodnie z intencją twórców.

Bezpieczeństwo i dobrostan młodych osób. Badania nad ryzykami generatywnej AI dla młodzieży wskazują na zagrożenia związane ze zdrowiem psychicznym, rozwojem społecznym i behawioralnym, toksycznymi treściami, prywatnością oraz niewłaściwym wykorzystaniem lub wykorzystywaniem użytkowników. Ryzyka te są szczególnie poważne, gdy chatbot jest traktowany jako zaufany substytut wykwalifikowanego wsparcia człowieka.

Prywatność i poufność. W promptach mogą znaleźć się dane osobowe, tajemnice przedsiębiorstwa, materiały klientów lub informacje objęte tajemnicą zawodową. Organizacje powinny jasno określić, jakie dane można wprowadzać do konkretnych usług, a użytkownicy powinni traktować niezatwierdzone systemy jako nieodpowiednie do przetwarzania informacji wrażliwych.

Praktyczne zabezpieczenia generatywnej AI

Rozsądnym minimum jest traktowanie wyniku modelu jako szkicu, a nie dowodu. Ważne twierdzenia faktyczne należy sprawdzać w wiarygodnych źródłach, a decyzje medyczne, prawne, finansowe, kadrowe i związane z bezpieczeństwem powinny wymagać kontroli człowieka.

Przydatne mechanizmy obejmują wyszukiwanie oparte na zatwierdzonych źródłach, cytowanie materiałów, testy red-team, zabezpieczenia treści, projektowanie adekwatne do wieku, dzienniki audytowe, informowanie użytkownika o wykorzystaniu AI oraz zasady dotyczące danych, zastosowań akademickich, pochodzenia treści i praw własności intelektualnej. Wytyczne rządowe podobnie wskazują na ryzyko treści nieprawdziwych lub stronniczych, naruszeń prywatności, praw własności intelektualnej i uczciwości akademickiej.

3. Agentowa AI: systemy, które potrafią działać

Agentowa AI dodaje warstwę działania. Agent może zinterpretować cel, podzielić go na kroki, skorzystać z narzędzi takich jak przeglądarka, repozytorium kodu, baza danych lub system wiadomości, sprawdzić wyniki pośrednie i kontynuować pracę w granicach przyznanych mu uprawnień.

To odróżnia agenta od chatbota, nawet jeśli oba korzystają z dużego modelu językowego. Chatbot może przygotować e-mail, natomiast agent może wyszukać informacje, napisać wiadomość, wysłać ją i zaktualizować inny system. Asystent programistyczny może wyjaśnić błąd, a agent — przeanalizować bazę kodu, zmodyfikować pliki, uruchomić testy i przygotować zmianę do weryfikacji.

Do przykładów obecnych na rynku należą agenci programistyczni, tacy jak Google Jules, narzędzia wspierające rekrutację, takie jak LinkedIn Hiring Assistant, oraz osobiste frameworki agentowe, w tym OpenClaw. Materiały projektowe opisują OpenClaw jako osobistego, otwartoźródłowego asystenta uruchamianego na urządzeniach użytkownika i łączącego się z kanałami komunikacji oraz narzędziami. Jego rzeczywiste możliwości zależą od włączonych integracji i uprawnień.

Dlaczego agenci mogą być użyteczni?

Systemy agentowe mogą:

• realizować całe procesy, a nie tylko pojedyncze zadania związane z pisaniem;
• ograniczać rutynową koordynację i administrację;
• łączyć informacje rozproszone w różnych systemach firmowych;
• działać w sposób ciągły, ale w określonych granicach.

Może to ułatwić mniejszym organizacjom i pojedynczym użytkownikom korzystanie ze złożonych procesów. Zmienia się jednak kluczowe pytanie: nie tylko „Czy odpowiedź jest poprawna?”, lecz także „Co system może zrobić i jak sprawdzić jego działania?”.

Dlaczego autonomia zwiększa skalę ryzyka?

Model generatywny może pomylić się w odpowiedzi. Agent może natomiast zamienić błędny wniosek, złośliwe polecenie lub przejęte narzędzie w działanie zewnętrzne.

Przykładowo agent z dostępem finansowym mógłby wykonać nieautoryzowaną płatność, zakup, przelew lub anulowanie transakcji. Agent z dostępem do poczty, przeglądarki lub chmury mógłby zostać zmanipulowany przez złośliwą stronę albo dokument i ujawnić dane uwierzytelniające lub wysłać poufne pliki. Nadmierne uprawnienia, słabe mechanizmy tożsamości i niejasny podział obowiązków mogą zmienić niewielki błąd modelu w poważny incydent.

Trudniej jest też przypisać odpowiedzialność, gdy rezultat powstaje w wyniku interakcji modelu, instrukcji, danych, narzędzi i innych agentów. Operator systemu potrzebuje więc wglądu nie tylko w końcowy wynik, lecz także w proponowane działanie, dowody stojące za tą propozycją i wykorzystane uprawnienia.

Zarządzanie ryzykiem musi nadążać za możliwościami AI

Te same podstawowe zasady dotyczą wszystkich trzech etapów: należy wyznaczyć odpowiedzialnego właściciela systemu, ograniczyć go do określonego celu, chronić dane, testować przed wdrożeniem, monitorować działanie, przygotować procedury reagowania na incydenty oraz zapewnić skuteczny nadzór lub możliwość zablokowania decyzji o istotnych konsekwencjach.

Systemy agentowe wymagają dodatkowych zabezpieczeń, ponieważ mogą oddziaływać na zewnętrzne systemy. W praktyce przydatne są:

• uprawnienia minimalne i poświadczenia ograniczone czasowo;
• osobne konta oraz jednoznaczna tożsamość każdego agenta;
• wyraźne granice określające, co agent może czytać, zapisywać, wysyłać, kupować, usuwać lub wdrażać;
• bramki zatwierdzania dla działań nieodwracalnych lub o dużym wpływie;
• listy zatwierdzonych narzędzi, środowiska izolowane i ochrona przed prompt injection;
• limity transakcji i wykrywanie anomalii;
• szczegółowe, odporne na manipulację dzienniki działań;
• rozdzielenie obowiązków i proporcjonalna zgoda człowieka;
• szybki mechanizm wstrzymania lub wyłączenia systemu.

Opublikowane przez Singapur Modelowe ramy zarządzania AI agentową (Model AI Governance Framework for Agentic AI), uruchomione 22 stycznia 2026 roku, są wytycznymi dla organizacji wdrażających te systemy, a nie odrębną ustawą o AI. Ich podejście stawia w centrum odpowiedzialność człowieka i organizacji oraz zaleca zarządzanie ryzykiem i zabezpieczenia proporcjonalne do poziomu autonomii agenta.

W sektorze finansowym dokument Monetary Authority of Singapore dotyczący SAFR opisuje podejście do zarządzania w czasie działania systemu. Uporządkowany zapis ma rejestrować, co agent zamierza zrobić, dlaczego chce to zrobić oraz jakie dowody uzasadniają proponowane działanie.

Najważniejszy wniosek

Ewolucja AI nie jest po prostu marszem od „starej” sztucznej inteligencji do „nowej”. Systemy regułowe i predykcyjne nadal są właściwym wyborem dla wielu ograniczonych zadań. Generatywna AI dodaje elastyczne tworzenie treści i komunikację w języku naturalnym. Agentowa AI umożliwia realizację celów za pomocą narzędzi i działań w świecie zewnętrznym.

Wraz ze wzrostem możliwości rośnie wyzwanie związane z zarządzaniem. Predykcja wymaga dbałości o dokładność, stronniczość i dryf danych. Generowanie wymaga weryfikacji, bezpieczeństwa, ochrony prywatności i ustalenia pochodzenia treści. Działanie wymaga wszystkich tych środków, a ponadto kontroli uprawnień, bramek zatwierdzania, odpowiedzialności i planów odzyskiwania po błędach. Najbardziej niezawodne produkty AI będą więc łączyć możliwości modeli z przemyślanym projektowaniem systemu i realnym nadzorem człowieka.