AI w firmach wymyka się spod kontroli: 67% CIO odpowiada za systemy, których nie nadzoruje

Wyścig przedsiębiorstw we wdrażaniu agentowej sztucznej inteligencji ujawnia niebezpieczną lukę w odpowiedzialności. Najnowsze globalne badanie IBM Institute for Business Value (IBV), przeprowadzone we współpracy z Oxford Economics, przedstawia alarmujący obraz sytuacji: podczas gdy prezesi firm naciskają na wszechstronną transformację, dyrektorzy ds. technologii (CIO i CTO) są w coraz większym stopniu rozliczani z efektów działania systemów, których ani w pełni nie widzą, ani nie kontrolują.

Badanie CxO 2026, którym objęto 2000 doświadczonych menedżerów z 33 krajów i 19 branż, ujawnia strukturalny kryzys w zarządzaniu sztuczną inteligencją w firmach . Sedno problemu jest jasne: AI skaluje się szybciej niż fundamenty, które miały ją utrzymać w ryzach.

Luka kontrolna: odpowiedzialność za coś, czego nie widać

Główny wniosek płynący z badania IBM jest ostrzeżeniem dla każdego członka zarządu. Około 67% ankietowanych CIO i CTO przyznaje, że są rozliczani z działania systemów AI, nad którymi nie mają pełnej kontroli . Ten problem „odpowiedzialności bez władzy” pogłębia fakt, że według 70% liderów technologicznych poszczególne działy biznesowe wdrażają technologię szybciej, niż centralny dział IT jest w stanie ją śledzić . „Shadow AI” – dotąd utrapienie związane z nieautoryzowanymi narzędziami SaaS – przerodziło się w najwyższej wagi kryzys zarządczy, obejmujący autonomicznych agentów podejmujących kluczowe decyzje.

Ambicje prezesów zderzają się z operacyjną rzeczywistością

Presja z góry jest ogromna. 80% respondentów potwierdziło, że ich prezesi wydali wytyczne dotyczące transformacji opartej na AI . Tej ambicji nie wspiera jednak gotowość organizacyjna. Aż 77% liderów przyznaje, że tempo wdrażania AI już teraz przewyższa ich możliwości nadzorcze , a tylko 11% czuje się w pełni przygotowanych na skalę wdrożeń agentów AI oczekiwaną w nadchodzącym roku . Przepaść między strategicznymi aspiracjami a operacyjną gotowością nigdy nie była większa.

Rosnące koszty incydentów z agentami AI

Ryzyko niekontrolowanego wdrażania AI przestało być już tylko teorią. W badanych organizacjach odnotowano średnio 54 incydenty z udziałem agentów AI w samym minionym roku – definiowane jako niezamierzone lub szkodliwe zdarzenia wymagające interwencji człowieka . Straty z nich wynikające są znaczące i mają wielowymiarowy charakter:

• 17% incydentów zaklasyfikowano jako wysoce krytyczne, każdy z nich wymagał ponad czterech godzin na opanowanie .
• 37% przypadków zakończyło się wyciekiem danych lub naruszeniem bezpieczeństwa .
• 33% spowodowało kaskadowe awarie systemów, gdzie jeden niekontrolowany agent wywołał reakcję łańcuchową w połączonych systemach .
• 17% wywołało bezpośrednie problemy ze zgodnością z przepisami .

Wydatki rosną w ciemno

W miarę jak firmy pędzą w rozbudowę swoich zdolności AI, przewiduje się gwałtowny wzrost wydatków. Udział AI w budżetach IT ma wzrosnąć z niespełna 15% w 2025 roku do niemal 25% do 2027 roku, co oznacza 71-procentowy skok w ciągu zaledwie dwóch lat . Dla wielu organizacji ten szybki wzrost finansowy odbywa się po omacku. Badanie wykazało, że 84% dyrektorów ds. technologii nie wdrożyło w pełni procesów finansowego zarządzania AI, a 85% nie ma pełnej widoczności swoich wydatków na AI w czasie rzeczywistym . Bez odpowiedniego „FinOps dla AI” liderzy działają na oślep, podczas gdy stawka finansowa rośnie do niebotycznych rozmiarów.

Droga naprzód: „kontrola w standardzie”

Badanie IBM nie tylko diagnozuje problem, ale także wycenia korzyści z jego rozwiązania. Ujawnia wyraźny rozdźwięk w wynikach między dwoma podejściami: tych, którzy wbudowują mechanizmy kontrolne bezpośrednio w systemy AI (podejście zwane „kontrolą w standardzie”), a tych, którzy polegają na tradycyjnym, ręcznym nadzorze, nie nadążającym za tempem rozwoju.

Organizacje, które od początku włączają zarządzanie w architekturę swoich systemów, w porównaniu z tymi stosującymi nadzór ręczny, osiągają radykalnie lepsze wyniki :

• Wdrażają 16 razy więcej agentów AI .
• Generują o 18% wyższą marżę operacyjną .
• Wydają 4 razy mniej ze swojego całkowitego budżetu na AI .
• Odnotowują o 25% mniej incydentów związanych z AI .

Dane te podkreślają kluczową zmianę w myśleniu: solidne zarządzanie nie jest hamulcem innowacji – jest motorem umożliwiającym bezpieczne i rentowne skalowanie. Dodatkowe wnioski to potwierdzają. Firmy z silną dyscypliną finansową wdrażają 2,4 razy więcej agentów AI, nie wydając większej części budżetu IT na AI, i są 3 razy bardziej skłonne uznać się za w pełni przygotowane na nadchodzącą skalę rozwoju AI . Te, które wcześnie zaprojektowały swoje fundamenty IT pod kątem adaptacyjności, odnotowały o 10% wyższy zwrot z inwestycji w AI w 2025 roku .