AI w firmach wymyka się spod kontroli: 67% CIO odpowiada za systemy, których nie nadzoruje

Ambicje prezesów zderzają się z operacyjną rzeczywistością

Presja z góry jest ogromna. 80% respondentów potwierdziło, że ich prezesi wydali wytyczne dotyczące transformacji opartej na AI . Tej ambicji nie wspiera jednak gotowość organizacyjna. Aż 77% liderów przyznaje, że tempo wdrażania AI już teraz przewyższa ich możliwości nadzorcze , a tylko 11% czuje się w pełni przygotowanych na skalę wdrożeń agentów AI oczekiwaną w nadchodzącym roku . Przepaść między strategicznymi aspiracjami a operacyjną gotowością nigdy nie była większa.

Rosnące koszty incydentów z agentami AI

Ryzyko niekontrolowanego wdrażania AI przestało być już tylko teorią. W badanych organizacjach odnotowano średnio 54 incydenty z udziałem agentów AI w samym minionym roku – definiowane jako niezamierzone lub szkodliwe zdarzenia wymagające interwencji człowieka . Straty z nich wynikające są znaczące i mają wielowymiarowy charakter:

• 17% incydentów zaklasyfikowano jako wysoce krytyczne, każdy z nich wymagał ponad czterech godzin na opanowanie .
• 37% przypadków zakończyło się wyciekiem danych lub naruszeniem bezpieczeństwa .
• 33% spowodowało kaskadowe awarie systemów, gdzie jeden niekontrolowany agent wywołał reakcję łańcuchową w połączonych systemach .
• 17% wywołało bezpośrednie problemy ze zgodnością z przepisami .

Wydatki rosną w ciemno

W miarę jak firmy pędzą w rozbudowę swoich zdolności AI, przewiduje się gwałtowny wzrost wydatków. Udział AI w budżetach IT ma wzrosnąć z niespełna 15% w 2025 roku do niemal 25% do 2027 roku, co oznacza 71-procentowy skok w ciągu zaledwie dwóch lat . Dla wielu organizacji ten szybki wzrost finansowy odbywa się po omacku. Badanie wykazało, że 84% dyrektorów ds. technologii nie wdrożyło w pełni procesów finansowego zarządzania AI, a 85% nie ma pełnej widoczności swoich wydatków na AI w czasie rzeczywistym . Bez odpowiedniego „FinOps dla AI” liderzy działają na oślep, podczas gdy stawka finansowa rośnie do niebotycznych rozmiarów.

Droga naprzód: „kontrola w standardzie”

Badanie IBM nie tylko diagnozuje problem, ale także wycenia korzyści z jego rozwiązania. Ujawnia wyraźny rozdźwięk w wynikach między dwoma podejściami: tych, którzy wbudowują mechanizmy kontrolne bezpośrednio w systemy AI (podejście zwane „kontrolą w standardzie”), a tych, którzy polegają na tradycyjnym, ręcznym nadzorze, nie nadążającym za tempem rozwoju.

Organizacje, które od początku włączają zarządzanie w architekturę swoich systemów, w porównaniu z tymi stosującymi nadzór ręczny, osiągają radykalnie lepsze wyniki :

• Wdrażają 16 razy więcej agentów AI .
• Generują o 18% wyższą marżę operacyjną .
• Wydają 4 razy mniej ze swojego całkowitego budżetu na AI .
• Odnotowują o 25% mniej incydentów związanych z AI .

Dane te podkreślają kluczową zmianę w myśleniu: solidne zarządzanie nie jest hamulcem innowacji – jest motorem umożliwiającym bezpieczne i rentowne skalowanie. Dodatkowe wnioski to potwierdzają. Firmy z silną dyscypliną finansową wdrażają 2,4 razy więcej agentów AI, nie wydając większej części budżetu IT na AI, i są 3 razy bardziej skłonne uznać się za w pełni przygotowane na nadchodzącą skalę rozwoju AI . Te, które wcześnie zaprojektowały swoje fundamenty IT pod kątem adaptacyjności, odnotowały o 10% wyższy zwrot z inwestycji w AI w 2025 roku .