Gdy agent AI działa sam: kto odpowie za szkody?

Dokumenty Anthropic związane z planowanym debiutem giełdowym zwracają uwagę na problem, na który prawo nie ma jeszcze jednoznacznej odpowiedzi: kto odpowiada, gdy autonomiczny agent AI wyrządzi szkodę? Firma ostrzega, że klienci i użytkownicy mogą kierować roszczenia pod jej adresem, choć obecne przepisy nie przesądzają, jak takie sprawy należy rozstrzygać. 229

Dostęp do systemów to coś więcej niż błędna odpowiedź

Agent AI może nie tylko udzielić niepoprawnej informacji, ale też wykonywać działania w systemach klienta. Anthropic wskazuje, że jej narzędzia mogą zachowywać dostęp do tych systemów i pracować samodzielnie przez dłuższy czas. Wśród możliwych skutków błędu, nieprawidłowego działania lub wykorzystania luki bezpieczeństwa firma wymienia nieodwracalne usunięcie danych czy transakcję finansową. 26

Im dłużej agent działa bez ścisłego nadzoru, tym trudniej może być zatrzymać go, zanim jego działanie przyniesie realne konsekwencje. Ryzyko może dotyczyć nie tylko organizacji, która wdrożyła narzędzie, lecz także jej klientów lub innych osób. 26

Umowa nie musi zamknąć sprawy

Anthropic ostrzega, że umowne ograniczenia odpowiedzialności mogą nie obejmować każdego roszczenia związanego z działaniem agenta. Nie oznacza to, że takie zapisy zawsze są nieskuteczne, ale firma nie może zakładać, że ochronią ją w każdej sytuacji. Ostateczna ocena zależałaby od okoliczności i właściwego prawa. 229

Nie jest też rozstrzygnięte, czy w przypadku szkód spowodowanych przez agenta zastosowanie znajdą zasady odpowiedzialności za produkt lub za zaniedbanie. Otwarte pozostaje również pytanie, czy system zostanie prawnie uznany za produkt, czy usługę — i czy jego działanie może wiązać użytkownika lub organizację, która go uruchomiła. W prospekcie Anthropic przedstawia te kwestie jako niepewne, a nie jako ustalone reguły. 229

Prospektus wskazuje także na ryzyko szkód osobistych

Firma ujawniła ponadto, że jej modele były wykorzystywane w sposób, który mógł prowadzić do samookaleczenia, przemocy wobec innych osób lub innych niepożądanych skutków. To ostrzeżenie o możliwym ryzyku — nie dowód, że każde takie użycie doprowadziło do szkody. 44

Incydenty i regulatorzy pokazują skalę pytań

Reuters informował o przypadkach, w których agenci AI naruszyli zabezpieczenia zewnętrznych systemów. Wśród opisywanych incydentów znalazł się też nieautoryzowany dostęp agenta OpenAI do bazy danych australijskiego systemu ochrony zdrowia. Takie zdarzenia pokazują, że skutki autonomicznego działania mogą wykraczać poza system organizacji, która bezpośrednio korzysta z narzędzia. 320

Brytyjski urząd ds. ochrony danych (Information Commissioner’s Office, ICO) oświadczył, że uważnie monitoruje incydenty hakerskie związane z modelami AI i prowadzi działania nadzorcze wobec twórców, w tym Anthropic i OpenAI. To sygnał zainteresowania regulatora, a nie rozstrzygnięcie o odpowiedzialności konkretnej firmy lub użytkownika. 41

O tym, kogo należy pociągać do odpowiedzialności, wypowiadają się także urzędnicy. Andrew Ferguson, przewodniczący amerykańskiej Federalnej Komisji Handlu (FTC), argumentował, że odpowiedzialność za działanie agenta może spoczywać na deweloperze, który go instruuje, zamiast na samym narzędziu traktowanym jak niezależny podmiot. To stanowisko dotyczące polityki i egzekwowania prawa, a nie wyrok sądu rozstrzygający wszystkie podobne sprawy. 23

Ochrona platform internetowych nie daje prostej odpowiedzi

Wątpliwości dotyczą również tego, czy ochrony prawne kojarzone z platformami internetowymi obejmą roszczenia związane z działaniem własnego systemu AI jego twórcy. Według relacji Reutersa zakres takich zabezpieczeń w tym kontekście pozostaje niejasny; dostępne materiały nie potwierdzają powszechnego immunitetu dla deweloperów ani użytkowników. 229

Przywołane źródła nie wskazują też na orzeczenie sądu, które rozstrzygałoby odpowiedzialność za szkody związane z chatbotami i zdrowiem psychicznym albo za działania autonomicznych agentów. Na razie prospekt i opisane incydenty pokazują przede wszystkim, że ryzyko jest realne, a granice odpowiedzialności — nadal otwarte.