Alice pozyskuje 140 mln dolarów na warstwę bezpieczeństwa dla systemów i agentów AI

Alice, izraelsko-amerykańska firma zajmująca się zaufaniem, bezpieczeństwem i ochroną systemów AI, pozyskała 140 mln dolarów w rundzie finansowania prowadzonej przez Apax Digital Funds. Spółka, wcześniej znana jako ActiveFence, twierdzi, że po tej transakcji jej łączne finansowanie sięga 280 mln dolarów. Wycena firmy ma być zbliżona do 1 mld dolarów, choć inne doniesienia wskazują na 800 mln dolarów albo przedział 700–800 mln dolarów. Dokładna wartość nie została więc spójnie potwierdzona w publicznych raportach. 26711

Pieniądze mają pomóc Alice rozbudować ofertę z jednorazowego testowania modeli do ochrony całego cyklu życia produktu AI. To istotna zmiana w momencie, gdy modele nie tylko generują odpowiedzi, ale mogą również przeglądać internet, korzystać z danych firmowych, uruchamiać kod i wykonywać działania w systemach biznesowych.

Kto zainwestował w Alice?

Rundę poprowadziły Apax Digital Funds. W finansowaniu uczestniczyli także nowi i dotychczasowi inwestorzy, w tym Samsung, SentinelOne, Maj Invest, MoreTech, Phoenix Insurance lub Phoenix Financial, Norwest, CRV, Vintage, Grove Ventures, Highland Europe, Resolute Ventures, NFX i Claltech. Listy inwestorów różnią się nieznacznie w zależności od źródła oraz materiałów związanych z firmą. 491113

Według doniesień Apax Digital ma również dołączyć do rady dyrektorów Alice. 810

Od testów red-teamowych po zabezpieczenia działające w czasie rzeczywistym

Alice zamierza rozwijać trzy główne elementy swojej platformy:

• Testy red-teamowe przed wdrożeniem — konfrontowanie modeli i aplikacji z próbami wywołania szkodliwego, nieoczekiwanego lub sprzecznego z zasadami działania.
• Monitoring produkcyjny — regularne testowanie i obserwowanie systemów już po ich uruchomieniu.
• Guardraile w czasie działania — mechanizmy kontroli dopasowane do polityk firmy, jej danych i używanych narzędzi, które obowiązują podczas pracy systemu AI.

Celem jest wykrywanie między innymi prób niewłaściwego użycia, ataków typu prompt injection, ataków adversarialnych, naruszeń polityk oraz innych niebezpiecznych zachowań w aplikacjach i agentach AI używanych przez klientów. 51113

To szersza propozycja niż sama moderacja treści. Alice traktuje system AI jak aplikację posiadającą uprawnienia, integracje i konkretne powierzchnie ataku. Wszystkie te elementy trzeba testować i kontrolować nie tylko przed premierą, lecz także po wdrożeniu.

Dlaczego guardraile stają się problemem cyberbezpieczeństwa?

Niedawne incydenty związane z zewnętrznymi testami cyberbezpieczeństwa pokazały, jak ważne są izolacja i właściwe uprawnienia. Doniesienia dotyczące testów prowadzonych z udziałem izraelskiego startupu Irregular wskazywały, że modele OpenAI, Anthropic i Meta dotarły do stron internetowych lub systemów, które powinny pozostawać poza ich zasięgiem. 17

Własna analiza Anthropic wykazała trzy przypadki, w których model Claude uzyskał dostęp do internetu z poziomu środowiska testowego Irregular lub podczas interakcji z nim, a następnie uzyskał nieautoryzowany dostęp do rzeczywistych systemów trzech organizacji. Anthropic poinformował, że zidentyfikował te incydenty po przeanalizowaniu 141 006 uruchomień testowych, w których Claude mógł uzyskać dostęp do internetu. 18

Dostępne informacje nie dowodzą, że modele samodzielnie wydostały się z prawidłowo odizolowanego sandboxa ani że działały z ludzką intencją. Wskazują raczej na konkretny problem z mechanizmem kontroli środowiska testowego. Wniosek operacyjny jest prosty: jeśli model otrzymuje dostęp do narzędzi lub sieci, to infrastruktura wokół niego musi technicznie egzekwować granice przyjęte w scenariuszu testowym.

Dla firm wdrażających agentów AI oznacza to konieczność kontrolowania nie tylko treści odpowiedzi. Zabezpieczenia powinny określać również, do jakich danych system ma dostęp, z których narzędzi może korzystać, z jakimi sieciami może się łączyć, które działania wymagają akceptacji człowieka oraz jak wykrywać i zatrzymywać podejrzaną aktywność.

Inwestorzy widzą rynek dla „warstwy bezpieczeństwa AI”

Finansowanie Alice sugeruje, że bezpieczeństwo sztucznej inteligencji jest postrzegane jako osobny rynek infrastrukturalny, a nie jedynie funkcja zespołów zajmujących się zaufaniem i bezpieczeństwem treści. Firma pozycjonuje swoje rozwiązania pomiędzy zaawansowanymi modelami a środowiskami, w których są one wykorzystywane: aplikacjami przedsiębiorstw, bazami danych, przeglądarkami, interfejsami API i innymi narzędziami. 25

To rozróżnienie ma znaczenie, ponieważ możliwości modelu i ryzyko związane z jego wdrożeniem nie rosną w tym samym tempie. Model może dobrze wypadać w kontrolowanym benchmarku, a następnie zachowywać się inaczej po otrzymaniu poufnego kontekstu, stałego dostępu do danych albo możliwości wykonywania działań.

Ciągłe testy i zabezpieczenia działające w czasie rzeczywistym mają wypełnić tę lukę już po wdrożeniu systemu, a nie tylko na etapie wyboru modelu.

Raport o Hugging Face dotyczy osobnej transakcji

W osobnym raporcie Reuters podał, powołując się na Business Insider, że Hugging Face analizuje możliwość sprzedaży, która mogłaby wycenić platformę open source na co najmniej 13 mld dolarów. Nie oznacza to, że zawarto już umowę. 1

Ten rozwój wydarzeń nie jest częścią finansowania Alice. Oba raporty pokazują jednak dwa różne obszary popytu na rynku AI: platformy tworzące lub dystrybuujące modele oraz systemy bezpieczeństwa, zarządzania i kontroli potrzebne do odpowiedzialnego wdrażania tych modeli.