Sampura Research chce, by ludzie nadal nadzorowali AI. Jak działa jej hybrydowy „sędzia”?

Sampura Research to londyńska organizacja non profit zajmująca się bezpieczeństwem sztucznej inteligencji. Założyli ją byli badacze Google DeepMind — Rishub Jain i Josh Jacob. Własny komunikat organizacji nie wymienia Alexa Adamsa jako współzałożyciela; przypisuje mu jedynie uwagi do ogłoszenia. Sampura została publicznie uruchomiona 25 sierpnia 2026 roku i otrzymała od Coefficient Giving początkowe zobowiązanie w wysokości 11 mln dolarów: 7 mln dolarów na pierwszy rok oraz kolejne 4 mln w ramach deklarowanego finansowania. 4

Dlaczego Sampura nie chce, by AI samo nadzorowało AI?

W branży coraz częściej mówi się o „skalowalnym nadzorze” — sposobie oceniania zachowania bardzo zaawansowanych modeli, którego nie ogranicza liczba dostępnych ekspertów. W praktyce rolę sędziego często przejmuje inny duży model językowy, ponieważ działa szybciej i taniej niż człowiek.

Sampura argumentuje jednak, że ludzkiej oceny nie da się całkowicie zastąpić. Ludzie mogą nadal być lepsi w rozpoznawaniu nierównomiernych, trudnych do przewidzenia awarii modeli — tak zwanych „postrzępionych” lub „jagged” błędów. Mogą też pełnić niezależną funkcję kontrolną, szczególnie gdy model oceniany i model oceniający zaczynają wzajemnie dostosowywać się do swoich słabości. Kolejną przewagą człowieka ma być możliwość rozważania nowych albo zmieniających się wartości, których nie da się łatwo zamknąć w gotowej rubryce. 4

Nie oznacza to planu, w którym człowiek sprawdza każdą odpowiedź AI. Celem jest raczej kierowanie ludzkiej uwagi tam, gdzie przynosi ona największą wartość z punktu widzenia bezpieczeństwa.

Czym ma być hybrydowy „sędzia” AI?

W terminologii Sampura „sędzia” to człowiek, system AI albo układ łączący oba elementy, który ocenia poprawność i zgodność zachowania modelu z określonymi zasadami. Może analizować pojedynczą odpowiedź w rozmowie, ale także całą trajektorię działania agenta AI.

Organizacja chce rozwijać kilka powiązanych metod:

• szacowanie pewności modelu oceniającego i przekazywanie ludziom przypadków, w których AI nie jest wystarczająco pewna;
• routery, które rozdzielają zadania lub ich podproblemy między ludzi i systemy AI;
• asystę AI dopasowaną do konkretnego zadania, pomagającą człowiekowi szybciej i dokładniej dokonać oceny;
• mieszane procedury ewaluacyjne, w których człowiek nie znika z procesu, ale pojawia się w strategicznych punktach.

Takie podejście ma połączyć skalę i szybkość automatyzacji z niezależnością oraz osądem człowieka.

Benchmarki i dane mają sprawdzić, czy system działa

Pierwszy, sześciomiesięczny etap programu ma koncentrować się na budowie lepszych „sędziów”. Sampura zapowiada publiczny, stale aktualizowany ranking oraz ponad 20 podzbiorów danych dotyczących między innymi wykrywania oszustw, uprzedzeń kulturowych i niebezpiecznych działań agentów AI. Organizacja deklaruje także publikację artykułów, kodu, zbiorów danych i rankingów. 4

Ważne jest to, że testy nie mają ograniczać się do statycznych przykładów. Sampura chce sprawdzać, co dzieje się wtedy, gdy nadzorowany model może optymalizować swoje zachowanie pod kątem sędziego podczas uczenia ze wzmocnieniem. To próba wykrycia tak zwanego reward hackingu — sytuacji, w której model maksymalizuje mierzoną nagrodę, omijając rzeczywisty cel bezpieczeństwa.

Projekt ma z czasem obejmować nie tylko ocenianie gotowych odpowiedzi. Badacze chcą także analizować tworzenie i testowanie instrukcji, kryteriów oceny oraz przypadków testowych. Dzięki temu możliwe byłoby wcześniejsze wykrywanie luk w samym procesie nadzoru.

Nie chodzi wyłącznie o scenariusz „buntującej się AI”

Zakres zapowiedzianych badań wykracza poza klasyczne obawy przed „zbuntowanym” systemem. Obejmuje również uprzedzenia, niebezpieczne interakcje z dziećmi oraz ryzyko nadmiernego uzależnienia od AI pełniącej funkcję towarzysza. 4

To istotne przesunięcie akcentu: bezpieczeństwo modelu nie sprowadza się tylko do pytania, czy wykona on skrajnie szkodliwe polecenie. Równie ważne jest to, jak zachowuje się w codziennych, niejednoznacznych i społecznie wrażliwych sytuacjach.

Na tym etapie Sampura przedstawia jednak program badawczy, a nie potwierdzoną metodę „powstrzymania” zaawansowanej AI. Dopiero wdrożenia pokażą, czy lepsi sędziowie rzeczywiście ograniczają reward hacking, kiedy trzeba ich ponownie trenować oraz ile ludzkiej pracy jest potrzebne, by osiągnąć rozsądny kompromis między kosztem, szybkością i jakością kontroli. Organizacja może najpierw testować rozwiązania z udziałem zewnętrznych ewaluatorów, a następnie dążyć do wykorzystania ich w treningu, testach i monitorowaniu modeli w czołowych laboratoriach AI. 4

Dlaczego rekrutacja jest częścią problemu bezpieczeństwa?

Ambicje Sampura wiążą się z szerszym problemem: brakiem doświadczonych specjalistów od ewaluacji modeli. METR, organizacja zajmująca się niezależnym testowaniem możliwości i zagrożeń związanych z AI, oferowała na jednym z ogłoszeń dotyczących wykonywania ewaluacji roczne wynagrodzenie zasadnicze od 285 548 do 503 116 dolarów, z możliwością podwyższenia tej kwoty dla wyjątkowych kandydatów. 9

To pokazuje, jak trudne jest znalezienie osób zdolnych do oceny coraz bardziej zaawansowanych systemów. Sampura zapowiada rekrutację pierwszych pracowników technicznych w Londynie, ale dostępne źródło pierwotne nie potwierdza dokładnego twierdzenia, że organizacja zatrudni co najmniej sześć osób za 100–290 tys. funtów rocznie. 4

Element większej debaty o tempie rozwoju AI

W lipcu 2026 roku ponad 1100 osób pracujących przy rozwoju zaawansowanej AI podpisało list otwarty wzywający do stworzenia międzynarodowych narzędzi, które pozwalałyby celowo spowolnić rozwój technologii, jeśli wyprzedzi on możliwości bezpiecznego nadzoru przez ludzi. 1

Sampura może dostarczyć jeden z technicznych elementów takiego systemu: bardziej wiarygodne, audytowalne i odporne na manipulację ewaluacje. Nie jest jednak w stanie sama ustanowić prawa, zapewnić międzynarodowej koordynacji, uzyskać dostępu do wszystkich modeli ani egzekwować decyzji o spowolnieniu prac. Jej działania uzupełniają więc zarządzanie AI, ale go nie zastępują.

Co z odejściem Jaina z DeepMind?

Odejście Jaina było opisywane na tle większej fali odejść z Google DeepMind. Sformułowanie o „pięciu kluczowych badaczach w sześć dni” pochodzi jednak z materiałów niższej jakości i nie powinno być traktowane jako niezależnie potwierdzony fakt. 5

Podobnie dostępne materiały nie dowodzą szerokiej tezy, że firmy AI „nie potrafią jeszcze kontrolować tego, co zbudowały”. Ostrożniejszy i lepiej uzasadniony wniosek jest taki: skuteczny nadzór nad coraz potężniejszymi modelami nadal nie został wykazany, ekspertów od ewaluacji brakuje, a Sampura próbuje sprawić, by udział człowieka był bardziej skalowalny i odporny na błędy — zamiast zakładać, że AI może bezpiecznie nadzorować samą siebie.