Sampura Research chce, by ludzie nadal oceniali sztuczną inteligencję

Sampura Research to londyńska organizacja non profit zajmująca się bezpieczeństwem sztucznej inteligencji. Jej podstawowe pytanie brzmi: kto powinien oceniać, czy coraz bardziej zaawansowany system AI działa poprawnie i bezpiecznie? Odpowiedź organizacji nie zakłada usunięcia człowieka z procesu. Sampura chce projektować systemy, w których ludzie i AI dzielą się odpowiedzialnością za nadzór.

Organizacja poinformowała o otrzymaniu początkowego grantu w wysokości 11 mln dolarów od Coefficient Giving: 7 mln dolarów ma sfinansować pierwszy rok działalności, a kolejne 4 mln zostały zadeklarowane. 1

Publiczne ogłoszenie startu Sampura Research pochodzi z 25 sierpnia 2026 roku, a nie z 24 sierpnia. Jako założycieli wskazuje Rishuba Jaina i Josha Jacoba. Wcześniejsze wpisy w mediach społecznościowych wspominały także o Alexie Adamsie, ale samo oficjalne ogłoszenie nie potwierdza, że cała trójka formalnie założyła organizację. 112

Czym jest „sędzia” AI?

W terminologii Sampura sędzia może być człowiekiem, modelem AI albo systemem hybrydowym. Jego zadaniem jest ocena, czy zachowanie innego systemu AI jest poprawne i zgodne z założonymi wartościami. Ocenie może podlegać pojedyncza odpowiedź, cała rozmowa albo wieloetapowe działanie agenta AI. 1

To rozróżnienie jest istotne, ponieważ nadzór często traktuje się jako osobny problem względem możliwości samego modelu. System może tworzyć płynne odpowiedzi i wykonywać skomplikowane zadania, a jednocześnie wprowadzać ewaluatora w błąd, wykorzystywać luki w funkcji nagrody lub podejmować niebezpieczne działania w dłuższej sekwencji kroków.

Sampura określa swój kierunek jako komplementarność ludzi i AI na rzecz skalowalnego nadzoru. Chodzi o automatyzację tam, gdzie jest ona wiarygodna, przy jednoczesnym zachowaniu udziału człowieka w sytuacjach wymagających interpretacji, osądu lub rozstrzygania kwestii związanych z wartościami. 1

Dlaczego organizacja nie chce nadzoru wyłącznie przez AI?

Automatyczni ewaluatorzy są kuszącym rozwiązaniem: działają szybciej i taniej, zwłaszcza gdy trzeba sprawdzić ogromną liczbę odpowiedzi. Sampura podkreśla jednak, że sama szybkość nie wystarcza, by uznać system oceniający za godny zaufania. W ogłoszeniu organizacja wskazuje między innymi na:

• Nierówne możliwości modeli: działanie AI może być „poszarpane” — model bywa bardzo dobry w jednych zadaniach i zaskakująco słaby w innych.
• Wspólne schematy błędów: ludzie i AI mogą popełniać podobne pomyłki, zwłaszcza gdy oceniany model jest optymalizowany pod kątem konkretnego procesu ewaluacji.
• Manipulację i współdziałanie: nadzorowany system może próbować wykorzystywać słabości automatycznego sędziego, wprowadzać go w błąd albo wpływać na jego decyzje.
• Nowe i niejednoznaczne sytuacje: niektóre przypadki wymagają ludzkiej dyskusji o wartościach, a nie tylko zastosowania wcześniej wyuczonych preferencji.

Nie oznacza to, że ludzcy sędziowie zawsze są lepsi. Chodzi raczej o sprawdzenie, jaka kombinacja oceny ludzkiej i maszynowej działa najlepiej pod presją, zamiast zakładać z góry, że każdy przypadek powinien rozstrzygać wyłącznie człowiek albo wyłącznie AI. 1

Jak Sampura chce testować swoich „sędziów”?

Pierwszy, sześciomiesięczny program badawczy ma koncentrować się na zróżnicowanym rankingu systemów oceniających. Ranking obejmie ponad 20 podzbiorów danych, w tym zadania związane z wykrywaniem oszustwa, uprzedzeń kulturowych i niebezpiecznych działań agentów AI. 1

Testy mają wykraczać poza statyczne pytania i odpowiedzi. Sampura planuje również scenariusze, w których nadzorowany model bezpośrednio optymalizuje swoje działanie przeciwko sędziemu podczas uczenia ze wzmocnieniem. Taki układ ma pokazać, czy system oceniający nadal działa, gdy oceniany model ma motywację, by znaleźć i wykorzystać jego słabości. 1

Badania mają porównać trzy szerokie podejścia:

1. Sędziów ludzkich, którzy dokonują bezpośredniej oceny.
2. Sędziów opartych wyłącznie na AI, zapewniających większą szybkość i skalowalność.
3. Sędziów hybrydowych, dzielących pracę ewaluacyjną między ludzi i maszyny albo koordynujących ich działania.

Celem nie jest uzyskanie wysokiego wyniku w jednym wąskim teście. Sampura chce sprawdzać, czy sędziowie pozostają odporni na błędy w szerokim zestawie zadań i czy nadal działają, gdy nadzorowane modele uczą się coraz skuteczniej obchodzić mechanizmy oceny. 1

Jak może działać nadzór hybrydowy?

Organizacja wskazuje kilka możliwych sposobów łączenia ludzkiego i maszynowego osądu:

• AI może oszacować własną pewność i przekazać niejednoznaczny przypadek człowiekowi.
• System kierujący zadaniami może przypisać całą ocenę osobie albo ewaluatorowi AI.
• Złożone zadanie można podzielić na mniejsze części, a poszczególne podzadania skierować do ludzi lub maszyn.
• Specjalne interfejsy mogą pomóc ludzkim oceniającym szybciej i bardziej spójnie analizować trudne przypadki.

Takie podejście traktuje udział człowieka jako element, który można optymalizować, a nie jako wymóg typu „wszystko albo nic”. Proste i powtarzalne przypadki mogą nadawać się do automatycznej kontroli, podczas gdy trudniejsze powinny otrzymać więcej ludzkiej uwagi. Najważniejszy kompromis nie przebiega więc między „człowiekiem” a „AI”, lecz między dokładnością, kosztem, szybkością i odpornością na celowe obchodzenie systemu. 1

Plany na dalszy etap

Po opracowaniu lepszych sędziów Sampura chce sprawdzić, czy mogą oni ograniczyć zjawisko reward hackingu, czyli sytuację, w której model maksymalizuje formalną nagrodę, omijając rzeczywisty cel treningu. Organizacja zamierza także badać, jak duży udział człowieka jest potrzebny, jak dostosowywać systemy nadzoru, gdy modele uczą się je wykorzystywać, oraz czy sędziowie mogą robić więcej niż tylko klasyfikować gotowe odpowiedzi. 1

W dalszej perspektywie chodzi również o tworzenie i ocenę specyfikacji, instrukcji, rubryk oraz przypadków testowych używanych podczas treningu i ewaluacji AI. Sampura zapowiada publikowanie wyników w formie artykułów, kodu, zbiorów danych i rankingów. 1

Dostępne materiały potwierdzają ogólny program obejmujący dane, benchmarki, kierowanie zadań oraz narzędzia wspierające ludzkich oceniających. Nie potwierdzają natomiast wszystkich bardziej szczegółowych nazw projektów przypisywanych organizacji — w tym konkretnego zbioru danych dotyczącego „przyszłych szkód” ani potwierdzonej platformy do otwartego oceniania przez ludzi. Takie opisy należy traktować jako niezweryfikowane, a nie jako ogłoszone produkty.

Dlaczego rekrutacja jest ważna?

Sampura rekrutuje pierwszych pracowników technicznych w Londynie. Program wymaga kompetencji z zakresu uczenia maszynowego, projektowania ewaluacji, interakcji człowiek–komputer, operacji na danych i wdrażania systemów. 1 Wcześniejsze publiczne wpisy mówiły o zatrudnieniu co najmniej sześciu dodatkowych badaczy oraz wynagrodzeniach od 100 tys. do 290 tys. funtów, ale dokładne kwoty nie zostały potwierdzone w oficjalnym ogłoszeniu organizacji. 1213

Cała branża ewaluacji AI konkuruje o ograniczoną pulę specjalistów. Własne ogłoszenie organizacji METR dotyczące stanowiska Member of Technical Staff, Evaluation Execution podaje podstawowe wynagrodzenie od 285 548 do 503 116 dolarów rocznie i zaznacza, że w przypadku wyjątkowo doświadczonych kandydatów możliwe są jeszcze wyższe stawki. 18

To pokazuje skalę problemu kadrowego: wiarygodny nadzór wymaga jednocześnie badań technicznych i starannej oceny w realnych warunkach, a organizacje pracujące nad tymi zagadnieniami często rywalizują o tych samych ludzi.

Element szerszej debaty o tempie rozwoju AI

Start Sampura Research następuje w czasie rosnących obaw, że rozwój AI może wyprzedzić systemy stworzone do jej monitorowania. W lipcu 2026 roku ponad 1100 pracowników dużych firm AI podpisało list otwarty wzywający rząd Stanów Zjednoczonych do wsparcia międzynarodowych narzędzi technicznych i regulacyjnych, które w razie potrzeby pozwoliłyby celowo spowolnić rozwój najbardziej zaawansowanych systemów AI. List nie wzywał do natychmiastowego zatrzymania rozwoju tej technologii. 40

W 2026 roku widoczne były także przetasowania wśród czołowych badaczy AI. Reuters informował o zmianach kierownictwa w dziale AI Google oraz odejściach znanych inżynierów i naukowców do innych firm i startupów. 49 To kontekst powstania Sampura, ale nie dowód, że organizacja rozwiązała podstawowy problem bezpieczeństwa AI.

Co Sampura może dziś obiecać — a czego jeszcze nie?

Najmocniejsze dostępne dowody przedstawiają Sampura Research jako organizację na wczesnym etapie, budującą infrastrukturę pomiaru i podejmowania decyzji na potrzeby nadzoru nad AI. Jej benchmarki i metody hybrydowej ewaluacji mogą w przyszłości przydać się laboratoriom AI, niezależnym ewaluatorom i innym podmiotom testującym zachowanie modeli. 1

To jednak nie to samo co dowód, że Sampura potrafi kontrolować najbardziej zaawansowane systemy AI. Jej najbliższym zadaniem jest zbadanie, jak projektować i testować nadzór wtedy, gdy oceniany model jest zdolny do adaptacji, potężny i może mieć motywację, by przejść ewaluację, wykorzystując jej słabości.

Najważniejsza teza Sampura jest prosta: bezpieczeństwo AI na dużą skalę będzie wymagało automatyzacji — ale nie takiej, która usuwa ludzi z najbardziej konsekwentnych i wrażliwych decyzji.