Zaawansowana AI pod ludzką kontrolą. O co apelują Singapur, UE i 19 innych państw?

Powodem apelu była obawa, że rozwój najbardziej zaawansowanych modeli sztucznej inteligencji wyprzedza możliwości ich skutecznego nadzorowania przez pojedyncze państwa. Sygnatariusze nie przedstawili AI wyłącznie jako zagrożenia: chcą korzystać z jej możliwości, ale pod warunkiem utrzymania ludzkiej kontroli i wzmocnienia zabezpieczeń. Premier Singapuru Lawrence Wong podkreślał zarówno ogromny potencjał tej technologii, jak i konieczność ludzkiego nadzoru.1012

Co ogłoszono w Nowym Jorku?

Deklarację „A Call for Control of Frontier AI Models” ogłoszono 21 września 2026 r. przy okazji Zgromadzenia Ogólnego ONZ w Nowym Jorku. Inicjatywę podjęli prezydent Finlandii Alexander Stubb i premier Norwegii Jonas Gahr Støre; w chwili ogłoszenia popierało ją 20 państw oraz Unia Europejska.4619

„Frontier AI” oznacza tu najbardziej zaawansowane modele AI. Sedno apelu jest proste: nawet gdy systemy te stają się coraz bardziej zdolne, powinny pozostawać pod ludzkim kierownictwem, nadzorem i kontrolą.612

Jak miałby działać wspólny nadzór?

Państwa opowiadają się za międzynarodową współpracą nad wspólnymi standardami bezpieczeństwa i sposobami sprawdzania, czy są przestrzegane. Wśród propozycji pojawia się również instytucja, która mogłaby ustalać i egzekwować takie standardy. To propozycja, nie już istniejący organ powołany przez deklarację.35

Opublikowany przez rząd Holandii tekst deklaracji wzywa też firmy do opracowywania przejrzystych procedur bezpieczeństwa, obejmujących testy przed udostępnieniem modeli i niezależną ocenę. Rządy i organizacje regionalne mają z kolei rozwijać i uzgadniać wspólne standardy oraz wzmacniać przejrzystość.9 Chodzi więc o to, by ocena ryzyka nie zależała wyłącznie od deklaracji samych twórców modeli.

Korzyści z AI — ale nie bez zabezpieczeń

Stanowisko Singapuru dobrze oddaje napięcie stojące za apelem: AI ma duży potencjał, lecz ludzie muszą zachować nad nią kontrolę.10 Wspólne zasady mają pomóc mierzyć się z ryzykiem, którego — zdaniem inicjatorów — nie da się skutecznie opanować wyłącznie krajowymi działaniami.12 Dostępne materiały nie rozstrzygają natomiast, czy sygnatariusze wprost odrzucili pomysł spowolnienia rozwoju AI.

W tym samym miesiącu własne działania dotyczące bezpieczeństwa ogłosiły firmy technologiczne. Microsoft przedstawił zasady rozwoju swoich najnowocześniejszych modeli, streszczone hasłem „Ludzie są ważniejsi niż AI”.2 Anthropic i Accenture zapowiedziały współpracę nad niezależną oceną modeli; każda z firm zadeklarowała na ten cel co najmniej miliard dolarów w ciągu pięciu lat.1 Są to odrębne inicjatywy — dostępne źródła nie dowodzą, że wywołały deklarację państw.

Do apelu nie przystąpiły Stany Zjednoczone ani Chiny.6 Bez potwierdzonych informacji o motywach obu rządów nie należy przypisywać im konkretnych powodów odmowy. Najpewniejszy wniosek z deklaracji jest węższy: jej zwolennicy chcą, by bezpieczeństwo najbardziej zaawansowanej AI było przedmiotem wspólnego międzynarodowego nadzoru, a nie wyłącznie decyzji poszczególnych firm lub państw.345