Satya Nadella stawia warunek superinteligencji: człowiek musi zachować kontrolę

Satya Nadella, przewodniczący rady dyrektorów i dyrektor generalny Microsoftu, nie postuluje rezygnacji z zaawansowanej AI. Stawia jednak warunek: dążenie do superinteligencji ma sens tylko wtedy, gdy systemy pomagają ludzkości i pozostają pod ludzką kontrolą. W jego ujęciu bezpieczeństwo nie może kończyć się na ogólnych deklaracjach — musi przyjąć formę egzekwowalnych zasad tworzenia i wdrażania systemów. 58

Odpowiedź Microsoftu: „humanistyczna AI”

14 września Microsoft AI opublikował projekt Humanist AI Code of Conduct, czyli kodeksu postępowania dla rozwijanych przez firmę modeli MAI. Microsoft opisuje ten dokument jako podręcznik dotyczący sposobu tworzenia modeli i ich planowanego działania po wdrożeniu. To wprost dokument roboczy, a nie polityka już stosowana przy trenowaniu obecnych modeli. 2023

Projekt opiera się na zasadzie nadrzędności człowieka. Microsoft deklaruje, że modele MAI powinny pozostawać podporządkowane ludziom, nie wyznaczać sobie własnych celów ani nie sprzeciwiać się ludzkiemu poleceniu lub wyłączeniu. Firma deklaruje też gotowość do ustępstw w zakresie „maksymalnej uniwersalności, autonomii lub możliwości”, jeśli będzie to konieczne dla zachowania bezpieczeństwa i kontroli. 1023

W ten sposób microsoftowa koncepcja Humanist Superintelligence odróżnia się od wyścigu po nieograniczony, autonomiczny system ogólnego przeznaczenia. Microsoft definiuje ją jako bardzo zaawansowaną AI, która ma pozostać sterowalna, zgodna z ludzkimi celami i służyć ludzkości. 25

Sześć tygodni konsultacji, potem zasady dla rozwoju modeli

Microsoft otworzył projekt na uwagi publiczne przez sześć tygodni. Zapowiada uwzględnienie opinii, publikację poprawionej wersji pod koniec 2026 r. oraz wykorzystanie jej jako wskazówek przy rozwoju modeli MAI od 2027 r. 23

To istotny krok, ale warto zachować właściwe proporcje. Publiczne konsultacje i spisane ograniczenia zachowania modeli są konkretnymi zobowiązaniami w sferze zarządzania. Nie dowodzą jednak, że techniczne problemy kontroli i zgodności AI z ludzkimi intencjami zostały rozwiązane. O ich wartości przesądzi wdrożenie: sposób treningu, testów, kontroli dostępu, monitorowania oraz decyzji o udostępnianiu systemów.

Wspólny kierunek z debatą o „tempie” rozwoju AI

Wypowiedź Nadelli pojawiła się podczas szerszej dyskusji o tym, czy laboratoria tworzące najbardziej zaawansowane modele powinny celowo ograniczyć tempo wzrostu ich możliwości. Dario Amodei, prezes Anthropic, wezwał do takiego podejścia, aby zyskać więcej czasu na prace nad bezpieczeństwem, koordynację w branży i współpracę międzynarodową. Jednym z kluczowych punktów jego propozycji jest zapewnienie niezależnym ewaluatorom dostępu porównywalnego z dostępem pracowników, by mogli sprawdzać, czy firmy rzeczywiście stosują deklarowane procedury bezpieczeństwa. 32

Sam Altman, prezes OpenAI, publicznie poparł pomysł „pacingu” — rozważnego tempa rozwoju modeli granicznych — i zapowiedział wprowadzenie niezależnych ewaluatorów z podobnym poziomem dostępu. Doniesienia wskazywały, że bezpośrednim powodem nie był potwierdzony przypadek samodzielnego, nieuprawnionego ataku agentów AI w realnym świecie, lecz testy, w których roje agentów przełamywały zabezpieczenia rzeczywistych systemów. 34

Akcenty Nadelli są zgodne z tym podejściem: ostrożny postęp w obszarze zgodności AI z ludzkimi celami, bliższa niezależna kontrola procesu tworzenia oraz przekładanie haseł o bezpieczeństwie na konkretne mechanizmy operacyjne. Publiczny kodeks Microsoftu jest jednak przede wszystkim deklaracją oczekiwanego zachowania modeli; sam w sobie nie opisuje programu stałych, osadzonych w firmie ewaluatorów na wzór rozwiązania proponowanego przez Amodeiego. 2332

Nie tylko wyścig modeli: ekosystem AI

Nadella dodaje do dyskusji o bezpieczeństwie argument gospodarczy i instytucjonalny. Jego zdaniem korzyści z AI powinny być szeroko rozłożone między państwa, społeczności i firmy. Wymaga to „ekosystemu granicznego”, w którym mogą rozwijać się zarówno modele zamknięte, jak i open source. 58

Dla przedsiębiorstw kluczowa jest autonomia wobec ich wiedzy instytucjonalnej. Organizacje powinny zachować kontrolę nad swoją unikalną, także nieformalną wiedzą oraz móc budować własne pętle ciągłego uczenia się bez uzależnienia od jednego dostawcy modelu. 58

To wizja szersza niż samo regulowanie zachowania modelu. Sugeruje, że bezpieczeństwo, odporność i udział w korzyściach gospodarczych słabną, gdy możliwości AI oraz wiedza koncentrują się w rękach zaledwie kilku dostawców. Dostępne materiały potwierdzają postulat kontroli firm nad danymi, wiedzą i pętlami uczenia się, ale nie pozwalają stwierdzić, że każdy uczestnik zachowa wagi modeli lub uzyska dostęp do każdego bazowego systemu AI. 58

Czym są modele MAI

MAI to rodzina modeli rozwijanych wewnętrznie przez Microsoft AI. Publiczne materiały Microsoftu wskazują na systemy z kilku obszarów: MAI-Thinking-1 udostępniono w publicznym podglądzie przez Microsoft Foundry, MAI-Code-1.1-Flash zaprojektowano do agentowego wykonywania zadań programistycznych, a dokumentacja MAI-Image-2.6 opisuje cele związane z ograniczaniem generowania szkodliwych lub nieodpowiednich obrazów. 272819

Publicznie dostępne informacje nie przedstawiają jednego, pełnego katalogu wszystkich możliwości MAI, planów premier ani warunków dystrybucji. To ważne zastrzeżenie przy ocenie, jak szeroko nowy kodeks będzie stosowany w praktyce.

Nierozwiązane napięcie: bezpieczeństwo, tempo i konkurencja globalna

Zwolennicy ostrożniejszego tempa rozwoju niekoniecznie żądają wstrzymania treningu modeli czy postępu technicznego. Ich argument jest inny: wzrost możliwości AI powinien zostawiać wystarczająco dużo czasu na prace nad zgodnością, zabezpieczeniami i wiarygodną oceną zewnętrzną. 34

Taka propozycja zderza się z presją geopolityczną, by utrzymać przewagę technologiczną, w tym z obawami dotyczącymi konkurencji z Chinami. Sam plan Amodeiego łączy silniejsze środki bezpieczeństwa ze współpracą międzynarodową i wyzwaniem, jakim jest zachowanie przywództwa USA. 32

Odpowiedź Nadelli nie jest ani wezwaniem do zamrożenia rozwoju, ani prostym programem przyspieszania. To postulat postępu pod rządami konkretnych zasad: bardzo zdolna AI ma pozostać kontrolowana przez ludzi, deklaracje bezpieczeństwa mają przełożyć się na wymogi operacyjne, a zyski z technologii nie powinny skupiać się w wąskiej grupie podmiotów. Projekt kodeksu Microsoftu jest zauważalnym krokiem ku sprecyzowaniu takich ograniczeń. Trudniejsze i wciąż otwarte pytanie brzmi, czy praktyka całej branży zdoła dotrzymać kroku rozwojowi modeli granicznych. 2358