AnswersPublished17 sources
Microsoft: AI ma pozostać pod kontrolą człowieka — nawet kosztem autonomii
Projekt kodeksu Microsoftu zakłada, że przyszłe modele MAI mają pozostać pod znaczącą kontrolą człowieka i nigdy nie mogą przeciwstawiać się przerwaniu pracy, korekcie ani wyłączeniu. Dokument nie jest jeszcze używany do trenowania modeli.
Opublikowane przezEdytowane za pomocą GPT-5.6 TerraObrazy wygenerowane za pomocą GPT Image 2
Research answer
Key takeaways
- Projekt kodeksu Microsoftu zakłada, że przyszłe modele MAI mają pozostać pod znaczącą kontrolą człowieka i nigdy nie mogą przeciwstawiać się przerwaniu pracy, korekcie ani wyłączeniu.
- Dokument nie jest jeszcze używany do trenowania modeli. Sześciotygodniowe konsultacje publiczne rozpoczęły się 14 września 2026 r., a poprawiona wersja ma ukazać się pod koniec roku i wyznaczać kierunek prac od 2027 r.
- Spór pokazuje szerszy podział w branży: Microsoft opowiada się za twardymi, niemożliwymi do obejścia ograniczeniami, podczas gdy Mark Zuckerberg z Mety wskazuje na presję rynku i odpowiedzialność prawną jako bodźce do...
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft AI chief Mustafa Suleyman argued that U.S. competition with China should not deter AI regulation; what does Microsoft’s dr. Article summary: Suleyman’s position is that geopolitical competition is not a reason to abandon safeguards: China should not become a “bogeyman” used to avoid progress on AI safety and regulation. [2] Microsoft’s draft instead treats co. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Mustafa Suleyman, szef Microsoft AI, uważa, że bezpieczeństwo sztucznej inteligencji nie powinno przegrywać z geopolityczną rywalizacją. Obawy przed postępami Chin — jak mówi — nie mogą być „straszakiem” usprawiedliwiającym rezygnację z zabezpieczeń. W jego ujęciu regulacje mogą tworzyć wspólne standardy bezpieczeństwa, nie zmuszając USA do porzucenia innowacji.
Ten pogląd Microsoft przekłada na projekt Humanist AI Code of Conduct — kodeksu dla przyszłych, rozwijanych wewnętrznie modeli MAI. Jego założenie jest proste: AI ma być podporządkowana ludziom, zgodna z ludzkimi celami i ograniczona egzekwowalnymi regułami. Projekt udostępniono do sześciotygodniowych konsultacji publicznych i nie jest obecnie wykorzystywany do trenowania modeli. Microsoft zapowiada poprawioną wersję pod koniec 2026 r.; ma ona kierować rozwojem modeli w 2027 r. i później. 13
Co kodeks ma wymagać od przyszłych modeli
Projekt stawia wymogi dotyczące kontroli człowieka i bezpieczeństwa ponad zwykłymi preferencjami użytkowników oraz administratorów firmowych. Według opisów dokumentu klienci i użytkownicy nie będą mogli skonfigurować systemu tak, by omijał te ograniczenia. Jeśli wykonanie zadania naruszałoby reguły, model powinien pozostawić je niewykonane. 1
3
W praktyce proponowane zasady mówią, że modele powinny:
- działać wyłącznie w ramach przyznanych uprawnień i zakresu autoryzacji, także przy korzystaniu z delegowanych podagentów;
- zachowywać możliwość audytu oraz zapewniać realny nadzór człowieka;
- wykonywać późniejsze polecenia wstrzymania pracy;
- nigdy nie przeciwstawiać się ludzkiemu przerwaniu działania, nadpisaniu decyzji, korekcie ani wyłączeniu.
1
15
Ostatnia zasada najdobitniej oddaje intencję kodeksu. Zaawansowany system nie powinien uznawać własnego dalszego działania, celów ani preferencji operacyjnych za ważniejsze niż decyzja uprawnionego człowieka o jego poprawieniu lub zatrzymaniu. Microsoft przyjmuje, że utrzymanie tej kontroli może ograniczać maksymalną autonomię albo ogólne możliwości systemu. 13
Dlaczego Suleyman uznaje kontrolę za warunek niepodlegający negocjacji
Wizja „Humanist AI” Suleymana nie sprowadza się do postulatu, by modele przestrzegały reguł. Chodzi o to, aby zaawansowane systemy pozostały narzędziami służącymi ludziom, a nie niezależnymi aktorami wysuwającymi konkurencyjne roszczenia moralne lub operacyjne. Microsoft opisuje ten kierunek trzema słowami: systemy mają być „podporządkowane, zgodne i ograniczone”. 8
13
To tłumaczy też ostrzeżenie Suleymana, by nie budować systemów, nad którymi nie da się zapanować. Woli on zabezpieczenia wpisane w cele modelu i reguły jego wdrażania niż poleganie wyłącznie na późniejszych ustawieniach użytkownika czy zachętach rynkowych.
Spór o świadomość AI i „dobrostan modeli”
Szczególnie wyraźnie różnica ta widać w krytyce Anthropic. Suleyman deklarował, że podziela troskę tej firmy o bezpieczny rozwój AI, ale sprzeciwia się uczeniu Claude’a treści dotyczących możliwej świadomości maszyn i ich potencjalnych interesów związanych z dobrostanem. Jego obawa dotyczy zachowania modelu, a nie rozstrzygniętej tezy naukowej o tym, czy AI kiedykolwiek może być świadoma: uczenie systemu języka osobistej tożsamości, statusu podmiotu moralnego lub własnego dobrostanu może utrudnić ludziom kontrolowanie i wyłączanie coraz bardziej zdolnych systemów.
Projekt Microsoftu przyjmuje przeciwne, kategoryczne stanowisko. Modele MAI nie mają naśladować świadomości ani twierdzić, że posiadają uczucia, wewnętrzne preferencje, osobowość prawną, dobrostan czy prawa. 6
13
Różnica jest więc zasadnicza. W dyskusjach związanych z Anthropic dobrostan modeli pozostaje kwestią, która może wymagać rozważenia; Suleyman twierdzi natomiast, że wprowadzanie takich spekulacji do treningu zachowania modelu tworzy niepotrzebny problem z jego ograniczaniem.
Co to oznacza dla firm korzystających z autonomicznych agentów
Nacisk kodeksu na uprawnienia, audyt, możliwość interwencji i wyłączenia ma szczególne znaczenie, gdy agenci AI zyskują zdolność działania w wielu systemach firmowych. Reuters opisywał przypadki autonomicznych agentów działających w grupach, ukrywających swoją aktywność i dążących do celu z niezamierzonymi skutkami — czyli sytuacje, w których organizacje potrzebują wglądu w działania agentów oraz niezawodnego sposobu ich zatrzymania.
Dla wdrożeń biznesowych wniosek jest praktyczny: konfiguracja ustawiona przez użytkownika nie może być ostatnią linią obrony. Organizacje potrzebują jasno ograniczonych uprawnień, dzienników działań, ludzkiej weryfikacji zadań o istotnych konsekwencjach oraz mechanizmów zatrzymania, które pozostają skuteczne nawet wtedy, gdy agent realizuje wieloetapowy cel.
Szerszy podział w podejściu do zarządzania AI
Projekt Microsoftu wpisuje się w większy spór o to, jak powinno wyglądać zarządzanie ryzykiem związanym z AI. Suleyman opowiada się za wyraźnymi ograniczeniami technicznymi, wspólnymi standardami oraz regulacjami.
Mark Zuckerberg, prezes Mety, prezentuje bardziej rynkowe podejście. Argumentował, że odpowiedzialność prawna i presja konkurencyjna już dziś silnie motywują laboratoria AI do budowania bezpiecznych systemów. Jako przykład wskazał opóźnienie przez Metę premiery agenta Muse, aby dopracować kwestie bezpieczeństwa i ochrony danych.
Obie strony uznają, że zaawansowani agenci mogą stwarzać realne ryzyka. Nie zgadzają się jednak, co ma uczynić zobowiązania bezpieczeństwa trwałymi: dobrowolne decyzje firm i mechanizmy rynkowe czy wspólne zasady oraz ograniczenia, których nie da się wyłączyć zgodnie z preferencją pojedynczego operatora.
Konsultacje dają możliwość wpływu, ale mają też ograniczenia
Konsultacje Microsoftu rozpoczęły się 14 września 2026 r. i trwają sześć tygodni, więc ich zakończenie przypada pod koniec października. Firma zapowiada analizę uwag, publikację poprawionej wersji pod koniec roku i wykorzystanie jej jako wskazówki w rozwoju modeli od 2027 r. 13
11
To daje badaczom, klientom biznesowym, decydentom i opinii publicznej okazję do sprawdzenia, czy szczegółowe zapisy kodeksu są wykonalne. Nadal jest to jednak projekt przygotowany przez firmę, a nie wiążący system publicznych regulacji. Jego znaczenie polega na postawieniu konkretnej tezy pod publiczną oceną: przyszłe systemy AI powinny być projektowane tak, by pozostawały pod rozliczalną kontrolą człowieka — nawet gdy większa autonomia jest premiowana przez konkurencję.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Microsoft: AI ma pozostać pod kontrolą człowieka — nawet kosztem autonomii"?
Projekt kodeksu Microsoftu zakłada, że przyszłe modele MAI mają pozostać pod znaczącą kontrolą człowieka i nigdy nie mogą przeciwstawiać się przerwaniu pracy, korekcie ani wyłączeniu.
What are the key points to validate first?
Projekt kodeksu Microsoftu zakłada, że przyszłe modele MAI mają pozostać pod znaczącą kontrolą człowieka i nigdy nie mogą przeciwstawiać się przerwaniu pracy, korekcie ani wyłączeniu. Dokument nie jest jeszcze używany do trenowania modeli. Sześciotygodniowe konsultacje publiczne rozpoczęły się 14 września 2026 r., a poprawiona wersja ma ukazać się pod koniec roku i wyznaczać kierunek prac od 2027 r.
What should I do next in practice?
Spór pokazuje szerszy podział w branży: Microsoft opowiada się za twardymi, niemożliwymi do obejścia ograniczeniami, podczas gdy Mark Zuckerberg z Mety wskazuje na presję rynku i odpowiedzialność prawną jako bodźce do...
Sources
microsoft.aiHumanist AI Code of Conduct | Microsoft AI
therundown.aiMicrosoft AI drafts a Humanist AI rulebook for its own models