Dlaczego Zuckerberg sprzeciwia się wspólnemu spowolnieniu rozwoju AI

Mark Zuckerberg nie twierdzi, że rozwój sztucznej inteligencji nigdy nie powinien zwolnić. Sprzeciwia się wspólnemu hamowaniu całej branży. W rozmowie z Joanną Stern z NBC News szef Meta powiedział, że czołowe firmy mogą wstrzymać prace nad własnymi produktami, jeśli uznają je za niebezpieczne. Nie widzi jednak potrzeby, by robiły to na mocy porozumienia obejmującego wszystkich konkurentów. 10

Dlaczego stawia na decyzje każdej firmy z osobna?

Według Zuckerberga każde laboratorium odpowiada za takie tempo prac, które pozwala bezpiecznie trenować modele. Ma też powody biznesowe, by nie lekceważyć ryzyka: użytkownicy nie będą chcieli korzystać z agentów AI, które działają wbrew ich intencjom, a szkody wyrządzone przez systemy mogą oznaczać odpowiedzialność prawną. W jego ocenie zaufanie i zgodność działania agenta z oczekiwaniami użytkownika stają się atutami w konkurencji. 172934

To argument za samodzielnymi decyzjami dotyczącymi bezpieczeństwa, a nie za wypuszczaniem każdego produktu bez względu na zastrzeżenia. Ma jednak słaby punkt: zakłada, że firmy rozpoznają zagrożenia i zareagują, zanim dojdzie do szkody. Same bodźce rynkowe nie dają takiej gwarancji.

Muse: przykład, na który powołuje się Meta

Zuckerberg wskazał, że Meta opóźniła udostępnienie swojego agenta AI Muse o kilka miesięcy, pracując nad bezpieczeństwem i zabezpieczeniami. Jego zdaniem pokazuje to, że firma może wstrzymać własny produkt bez czekania, aż konkurenci zrobią to samo. 1727

Meta opisała również osobnego agenta Sentinel, który nadzoruje działania Muse i dane wysyłane do sieci; system ma zwracać się o zgodę użytkownika, gdy jest ona potrzebna. To przykład zabezpieczeń deklarowanych przez firmę, nie dowód, że usuwają one wszelkie ryzyko. 30

O co spierają się liderzy branży?

Dario Amodei, szef Anthropic, wezwał do wolniejszego rozwijania najbardziej zaawansowanych systemów AI. Poparli go Sam Altman z OpenAI i Elon Musk. 23 września Amodei i Altman wystąpili przed Radą Bezpieczeństwa ONZ, apelując o międzynarodową współpracę w ograniczaniu ryzyka związanego z AI. 146

Sedno sporu brzmi więc: kto ma wyznaczać tempo rozwoju? Zuckerberg ufa decyzjom poszczególnych laboratoriów, wspieranym przez presję klientów i ryzyko odpowiedzialności prawnej. Amodei i Altman opowiadają się za współpracą firm i państw, zamiast polegać wyłącznie na niezależnych decyzjach konkurentów. 10174

Debatę zaostrzyły ostrzeżenia badaczy. Jacob Coxon, były pracownik Anthropic, po odejściu z firmy alarmował o potencjalnie katastrofalnym ryzyku związanym z AI. Jednocześnie proponował, by Kongres USA pozwolił czołowym laboratoriom na samoregulację, pracując równolegle nad długofalowymi zasadami spowalniania rozwoju technologii. Obawa przed ryzykiem nie musi więc oznaczać poparcia dla natychmiastowej, jednakowej pauzy we wszystkich firmach. 4237