Manifest Zuckerberga o „superinteligencji osobistej”: AI dla każdego, ale czy można ufać posłańcowi?

• AI korepetytorzy demokratyzujący edukację – spersonalizowane, zawsze dostępne korepetycje dla każdego ucznia, niwelujące różnice w dostępie do wysokiej jakości nauczania .
• AI prawnicy wyrównujący szanse w dostępie do sprawiedliwości – bezpłatna lub tania pomoc prawna AI, która pozwoli każdemu, niezależnie od dochodów, uzyskać poradę porównywalną z pomocą drogiego prawnika .
• Freemium lub tani dostęp do mocy obliczeniowej – modele cenowe, które uczynią superinteligentną AI powszechnie dostępną, z darmową podstawową wersją dla każdego . Brandom szczególnie wskazał na „freemium dostęp do mocy obliczeniowej” i wizję taniej, obfitej AI jako część tej oferty .

Dlaczego Russell Brandom twierdzi, że esej szkodzi zaufaniu publicznemu

W analizie dla TechCrunch Russell Brandom argumentował, że manifest przyniósł odwrotny skutek i pogłębił nieufność wobec AI. Jego główne zastrzeżenia:

Deficyt wiarygodności posłańca

Brandom zauważył, że 64% Amerykanów uważa media społecznościowe za szkodliwe dla demokracji, a w ten sam weekend sąd nałożył na Meta grzywnę w wysokości 567 milionów dolarów za szkody związane z bezpieczeństwem dzieci . Napisał, że „czy to sprawiedliwe, czy nie, opinia publiczna nie ufa dyrektorom technologicznym, że zapewnią pozytywny wpływ nowych technologii na społeczeństwo” . Prośba o zaufanie prezesowi Facebooka w sprawie jeszcze bardziej intymnej technologii – osobistej AI, która wiedziałaby, co użytkownicy „lubią” i „gdzie utknęli” – ignoruje złe doświadczenia z epoki mediów społecznościowych .

Odmowa uznania realnych szkód AI

Esej Zuckerberga nie zawierał żadnego odniesienia do udokumentowanych negatywnych konsekwencji, takich jak używanie chatbotów przez uczniów do ściągania na lekcjach . Brandom twierdził, że ignorowanie tych istniejących szkód przy jednoczesnym obiecywaniu utopijnej przyszłości jest raczej unikiem niż wizjonerstwem.

Mgliste filozoficzne uogólnienia dotyczące sprzecznych interesów

Brandom wytknął esejowi „mgliste ogólniki na temat inteligencji” i założenie, że w miarę jak wszyscy zyskają potężniejsze narzędzia, sprzeczne interesy naturalnie zrównoważą się, prowadząc do pozytywnych rezultatów . Wprost porównał to do „mglistych ogólników, których Zuckerberg i Dorsey używali w kwestii wolności słowa” – tej samej leseferystycznej retoryki, która poprzedzała najgorsze skutki mediów społecznościowych .

Widmo mocno wycenionej mocy obliczeniowej AI

Brandom zwrócił uwagę, że wizja cenowa Zuckerberga – freemium dostęp do AI – koliduje z rzeczywistością, w której moc obliczeniowa jest ograniczonym zasobem, który może być alokowany poprzez „dynamiczne aukcje” . Skontrastował to niekorzystnie z podejściem dyrektora generalnego OpenAI Sama Altmana i dyrektora generalnego Anthropic Dario Amodei, którzy przynajmniej przyznają się do zagrożeń i próbują budować zaufanie, podczas gdy odmowa Zuckerberga zmierzenia się z potencjałem dynamicznych cen lub innych niezamierzonych konsekwencji podważa wiarygodność .

Sedno problemu: problem z posłańcem

Ostateczna krytyka Brandoma sprowadzała się do tego, że esej nie zawiódł, ponieważ ludzie nie potrafią sobie wyobrazić użytecznej AI – zawiódł, „ponieważ posłaniec niesie pamięć ostatniej wielkiej obietnicy mediów społecznościowych” . Za każdym razem, gdy Meta prosi o intymność, jakiej wymaga osobista AI, przypomina opinii publicznej, dlaczego obawia się wpuszczania firm platformowych głębiej w swoje życie .