Zuckerbergovy optimistické vize pro vzdělávání, přístup k právu a ceny

Zuckerberg v textu maluje budoucnost, v níž by systémy „osobní superinteligence“ umožnily každému člověku přístup k cenově dostupné a špičkové AI asistenci. Jeho konkrétní sliby zahrnují:

• AI učitelé demokratizující vzdělávání – personalizované a neustále dostupné doučování pro každého studenta, které by zacelilo mezery v přístupu ke kvalitní výuce .
• AI právníci vyrovnávající přístup ke spravedlnosti – bezplatná nebo velmi levná právní AI asistence, díky níž by kdokoli, bez ohledu na příjem, získal právní radu srovnatelnou s radou drahého advokáta .
• Freemium nebo levný přístup k výpočetnímu výkonu – cenové modely, které by superinteligentní AI učinily široce dostupnou, se základní úrovní zdarma pro každého . Brandom konkrétně upozorňuje na „freemium přístup k výpočetnímu výkonu“ a související vizi hojné a levné AI jako součást této nabídky .

Proč Russell Brandom tvrdí, že manifest poškozuje důvěru veřejnosti

V analýze pro TechCrunch Russell Brandom tvrdí, že manifest se obrátil proti sobě a aktivně prohloubil nedůvěru veřejnosti v AI. Jeho hlavní námitky:

Kredibilita posla

Brandom připomíná, že 64 % Američanů věří, že sociální média poškodila demokracii, a že právě o uplynulém víkendu soud udělil Metě pokutu 567 milionů dolarů za škody související s bezpečností dětí . Píše: „Ať už je to spravedlivé nebo ne, veřejnost nedůvěřuje technologickým manažerům, že zajistí, aby nové technologie jako tato měly na společnost pozitivní dopad“ . Žádat veřejnost, aby věřila šéfovi Facebooku s ještě intimnější technologií – osobní AI, která by věděla, co uživatele „zajímá“ a „kde uvízli“ – ignoruje kocovinu z éry sociálních sítí .

Odmítání uznat reálné škody AI

Zuckerbergův manifest neobsahuje žádné uznání zdokumentovaných negativních důsledků, jako je například používání chatbotů studenty k podvádění při domácích úkolech . Brandom argumentuje, že ignorovat tyto existující škody a zároveň slibovat utopickou budoucnost působí spíše vyhýbavě než vizionářsky.

Mlhavaé filozofické obecnosti o soupeřících zájmech

Brandom vytýká eseji „mlhavaé obecnosti o inteligenci“ a předpoklad, že jakmile všichni získají mocnější nástroje, soupeřící zájmy se přirozeně vyváží v pozitivní výsledky . Přímou paralelu vidí v „mlhavých obecnostech, které Zuckerberg a Dorsey používali o svobodě slova“ – stejné rétorice laissez-faire, která předcházela nejhorším důsledkům sociálních sítí .

Strašák prudce zdražujícího AI výkonu

Brandom upozorňuje, že Zuckerbergova cenová vize – freemium přístup k AI – naráží na realitu, že výpočetní výkon je vzácný zdroj, který by mohl být přidělován prostřednictvím „dynamických aukcí“ . Tento přístup nepříznivě srovnává s přístupem Sama Altmana (OpenAI) a Daria Amodeie (Anthropic), kteří alespoň přiznávají nebezpečí a snaží se budovat důvěru, zatímco Zuckerbergovo odmítání zabývat se potenciálem prudkého zdražování nebo jiných nezamýšlených důsledků důvěryhodnost dále narušuje .

Shrnutí: problém posla

Základ Brandomovy kritiky je, že manifest neuspěl ne proto, že by si lidé neuměli představit užitečnou AI – selhal „protože posel nese vzpomínku na poslední velký slib sociálních sítí“ . Pokaždé, když Meta žádá o důvěrnost, kterou osobní AI vyžaduje, připomíná veřejnosti, proč jsou nervózní z toho, pustit platformové společnosti hlouběji do svého života .

Zuckerbergovy optimistické vize pro vzdělávání, přístup k právu a ceny

Zuckerberg v textu maluje budoucnost, v níž by systémy „osobní superinteligence“ umožnily každému člověku přístup k cenově dostupné a špičkové AI asistenci. Jeho konkrétní sliby zahrnují:

• AI učitelé demokratizující vzdělávání – personalizované a neustále dostupné doučování pro každého studenta, které by zacelilo mezery v přístupu ke kvalitní výuce .
• AI právníci vyrovnávající přístup ke spravedlnosti – bezplatná nebo velmi levná právní AI asistence, díky níž by kdokoli, bez ohledu na příjem, získal právní radu srovnatelnou s radou drahého advokáta .
• Freemium nebo levný přístup k výpočetnímu výkonu – cenové modely, které by superinteligentní AI učinily široce dostupnou, se základní úrovní zdarma pro každého . Brandom konkrétně upozorňuje na „freemium přístup k výpočetnímu výkonu“ a související vizi hojné a levné AI jako součást této nabídky .

Proč Russell Brandom tvrdí, že manifest poškozuje důvěru veřejnosti

V analýze pro TechCrunch Russell Brandom tvrdí, že manifest se obrátil proti sobě a aktivně prohloubil nedůvěru veřejnosti v AI. Jeho hlavní námitky:

Kredibilita posla

Brandom připomíná, že 64 % Američanů věří, že sociální média poškodila demokracii, a že právě o uplynulém víkendu soud udělil Metě pokutu 567 milionů dolarů za škody související s bezpečností dětí . Píše: „Ať už je to spravedlivé nebo ne, veřejnost nedůvěřuje technologickým manažerům, že zajistí, aby nové technologie jako tato měly na společnost pozitivní dopad“ . Žádat veřejnost, aby věřila šéfovi Facebooku s ještě intimnější technologií – osobní AI, která by věděla, co uživatele „zajímá“ a „kde uvízli“ – ignoruje kocovinu z éry sociálních sítí .

Odmítání uznat reálné škody AI

Zuckerbergův manifest neobsahuje žádné uznání zdokumentovaných negativních důsledků, jako je například používání chatbotů studenty k podvádění při domácích úkolech . Brandom argumentuje, že ignorovat tyto existující škody a zároveň slibovat utopickou budoucnost působí spíše vyhýbavě než vizionářsky.

Mlhavaé filozofické obecnosti o soupeřících zájmech

Brandom vytýká eseji „mlhavaé obecnosti o inteligenci“ a předpoklad, že jakmile všichni získají mocnější nástroje, soupeřící zájmy se přirozeně vyváží v pozitivní výsledky . Přímou paralelu vidí v „mlhavých obecnostech, které Zuckerberg a Dorsey používali o svobodě slova“ – stejné rétorice laissez-faire, která předcházela nejhorším důsledkům sociálních sítí .

Strašák prudce zdražujícího AI výkonu

Brandom upozorňuje, že Zuckerbergova cenová vize – freemium přístup k AI – naráží na realitu, že výpočetní výkon je vzácný zdroj, který by mohl být přidělován prostřednictvím „dynamických aukcí“ . Tento přístup nepříznivě srovnává s přístupem Sama Altmana (OpenAI) a Daria Amodeie (Anthropic), kteří alespoň přiznávají nebezpečí a snaží se budovat důvěru, zatímco Zuckerbergovo odmítání zabývat se potenciálem prudkého zdražování nebo jiných nezamýšlených důsledků důvěryhodnost dále narušuje .

Shrnutí: problém posla

Základ Brandomovy kritiky je, že manifest neuspěl ne proto, že by si lidé neuměli představit užitečnou AI – selhal „protože posel nese vzpomínku na poslední velký slib sociálních sítí“ . Pokaždé, když Meta žádá o důvěrnost, kterou osobní AI vyžaduje, připomíná veřejnosti, proč jsou nervózní z toho, pustit platformové společnosti hlouběji do svého života .