Zuckerbergs optimistiska visioner för utbildning, juridisk tillgång och prissättning

Zuckerberg målade upp en framtid där system för 'personlig superintelligens' skulle ge varje individ tillgång till prisvärd, avancerad AI-assistans. Hans specifika löften inkluderade:

• AI-handledare som demokratiserar utbildning – personlig, alltid tillgänglig handledning för varje elev, vilket sluter luckor i tillgången till kvalitetsundervisning .
• AI-advokater som utjämnar rättvisan – gratis eller billig juridisk AI-hjälp som skulle låta vem som helst, oavsett inkomst, få juridisk rådgivning i paritet med en dyr advokat .
• Freemium- eller lågkostnadstillgång till beräkningskraft – prismodeller som skulle göra superintelligent AI allmänt överkomlig, med en grundläggande nivå gratis för alla . Brandom flaggade specifikt för 'freemium-åtkomst till beräkningskraft' och den relaterade visionen om riklig, billig AI som en del av denna framställning .

Varför Russell Brandom menar att texten skadar allmänhetens förtroende

I en analys på TechCrunch argumenterade Russell Brandom för att manifestet fick motsatt effekt och aktivt fördjupade allmänhetens misstro mot AI. Hans viktigaste invändningar:

Budbärarens trovärdighetsunderskott

Brandom noterade att 64% av amerikanerna anser att sociala medier har skadat demokratin, och att en domstol samma helg bötfällde Meta med 567 miljoner dollar för skador relaterade till barnsäkerhet . Han skrev att 'oavsett om det är rättvist eller inte, litar allmänheten inte på att tech-vd:ar ser till att ny teknik som denna får en positiv inverkan på samhället' . Att be allmänheten lita på Facebooks vd med en ännu mer intim teknik – personlig AI som skulle veta vad användare 'bryr sig om' och 'var [de] har fastnat' – ignorerar den baksmälla som sociala medier har skapat .

Vägran att erkänna verkliga AI-skador

Zuckerbergs essä erbjöd inget erkännande av dokumenterade negativa konsekvenser, som att studenter använder chattbotar för att fuska med läxor . Brandom menade att ignorera dessa befintliga skador samtidigt som man lovar en utopisk framtid framstår som undvikande snarare än visionärt.

Vaga filosofiska generaliseringar om motstridiga intressen

Brandom kritiserade textens 'dunkla generaliseringar om intelligens' och dess antagande att när alla får kraftfullare verktyg kommer motstridiga intressen naturligt att balanseras till positiva resultat . Han drog en direkt parallell till 'de dunkla generaliseringar Zuckerberg och Dorsey brukade göra om yttrandefrihet' – samma typ av laissez-faire-retorik som föregick sociala mediers värsta utfall .

Spöket av prischockad AI-kapacitet

Brandom påpekade att Zuckerbergs prismodell – freemium-åtkomst till AI – kolliderar med verkligheten att beräkningskraft är en begränsad resurs som skulle kunna allokeras via 'dynamiska auktioner' . Han kontrasterade detta ogynnsamt med hur OpenAI:s vd Sam Altman och Anthropics vd Dario Amodei åtminstone erkänner faror och försöker bygga förtroende, medan Zuckerbergs vägran att ta itu med potentialen för prischocker eller andra oavsiktliga konsekvenser urholkar trovärdigheten .

Slutsats: ett budbärarproblem

Brandoms slutliga kritik var att texten inte misslyckades för att människor inte kan föreställa sig användbar AI – den misslyckades 'för att budbäraren bär med sig minnet av sociala mediers senaste stora löfte' . Varje gång Meta ber om den intimitet som personlig AI kräver påminner det allmänheten om varför de är oroliga för att låta plattformsföretag komma djupare in i deras liv .

Zuckerbergs optimistiska visioner för utbildning, juridisk tillgång och prissättning

Zuckerberg målade upp en framtid där system för 'personlig superintelligens' skulle ge varje individ tillgång till prisvärd, avancerad AI-assistans. Hans specifika löften inkluderade:

• AI-handledare som demokratiserar utbildning – personlig, alltid tillgänglig handledning för varje elev, vilket sluter luckor i tillgången till kvalitetsundervisning .
• AI-advokater som utjämnar rättvisan – gratis eller billig juridisk AI-hjälp som skulle låta vem som helst, oavsett inkomst, få juridisk rådgivning i paritet med en dyr advokat .
• Freemium- eller lågkostnadstillgång till beräkningskraft – prismodeller som skulle göra superintelligent AI allmänt överkomlig, med en grundläggande nivå gratis för alla . Brandom flaggade specifikt för 'freemium-åtkomst till beräkningskraft' och den relaterade visionen om riklig, billig AI som en del av denna framställning .

Varför Russell Brandom menar att texten skadar allmänhetens förtroende

I en analys på TechCrunch argumenterade Russell Brandom för att manifestet fick motsatt effekt och aktivt fördjupade allmänhetens misstro mot AI. Hans viktigaste invändningar:

Budbärarens trovärdighetsunderskott

Brandom noterade att 64% av amerikanerna anser att sociala medier har skadat demokratin, och att en domstol samma helg bötfällde Meta med 567 miljoner dollar för skador relaterade till barnsäkerhet . Han skrev att 'oavsett om det är rättvist eller inte, litar allmänheten inte på att tech-vd:ar ser till att ny teknik som denna får en positiv inverkan på samhället' . Att be allmänheten lita på Facebooks vd med en ännu mer intim teknik – personlig AI som skulle veta vad användare 'bryr sig om' och 'var [de] har fastnat' – ignorerar den baksmälla som sociala medier har skapat .

Vägran att erkänna verkliga AI-skador

Zuckerbergs essä erbjöd inget erkännande av dokumenterade negativa konsekvenser, som att studenter använder chattbotar för att fuska med läxor . Brandom menade att ignorera dessa befintliga skador samtidigt som man lovar en utopisk framtid framstår som undvikande snarare än visionärt.

Vaga filosofiska generaliseringar om motstridiga intressen

Brandom kritiserade textens 'dunkla generaliseringar om intelligens' och dess antagande att när alla får kraftfullare verktyg kommer motstridiga intressen naturligt att balanseras till positiva resultat . Han drog en direkt parallell till 'de dunkla generaliseringar Zuckerberg och Dorsey brukade göra om yttrandefrihet' – samma typ av laissez-faire-retorik som föregick sociala mediers värsta utfall .

Spöket av prischockad AI-kapacitet

Brandom påpekade att Zuckerbergs prismodell – freemium-åtkomst till AI – kolliderar med verkligheten att beräkningskraft är en begränsad resurs som skulle kunna allokeras via 'dynamiska auktioner' . Han kontrasterade detta ogynnsamt med hur OpenAI:s vd Sam Altman och Anthropics vd Dario Amodei åtminstone erkänner faror och försöker bygga förtroende, medan Zuckerbergs vägran att ta itu med potentialen för prischocker eller andra oavsiktliga konsekvenser urholkar trovärdigheten .

Slutsats: ett budbärarproblem

Brandoms slutliga kritik var att texten inte misslyckades för att människor inte kan föreställa sig användbar AI – den misslyckades 'för att budbäraren bär med sig minnet av sociala mediers senaste stora löfte' . Varje gång Meta ber om den intimitet som personlig AI kräver påminner det allmänheten om varför de är oroliga för att låta plattformsföretag komma djupare in i deras liv .