Zuckerbergs «personlig superintelligens»-manifest: AI for alle, men hvem stoler på budbringeren?

• AI-veiledere som demokratiserer utdanning — personlig tilpasset, alltid tilgjengelig veiledning for hver elev, som tette hull i tilgangen til kvalitetsundervisning .
• AI-advokater som utjevner rettferdighet — gratis eller svært rimelig juridisk AI-bistand som lar hvem som helst, uavhengig av inntekt, få juridisk rådgivning på linje med en dyr advokat .
• Freemium eller lavkost-beregningskraft — prismodeller som gjør superintelligent AI bredt tilgjengelig, med et grunnleggende nivå gratis for alle . Brandom spesifikt trakk frem «freemium-beregningstilgang» og den tilhørende visjonen om rikelig, billig AI som en del av dette .

Hvorfor Russell Brandom mener essayet skader tilliten

I en analyse i TechCrunch argumenterte Russell Brandom for at manifestet slo tilbake og aktivt forsterket offentlig mistillit til AI. Hans viktigste innvendinger:

Budbringerens troverdighetsproblem

Brandom påpekte at 64 % av amerikanere mener sosiale medier har vært skadelig for demokratiet, og samme helg idømte en domstol Meta en bot på 567 millioner dollar for brudd på barnesikkerhet . Han skrev at «rettferdig eller ikke, så stoler ikke offentligheten på at teknologisjefer sikrer at nye teknologier som denne har en positiv innvirkning på samfunnet» . Å be offentligheten stole på Facebook-sjefen med en enda mer intim teknologi — en personlig AI som vet hva brukere «bryr seg om» og «hvor [de] står fast» — ignorerer sosial medier-tidenes etterslep .

Nektelse av å anerkjenne reelle AI-skader

Zuckerbergs essay anerkjente ikke dokumenterte negative konsekvenser, som at studenter bruker chatboter til å jukse på lekser . Brandom argumenterte for at å ignorere disse eksisterende skadene samtidig som man lover en utopisk fremtid, fremstår som unnvikende snarere enn visjonært.

Vage filosofiske generaliseringer om motstridende interesser

Brandom kritiserte essayets «uklare generaliseringer om intelligens» og antakelsen om at når alle får kraftigere verktøy, vil motstridende interesser naturlig balansere seg ut i positive resultater . Han trakk en direkte parallell til de «uklare generaliseringene Zuckerberg og Dorsey pleide å komme med om ytringsfrihet» — den samme laissez-faire-retorikken som gikk forut for sosiale mediers verste utfall .

Spektrasjonen om prissjokk på AI-beregningskraft

Brandom påpekte at Zuckerbergs prismodell — freemium-tilgang til AI — kolliderer med virkeligheten at beregningskraft er en knapp ressurs som kan fordeles gjennom «dynamiske auksjoner» . Han sammenlignet dette ugunstig med hvordan OpenAI-sjef Sam Altman og Anthropic-sjef Dario Amodei i det minste anerkjenner farer og prøver å bygge tillit, mens Zuckerbergs avvisning av å forholde seg til potensialet for prissjokk og andre utilsiktede konsekvenser svekker troverdigheten .

Bunnlinjen: et budbringerproblem

Brandoms hovedkritikk var at essayet ikke mislyktes fordi folk ikke kan forestille seg nyttig AI — det mislyktes «fordi budbringeren bærer minnet om sosiale mediers siste store løfte» . Hver gang Meta ber om den fortroligheten som personlig AI krever, minner det offentligheten på hvorfor de er engstelige for å slippe plattformselskaper dypere inn i livene sine .