Zuckerbergs AI-manifest: Superintelligens til alle – men kan vi stole på budbringeren?

• AI-undervisere, der demokratiserer uddannelse – personlig, altid tilgængelig vejledning for hver elev, der lukker huller i adgangen til kvalitetsundervisning .
• AI-advokater, der udligner retfærdighed – gratis eller billig juridisk AI-assistance, der ville give alle, uanset indkomst, adgang til juridisk rådgivning på niveau med en dyr advokat .
• Freemium- eller billig adgang til regnekraft – prismodeller, der ville gøre superintelligent AI bredt tilgængelig, med en basispakke gratis for alle . Brandom fremhæver specifikt 'freemium-regnekraft' og den relaterede vision om rigelig, billig AI som en del af dette pitch .

Hvorfor Russell Brandom mener, at essayet skader den offentlige tillid

I en analyse på TechCrunch argumenterer Russell Brandom for, at manifestet slog fejl og aktivt forstærkede offentlighedens mistillid til AI. Hans væsentligste indvendinger:

Budbringerens troværdighedsproblem

Brandom påpeger, at 64% af amerikanerne mener, at sociale medier har skadet demokratiet, og at en domstol samme weekend idømte Meta en bøde på 567 millioner dollars for krænkelser af børns sikkerhed . Han skriver: 'Uanset om det er rimeligt eller ej, stoler offentligheden ikke på, at tech-direktører sørger for, at ny teknologi som denne får en positiv indvirkning på samfundet' . At bede offentligheden om at stole på Facebooks direktør med en endnu mere intim teknologi – personlig AI, der ville vide, hvad brugerne 'holder af' og 'hvor [de] sidder fast' – ignorerer den sociale medie-tømmermænd .

Afvisning af at anerkende konkrete AI-skader

Zuckerbergs essay anerkender ikke dokumenterede negative konsekvenser, såsom studerende, der bruger chatbots til at snyde med lektier . Brandom argumenterer for, at ignorering af disse eksisterende skader, mens man lover en utopisk fremtid, fremstår undvigende snarere end visionært.

Uklare filosofiske generaliseringer om konkurrerende interesser

Brandom kritiserer essayets 'tågede generelle betragtninger om intelligens' og dets antagelse om, at når alle får mere kraftfulde værktøjer, vil konkurrerende interesser naturligt balancere sig selv i positive resultater . Han drager en direkte parallel til 'de tågede generelle betragtninger, Zuckerberg og Dorsey plejede at give om ytringsfrihed' – den samme form for laissez-faire-retorik, der gik forud for sociale mediers værste udfald .

Spøgelset af AI-regnekraft med dynamisk prissætning

Brandom påpeger, at Zuckerbergs prismodel – freemium-adgang til AI – kolliderer med virkeligheden, hvor regnekraft er en knap ressource, der kunne allokeres via 'dynamiske auktioner' . Han sammenligner dette ugunstigt med, hvordan OpenAI's direktør Sam Altman og Anthropic's direktør Dario Amodei i det mindste anerkender farer og forsøger at opbygge tillid, mens Zuckerbergs afvisning af at forholde sig til potentialet for prischok eller andre utilsigtede konsekvenser underminerer troværdigheden .

Kernen: et budbringerproblem

Brandoms afgørende kritik er, at essayet ikke fejler, fordi folk ikke kan forestille sig nyttig AI – det fejler, 'fordi budbringeren bærer mindet om sociale mediers sidste store løfte' . Hver gang Meta beder om den intimitet, som personlig AI kræver, minder det offentligheden om, hvorfor de er bekymrede for at lukke platformsvirksomheder længere ind i deres liv .