Sam Altmans ‘Beste horigen’-steek legt de machtsstrijd rond AI bloot

De podcastopmerkingen van OpenAI-topman Sam Altman op 23 augustus legden een steeds scherpere tegenstelling binnen de AI-sector bloot. In een sarcastisch scenario stelde hij zich bedrijven voor die de bevolking kankerbehandelingen, materiële rijkdom en vermaak aanbieden — zolang diezelfde bevolking ophoudt met klagen en de bedrijven alle beslissingen over de toekomst laat nemen. Hij vatte die houding samen als: ‘Beste horigen.’ 3242

Altman noemde Anthropic-topman Dario Amodei daarbij niet rechtstreeks. Toch kwam zijn spot opvallend dicht in de buurt van een punt dat Amodei enkele dagen eerder had gemaakt: de belofte dat AI kanker zal genezen inspireert het publiek niet meer, tenzij de sector daadwerkelijk medische doorbraken aflevert. 1416

Wat Altman bedoelde met ‘Beste horigen’

Altman bekritiseerde niet per se de belofte van betere gezondheidszorg of grotere welvaart. Zijn punt ging over de politieke deal die daarachter kan schuilgaan: bedrijven presenteren overvloed als compensatie voor het verlies van invloed op de eigen toekomst.

Dat sluit aan bij andere opmerkingen uit dezelfde podcast. Altman wees op twee risico’s die ogenschijnlijk tegengesteld zijn: AI kan zo krachtig worden dat mensen de technologie niet meer betrouwbaar kunnen beheersen, terwijl de besluitvorming tegelijk kan worden geconcentreerd bij een klein aantal bedrijven, modellen of individuen. 3135

Daarmee is het probleem volgens deze redenering niet alleen technisch, maar ook politiek. Een toekomst waarin mensen materieel gezien vooruitgaan, kan nog steeds problematisch zijn als zij geen zeggenschap meer hebben over de systemen die hun werk, privacy en instituties vormgeven.

Waarom de opmerking aan Amodei deed denken

Amodei richtte zijn reactie van 15 augustus op investeerder Gavin Baker, die had betoogd dat Amodei’s herhaalde waarschuwingen voor de gevaren van AI de publieke weerstand tegen de technologie aanwakkerden. Baker koppelde die weerstand onder meer aan protest tegen de bouw van datacenters. 722

Amodei verwierp het idee dat een opgewekter communicatiebeleid het probleem zou oplossen. Volgens hem gaat het om ‘fundamenteel een vertrouwenscrisis’, die voortkomt uit jarenlange argwaan tegenover bedrijven, overheden en de technologiesector. 13

Hij formuleerde bovendien een ongewoon harde kritiek op zijn eigen industrie. AI-bedrijven, waaronder Anthropic, hebben hun grote beloften om de wereld te verbeteren nog niet waargemaakt, zei hij. De bewering dat AI kanker zal genezen is volgens Amodei inmiddels eerder een cliché dan een inspiratiebron, en veel mensen vinden die belofte misleidend. Wat de publieke opinie wél zou veranderen, is ‘daadwerkelijk kanker genezen’. 814

Daar raken de argumenten van de twee topmannen elkaar. Beiden waarschuwen ervoor dat de sector het publiek vraagt om verstrekkende claims op gezag te accepteren. Altman benadrukt vooral de politieke prijs van het opgeven van autonomie. Amodei legt de nadruk op de geloofwaardigheidsprijs van buitengewone beloften zonder aantoonbare resultaten.

Amodei tegenover Bakers optimisme

Bakers diagnose was grotendeels die van een communicatieprobleem: praat minder over catastrofale risico’s, benadruk de voordelen sterker en maak de technologie makkelijker te verdedigen tegenover het publiek. Amodei antwoordde dat het wantrouwen al bestond vóór de uitspraken van één bestuurder en niet kan worden weggenomen met een gelikte marketingcampagne. 17

Dat betekent niet dat Amodei het potentieel van AI afwijst. Hij stelde dat AI binnen ongeveer vijf tot tien jaar zou kunnen helpen bij het genezen van de meeste menselijke ziekten, terwijl hij erkende dat zo’n voorspelling buitengewoon klinkt. 16

Het verschil zit tussen een voorspelling en een geleverd resultaat. Amodei zegt in feite dat de sector misschien een krachtig verhaal te vertellen heeft, maar dat dit verhaal ongeloofwaardig blijft totdat mensen tastbare uitkomsten zien en begrijpen hoe de voordelen worden verdeeld.

Waar Zuckerbergs visie in het debat past

Meta-topman Mark Zuckerberg schetste onlangs een optimistischer toekomstbeeld. In zijn essay ‘The Future is for Everyone’ stelde hij dat superintelligentie iedereen sterker kan maken en dat er ook in de toekomst genoeg werk zal blijven. Het essay telt 6.500 woorden en presenteert AI als een middel voor brede individuele ontplooiing. 1726

Amodei’s vertrouwensargument vormt daar impliciet een tegenwicht tegen. Een positieve visie is op zichzelf niet genoeg. Mensen kunnen nog steeds vragen wie de modellen beheert, wie de rijkdom die ermee wordt gecreëerd opstrijkt, wie de risico’s draagt en of instituties bedrijven ter verantwoording kunnen roepen.

Die scepsis gaat bovendien verder dan alleen veiligheid. Er zijn zorgen over banenverlies, ongelijkheid, privacy, vergoedingen voor makers en de maatschappelijke gevolgen van AI. Uit een peiling die door WIRED werd aangehaald, bleek dat veel Amerikanen de technologie negatiever dan positiever bekijken. 25

De beschikbare informatie ondersteunt dus het beeld van een serieus conflict over vertrouwen en publieke steun. Ze bewijst niet dat de waarschuwingen van één topman de weerstand tegen datacenters hebben veroorzaakt. Evenmin is er op basis hiervan één meetbare, sectorbrede oorzaak aan te wijzen voor een dalend enthousiasme.

De diepere breuk: beloften tegenover macht

Het conflict tussen Altman, Amodei en hun critici gaat daarom niet alleen over toon of pr-strategie.

• Eerst optimisme: AI-bedrijven moeten de voordelen duidelijker uitleggen en voorkomen dat waarschuwingen voor existentiële risico’s het beeld van de technologie bepalen. 730
• Eerst vertrouwen: Publieke scepsis weerspiegelt tientallen jaren van wantrouwen; marketing kan geen vervanging zijn voor bewezen voordelen, geloofwaardig bestuur en verantwoording. 12
• Eerst controle: Zelfs een welvarende AI-toekomst is onaanvaardbaar als een paar bedrijven, modellen of personen de belangrijkste beslissingen voor iedereen nemen. 3537

Altmans ‘Beste horigen’-zin maakte de tegenstrijdigheid tastbaar: de sector belooft overvloed, maar kan tegelijk klinken alsof het publiek zijn autonomie moet inleveren. Amodei leverde de andere helft van de kritiek: zelfs goedbedoelde beloften herstellen het vertrouwen niet zolang ze niet veranderen in controleerbare resultaten.

De les voor AI-leiders is eenvoudig. Noch angst, noch optimisme zal het publiek op zichzelf overtuigen. Vertrouwen zal afhangen van wat de technologie daadwerkelijk oplevert, wie haar beheert, wie de voordelen ontvangt en of mensen een betekenisvolle stem houden in de toekomst die nu wordt gebouwd.