De gevaren van AI vermenselijken: één woord kan al misleiden

Het probleem zit dus niet alleen in technische onnauwkeurigheid. Menselijke formuleringen kunnen verwachtingen creëren die het systeem niet kan waarmaken.

De belangrijkste ethische en praktische risico’s

Misleiding en manipulatie

Als gebruikers niet goed kunnen onderscheiden of ze met een mens of een AI-systeem praten, ontstaan risico’s op misleiding, manipulatie en desinformatie op grote schaal . Bedrijven kunnen bewust gesprekssystemen ontwerpen die menselijk overkomen en daarmee onze natuurlijke neiging om technologie menselijke eigenschappen toe te schrijven uitbuiten .

Onderzoekers spreken in dit verband over ‘antropomorfe verleiding’: de aantrekkingskracht van een overtuigend menselijk gesprek, ook al is er geen sprake van echte menselijke ervaring, empathie of begrip .

Overmatig vertrouwen en verlies van autonomie

Een menselijk klinkende chatbot kan gebruikers ertoe brengen het systeem meer te vertrouwen dan gerechtvaardigd is. Sommige mensen zijn daardoor eerder geneigd persoonlijke informatie te delen met een chatbot die menselijk is vormgegeven . Ook kunnen gebruikers een sociale rol toekennen aan wat in essentie een voorspellend tekstsysteem is — bijvoorbeeld die van adviseur, vriend of vertrouwenspersoon .

Dat kan leiden tot emotionele afhankelijkheid, aantasting van privacy en verlies van autonomie . De overtuigende toon van een systeem zegt immers niets over de juistheid van zijn antwoorden of over de belangen van de organisatie die het aanbiedt.

Vertekende morele en juridische oordelen

Antropomorfisme kan ons oordeel vertekenen over de morele status, het karakter en de verantwoordelijkheid van AI . Gebruikers kunnen bijvoorbeeld denken dat een machine zelf verantwoordelijk is voor een schadelijk antwoord, terwijl verantwoordelijkheid in de praktijk ook ligt bij de ontwerpers, aanbieders en mensen die het systeem inzetten .

Een vergelijkbaar risico ontstaat wanneer bedrijven kunstmatige, menselijk ogende gesprekspartners gebruiken om consumenten te beïnvloeden en tegelijk verantwoordelijkheid op afstand te houden .

Veiligheids- en cybersecurityrisico’s

Alles wat overtuigend wil overkomen, kan mensen vatbaarder maken voor beïnvloeding. Een AI-systeem dat vertrouwen oproept door menselijke kenmerken na te bootsen, kan daardoor gebruikmaken van dezelfde vertrouwensheuristieken die ook bij sociale manipulatie worden ingezet . Dat maakt antropomorfe AI niet alleen een communicatiekwestie, maar ook een veiligheidsrisico.

Overdreven verwachtingen en AI-hype

Menselijke taal kan de mogelijkheden van AI structureel groter laten lijken dan ze zijn. Door systemen neer te zetten als denkende, redenerende of doelgerichte entiteiten ontstaat een misrepresentatie van hun werkelijke capaciteiten. Dat maakt een nuchter publiek debat over de technologie moeilijker .

Waarom ‘de AI’ misleidender klinkt dan ‘AI-systemen’

Het verschil tussen ‘de AI’ en ‘AI-systemen’ lijkt klein, maar beïnvloedt wel degelijk het beeld dat een lezer krijgt.

‘De AI’ maakt van AI een zelfstandig naamwoord en klinkt daardoor als één herkenbare, zelfstandige actor: een wezen dat beslist, redeneert en handelt. In zinnen als ‘de AI heeft besloten’ of ‘de AI begrijpt de vraag’ sluipen agency, intentie en begrip bijna ongemerkt de formulering binnen.

‘AI-systemen’ werkt anders. Daar is ‘AI’ een bijvoeglijke bepaling die iets zegt over het soort systeem. Ook woorden als ‘model’, ‘programma’, ‘hulpmiddel’ of ‘algoritme’ houden beter zichtbaar dat het om ontworpen technologie gaat — en niet om een menselijke geest.

Het tijdschrift Nature adviseert daarom om ‘the AI’ en ‘an AI’ zo veel mogelijk te vermijden en in plaats daarvan te spreken over bijvoorbeeld ‘the AI system’ of specifieker over een taalmodel, een generatief model of een chatbot . Die aanpak dwingt schrijvers bovendien om duidelijker te maken over welk systeem of model ze het precies hebben.

Taal is geen detail

Antropomorfisme kan in sommige contexten een systeem toegankelijker maken. Maar zodra menselijk taalgebruik ertoe leidt dat mensen een machine begrip, zorgzaamheid of morele intentie toeschrijven, wordt de metafoor misleidend. Het kan vertrouwen vergroten zonder dat de betrouwbaarheid evenredig toeneemt.

De eenvoudigste correctie is daarom ook een taalkundige: zeg liever ‘AI-systemen’ dan ‘de AI’, en benoem waar mogelijk het concrete model, programma of hulpmiddel. Zo blijft centraal staan wat de technologie werkelijk is — een door mensen ontworpen systeem — en niet wat zij alleen maar overtuigend lijkt na te bootsen.