Hvorfor det er farlig å snakke om kunstig intelligens som om den var menneskelig

Problemet blir større når teknologien gis et navn, en personlighet, en menneskelignende stemme eller en samtaleform som inviterer til følelsesmessig tilknytning.

De viktigste farene

1. Manipulasjon og bedrag

Når brukere ikke tydelig kan skille mellom et menneske og et KI-system, kan det åpne for bedrag, påvirkning og desinformasjon i stor skala . Menneskelignende samtale kan utnyttes kommersielt fordi vi naturlig har en tendens til å tolke flytende språk som tegn på en bevisst samtalepartner.

Dette er nært knyttet til det som er blitt kalt «antropomorf forførelse»: tiltrekningen ved en overbevisende menneskelignende interaksjon, selv om systemet verken har empati eller egne erfaringer .

2. Overdreven tillit og mindre selvstendighet

En chatbot som virker vennlig og forståelsesfull, kan få brukeren til å stole mer på den enn det systemets faktiske pålitelighet tilsier. Noen kan også dele mer personlig informasjon med en menneskeliggjort chatbot enn de ellers ville gjort .

Over tid kan brukere tillegge systemet sosiale roller – som rådgiver, venn eller fortrolig – selv om det i bunn og grunn er et system som beregner sannsynlige tekstsvar . Følelsesmessig tilknytning kan dermed påvirke både personvern og autonomi .

3. Feil bilde av kapasitetene

Antropomorf språkbruk bidrar til å blåse opp forestillingen om hva KI kan gjøre. Når et system «resonnerer», «planlegger» eller «vet», kan det høres ut som om det arbeider med menneskelignende mål og innsikt. Slik språkbruk kan bidra til overdrivelser og feilrepresentasjon av teknologiens faktiske egenskaper .

Det kan igjen gjøre det vanskeligere å føre en presis offentlig samtale om begrensninger, feil og risiko.

4. Uklarhet om moral og ansvar

Hvis en maskin fremstilles som en selvstendig aktør, kan mennesker begynne å plassere moralsk ansvar hos selve systemet. Det kan forvrenge vurderinger av systemets moralske status, karakter og ansvar .

I praksis kan dette flytte oppmerksomheten bort fra utviklerne, virksomhetene og menneskene som har valgt å ta teknologien i bruk. Et KI-system kan produsere et skadelig eller diskriminerende svar, men det betyr ikke at systemet selv har moralske intensjoner.

5. Sikkerhetsrisiko

Teknologi som er utformet for å overbevise, kan også gjøre mennesker mer sårbare for påvirkning. Menneskelignende uttrykk kan aktivere tillitsregler vi vanligvis bruker i møte med andre mennesker – og disse kan utnyttes i sikkerhetsangrep eller annen manipulasjon .

Hvorfor «KI-en» er mer enn en uskyldig formulering

Det er forskjell på å omtale kunstig intelligens som et fagfelt og å omtale «en KI» eller «KI-en» som om det er én samlet aktør.

Når vi sier «KI-en bestemte dette» eller «KI-en forstår problemet», gir substantivformen inntrykk av en avgrenset enhet med egen vilje og egne mentale tilstander. Men «KI» kan vise til alt fra en bestemt språkmodell til et komplett system, en algoritme eller en tjeneste bygget av flere komponenter.

Derfor anbefalte tidsskriftet Nature å unngå formuleringer som «the AI» og heller bruke «the AI system» – på norsk typisk «KI-systemet» – eller presisere hvilken modell eller tjeneste det faktisk er snakk om .

Forskjellen mellom «KI-en» og «KI-systemet» er liten grammatisk, men stor som påminnelse. Den siste formuleringen peker på at dette er en menneskeskapt teknologisk konstruksjon, ikke et sinn.

Et mer presist språk

Det betyr ikke at alle menneskelige uttrykk må forbys. I dagligtale kan det være praktisk å si at en chatbot «svarer» eller «skriver». Men i journalistikk, forskning, undervisning og beslutninger med store konsekvenser bør språket være så presist som mulig.

I stedet for:

• «KI-en forstår spørsmålet»
• «Modellen ønsker å hjelpe»
• «Chatboten vet at svaret er riktig»

kan man skrive:

• «KI-systemet tolker teksten og genererer et svar»
• «Systemet er utformet for å gi hjelpsomme svar»
• «Modellen rangerer dette som et sannsynlig svar»

Slike formuleringer gjør teknologien mindre mystisk og gjør det lettere å stille riktig spørsmål: Hvor kommer svaret fra, hvor pålitelig er det, og hvem har ansvaret for bruken?

Konklusjonen

Antropomorfisering av KI er ikke bare en fargerik metafor. Den kan bidra til bedrag, overtro, følelsesmessig avhengighet, personvernproblemer, manipulasjon og feilplassert ansvar .

Å si «KI-systemer» i stedet for «KI-en» løser ikke alle problemene. Men det er en enkel språklig vane som holder teknologiens verktøypreg synlig – og minner oss om at et system kan etterligne menneskelig språk uten å tenke, føle eller bry seg slik mennesker gjør.