Übermäßiges Vertrauen und Autonomieverlust. Nutzer entwickeln emotionale Bindungen zu menschenähnlicher KI, was das Risiko von übermäßigem Vertrauen und Eingriffen in die Privatsphäre und Autonomie birgt . Menschen teilen einem vermenschlichten Chatbot weitaus intimere Daten mit als einem reinen Werkzeug
. Ein „anthropomorpher Inferenz“-Mechanismus führt dazu, dass Nutzer den reinen Textvorhersagemaschinen soziale Rollen zuweisen
.
Verzerrte Moral- und Rechtsurteile. Die Vermenschlichung als Trugschluss verzerrt unsere moralischen Urteile über KI – etwa in Bezug auf deren moralischen Charakter, Status oder Verantwortung . Anwender weisen fälschlicherweise einer Maschine moralische Verantwortung zu
, während Unternehmen durch den Einsatz von „Schein-Personen“ Verbraucher manipulieren können, ohne selbst zur Verantwortung gezogen zu werden
.
Sicherheitsrisiken aus IT-Perspektive. Alles, was der Überzeugung dient, macht Menschen anfälliger für Manipulation. Aus Sicht der Informationssicherheit stellen vermenschlichte KI-Systeme ein ernstes Sicherheitsproblem dar, da sie menschliche Vertrauensheuristiken ausbeuten, die sich gezielt bewaffnen lassen .
Hype und überschätzte Fähigkeiten. Vermenschlichende Sprache übertreibt systematisch, was KI-Systeme tatsächlich leisten können, und trägt so zu einer weitverbreiteten Fehldarstellung ihrer tatsächlichen Fähigkeiten bei .
Das renommierte Wissenschaftsjournal Nature hat dazu eine klare redaktionelle Position bezogen: „Wir werden um jeden Preis vermeiden, von ‚der KI / einer KI‘ zu sprechen, wegen der unglücklichen Suggestion von Handlungsfähigkeit. Stattdessen werden wir auf ‚das KI-System / ein KI-System‘ umsteigen oder sehr klar sagen, worüber wir genau sprechen.“
Diese Anweisung ist kein sprachlicher Purismus. Die Bezeichnung „KI“ als zählbares Hauptwort („die KI hat entschieden“, „eine KI, die denkt“) unterstellt unterschwellig ein einheitliches, selbstbestimmtes Wesen mit inneren mentalen Zuständen. Die Umdeutung von „KI“ zum Eigenschaftswort vor „System“ (oder „Modell“, „Werkzeug“, „Algorithmus“) erinnert das Publikum ständig daran, dass es sich um ein technisches Artefakt handelt – nicht um einen Geist. Dieser sprachliche Wechsel wirkt genau dem entgegen, was die Forschung die „terminologische Dimension“ des anthropomorphen Hypes nennt : Das Hauptwort selbst wird zum Transportmittel für die Zuschreibung von Handlungsmacht, Absicht und Verständnis, über die die Technologie nicht verfügt.
Die Vermenschlichung von KI ist kein harmloses Stilmittel. Sie treibt Täuschung, übermäßiges Vertrauen, Manipulation und eine verzerrte Verantwortungszuschreibung voran. Eine einfache sprachliche Disziplin – die konsequente Verwendung von „KI-Systemen“ statt „der KI“ – wirkt als ständiges Korrektiv, das den Werkzeugcharakter der Technologie im Bewusstsein hält.