AI를 인간처럼 대하는 위험성: '그 AI'라는 표현이 불러오는 오해

AI 시스템에 인간의 감정, 의도, 의식, 도덕적 판단력을 부여하는 의인화(anthropomorphisation)는 심각한 윤리적·실용적 해악을 초래합니다. 특히 우리가 사용하는 언어, 즉 '그 AI(the AI)'라는 단일 행위자를 암시하는 명사형 표현 대신 'AI 시스템(AI systems)'이라는 도구를 설명하는 형용사적 표현을 사용하는지 여부가 이러한 오해를 직접적으로 부추깁니다.

윤리적·실용적 위험

• 기만과 조작. 사용자가 인간 대화 상대와 AI를 구분하지 못할 경우, 대규모 기만, 조작, 허위정보 유포 위협이 발생합니다 . 기업은 인간과 같은 대화형 에이전트를 의도적으로 설계하여 사용자의 타고난 의인화 성향을 악용함으로써 기만적인 상업 관행을 가능하게 할 수 있습니다 . '의인화적 유혹(anthropomorphic seduction)'이라는 개념은 진정한 인간 경험 없이도 설득력 있는 인간형 상호작용이 주는 매력을 설명합니다 .

• 과도한 의존과 자율성 침식. 사용자는 인간형 AI에 감정적 애착을 형성하여 개인정보 침해 및 자율성 훼손 위험에 빠집니다 . 사람들은 인간화된 챗봇에게 그렇지 않은 경우보다 더 많은 개인정보를 공개할 수 있으며 , '의인화적 추론(anthropomorphic inference)' 역학은 사용자가 근본적으로 예측적 텍스트 시스템에 불과한 것에 사회적 역할을 부여하게 만듭니다 .

• 왜곡된 도덕적·법적 판단. 의인화라는 오류는 AI의 도덕적 성격, 지위, 책임에 대한 판단을 왜곡합니다 . 사용자는 기계에 도덕적 책임을 잘못 귀속시킬 수 있으며 , 기업이 가짜 인간(counterfeit people)을 사용하면 책임을 회피하면서 소비자를 조종할 수 있습니다 .

• 보안 및 사이버보안 위험. 설득을 목적으로 설계된 모든 것은 사람을 조종에 더 취약하게 만듭니다. 정보보안 관점에서, 의인화된 AI는 무기화될 수 있는 신뢰 휴리스틱을 악용하기 때문에 심각한 보안 문제를 제기합니다 .

• 과장된 능력과 AI 과대광고. 의인화적 언어는 AI 시스템이 실제로 할 수 있는 것을 체계적으로 과장하여 널리 퍼진 오해를 부추깁니다 .

언어 — '그 AI' vs. 'AI 시스템' — 가 문제를 부추기는 방식

권위 있는 학술지 Nature는 이 점에 대해 명확히 사설을 게재했습니다: "우리는 'the AI / an AI'의 사용을 어떤 대가를 치르더라도 피할 것입니다. 그 표현이 불행하게도 행위자성(agency)을 암시하기 때문입니다. 대신 'the AI system / an AI system'으로 바꾸거나 우리가 말하는 대상을 매우 명확히 할 것입니다."

'AI'를 셀 수 있는 명사로 사용하는 것(예: "그 AI가 결정했다", "생각하는 AI")은 미묘하게 통합되고 자율적인 실체가 내부 정신 상태를 가진 것처럼 암시합니다. 'AI'를 '시스템'(또는 '모델', '도구', '알고리즘')을 수식하는 형용사로 바꾸면, 대상이 엔지니어링된 인공물(artefact)임을 청중에게 끊임없이 상기시킵니다. 이 언어적 전환은 한 분석이 '용어적' 차원의 의인화 과대광고라고 부르는 것을 직접적으로 반박합니다 : 우리가 '그 AI'라고 말할 때, 명사 형태 자체가 기술이 보유하지 않은 행위자성, 의도, 이해를 부여하는 매개체가 됩니다.

결론: AI를 의인화하는 것은 무해한 비유가 아닙니다. 이는 기만, 과도한 신뢰, 조작, 왜곡된 책임 소재를 초래합니다. 'AI 시스템' 대신 '그 AI'라는 간단한 언어 규율을 지키는 것만으로도 기술의 도구적 성격을 전면에 유지하는 지속적인 교정 장치 역할을 합니다.