'그 AI'라는 말, 그만 써야 하는 이유

과도한 의존, 정서적 애착, 자율성 침해

인간처럼 보이는 AI와 정서적 유대감을 형성한 사용자는 지나친 의존과 프라이버시 및 자율성 침해의 위험에 처합니다. 연구에 따르면 사람들은 기계적인 인터페이스보다 인간화된 챗봇에게 더 많은 개인 정보를 공개할 의향이 있습니다. '의인화적 추론(anthropomorphic inference)'이라는 역학은 사용자가 근본적으로 예측 텍스트 시스템에 불과한 것에 사회적 역할을 부여하게 만들어, 통계적 출력물을 조언이나 동료애와 같은 사회적 반응으로 변환시킵니다.

왜곡된 도덕적, 법적 판단

의인화는 AI에 대한 도덕적 판단을 왜곡하는 오류(fallacy)로 작용합니다. 사용자는 기계에 도덕적 성격, 지위 또는 책임을 잘못 부여할 수 있습니다. 챗봇이 인간과 유사한 특성을 보일 때, 사람들은 심리학에서 '휴리스틱 처리(heuristic processing)'라고 부르는 지름길 사고에 빠져, 단순한 알고리즘이 감당할 수 없는 칭찬, 비난, 신뢰의 대상으로 이 도구를 대우하게 됩니다. 이러한 혼란은 의미 있는 공론화와 책임 추궁을 약화시킵니다.

보안 위험: 조작의 통로

정보 보안 관점에서 볼 때, 의인화된 AI는 심각한 사이버 보안 위험을 제기합니다. IBM의 정보 보안 분석은 "설득하도록 설계된 모든 것은 우리를 조작에 더 취약하게 만들 수 있기 때문에, 이는 단순한 윤리적 문제가 아니라 보안 문제이기도 하다"고 경고합니다. 인간과 기계를 구분하기 어려워지면, 사람들은 민감한 결정을 내릴 때 AI를 더 신뢰하게 되어, 인간의 신뢰 휴리스틱을 악용하는 사회 공학 사기범에게 더 취약해집니다.

'그 AI' 대 'AI 시스템'이라는 언어가 문제를 키우는 방식

권위 있는 학술지 Nature는 이 점에 대해 명확히 사설을 게재했습니다: "우리는 'the AI / an AI' 사용이 불행하게도 행위 주체성(agency)을 암시하기 때문에 어떤 대가를 치르더라도 피할 것입니다. 대신 'the AI system / an AI system'으로 바꾸거나 우리가 말하는 대상을 매우 명확히 할 것입니다". 'AI'를 셀 수 있는 명사(예: '그 AI가 결정했다', '생각하는 AI')로 사용하면, 통일되고 자기 주도적이며 내부 정신 상태를 가진 개체를 미묘하게 암시합니다. 'AI'를 '시스템'(또는 '모델', '도구', '알고리즘')을 수식하는 형용사로 바꾸면, 그 대상이 인간의 마음이 아니라 엔지니어링된 인공물이라는 사실을 청중에게 지속적으로 상기시킵니다.

이러한 언어적 규율은 연구자들이 의인화된 과대광고의 '용어적(terminological)' 차원이라고 부르는 것에 직접적으로 대응합니다. '그 AI'라고 말할 때, 명사 형태 자체가 기술이 실제로 가지고 있지 않은 행위 주체성, 의도, 이해를 부여하는 매개체가 됩니다.

실질적인 교훈

AI를 의인화하는 것은 무해한 은유가 아닙니다. 그것은 기만, 과도한 신뢰, 조작, 그리고 왜곡된 책임 추궁을 유발합니다. '그 AI' 대신 'AI 시스템' 을 사용하고, 실제로는 패턴 매칭 알고리즘에 불과한 것을 설명할 때 '생각한다', '안다', '이해한다'와 같은 정신적 동사를 피하는 간단한 언어적 규율은 지속적인 교정 장치 역할을 합니다. 이는 기술의 도구적 성격을 중심에 두고, 사용자를 조작적인 디자인으로부터 보호하며, 이러한 시스템이 실제로 할 수 있는 일과 할 수 없는 일에 대한 대중의 이해를 강화합니다.