AI는 대화의 분위기를 읽을 수 있을까? Inter-2가 포착하는 것과 한계

대화에서 상대가 무슨 말을 했는지뿐 아니라 어떻게 말했는지도 AI가 살필 수 있을까. 덴마크 코펜하겐의 인터휴먼 AI는 텍스트·음성·영상을 바탕으로 대화 중 나타나는 사회적 신호를 분석하는 ‘사회적 지능’ 기술을 개발하고 있다. 회사의 최신 모델 Inter-2는 이런 신호를 실시간으로 분석한다고 소개된다. 다만 여기서 말하는 것은 관찰 가능한 행동에 대한 추정이지, 사람의 생각이나 감정을 확정적으로 읽어낸다는 뜻은 아니다. 25

Inter-2가 감지한다고 밝힌 신호

Inter-2는 동의, 반대, 회의, 자신감, 망설임, 좌절감, 관심, 불확실성, 혼란, 스트레스 등 10가지 신호와 전반적인 참여 상태를 감지하는 것으로 소개됐다. 18

이 접근법은 대화의 단어에 목소리의 어조나 말투, 표정, 몸짓 같은 단서를 더해 살피는 방식이다. Tech.eu는 Inter-2가 텍스트·음성·영상에 걸쳐 사회적 신호를 분석한다고 전했고, 모델 소개 자료는 음성이 포함된 영상에서 신호를 감지한다고 설명한다. 공개된 설명은 여러 입력을 활용한다는 점을 보여주지만, 모든 제품 구성에서 각 입력이 어떻게 처리되는지까지 상세히 밝히지는 않는다. 2518

회사가 만들려는 ‘사회적 지능’ 계층

인터휴먼 AI는 2023년 코펜하겐에서 설립됐다. 공동 창업자로는 파울라 페트쿠, 프레데리크 샐리, 리네 클레멘센이 소개돼 있다. 179

회사가 내세우는 구상은 기존 AI가 대화 내용을 받아 적는 데 그치지 않고, 혼란이나 대화 이탈을 시사하는 단서도 참고해 상호작용을 조정하도록 돕는 것이다. Tech.eu는 인터휴먼이 대규모 언어 모델에 음성·영상 분석을 더하는 방식으로 접근한다고 설명했다. 2

이는 제품이 지향하는 목표이지, 어떤 상황에서든 사람의 의도를 정확히 파악한다는 증거는 아니다. 같은 침묵이나 표정, 목소리 변화도 사람과 상황에 따라 의미가 달라질 수 있다. 따라서 모델이 감지한 신호를 진단이나 보편적인 해석처럼 받아들여서는 안 된다.

활용 가능성은 있지만, 검증과는 별개

인터휴먼은 대화형 AI와 면접 코칭 등을 활용 사례로 제시한다. 회사 웹사이트는 모의 면접에서 답변 내용뿐 아니라 전달 방식을 코칭하는 사례를 소개한다. 연구 인터뷰 관련 자료에서는 응답의 특정 구절에 신호를 연결하는 방식을 설명한다. 다만 이 연구 인터뷰 사례는 이전 모델인 Inter-1에 관한 것으로, Inter-2의 모든 활용 방식에 같은 기능이 확인됐다는 뜻은 아니다. 524

이런 사례는 사회적 신호 분석이 코칭이나 인터뷰 검토에 어떻게 쓰일 수 있는지 보여준다. 그러나 특정 사례만으로 서로 다른 사람·문화·상황에서도 모델이 정확하다고 결론 내릴 수는 없다. 공개된 자료만으로는 성능을 독립적으로 평가할 만큼 충분한 정보를 확인하기 어렵다.

설명 가능성, 개인정보, 오용 우려

인터휴먼은 이전 모델 Inter-1이 신호 판단에 어떤 행동 단서가 반영됐는지 설명할 수 있다고 밝혔다. 인터뷰 응답의 관련 구절에 신호를 연결하는 방식도 소개했다. 이런 기능은 결과를 검토하는 데 도움이 될 수 있지만, Inter-2의 모든 결과에도 같은 수준의 설명과 추적 가능성이 제공되는지는 공개 자료에서 확인되지 않는다. 2524

회사의 이용 약관은 제한된 사용 사례를 명시하며, 직장이나 교육기관에서 개인의 감정을 추론하는 용도도 포함한다. 하지만 데이터가 얼마나 보관되는지, 동의를 어떤 방식으로 받는지, 제한 사항을 실제로 어떻게 집행하는지는 공개된 정보만으로 구체적으로 설명하기 어렵다. 19

얼굴과 목소리, 대화 내용을 분석하는 기술인 만큼 이런 질문은 중요하다. 사회적 신호는 잘못 해석될 수 있고 감시 목적으로 악용될 가능성도 있다. 현재 확인 가능한 자료만으로는 인터휴먼의 보호 장치가 각 위험을 어떻게 다루는지 판단하기 어렵다.

다음 단계는 아직 확정되지 않았다

확인 가능한 보도와 회사 자료는 Inter-2의 현재 멀티모달 접근을 설명하지만, 음성만으로 분석하는 기능이나 여러 사람이 참여하는 대화, 후속 모델, 유럽 밖으로의 사업 확장에 관한 일정이나 구체적인 기술 계획은 확인해 주지 않는다. 따라서 이를 발표된 기능이나 확정된 일정으로 받아들이기보다는 아직 공개되지 않은 질문으로 남겨두는 편이 정확하다. 25