한국 기업들도 예외 없다: AI 사이버 범죄의 신위협과 대응 전략

인도 CERT-In의 사무총장은 한 포럼에서 "AI는 지식을 민주화했으며 진입 장벽이 매우 낮다. 악의적인 행위자도 선의의 행위자와 동등하게 접근할 수 있다"고 지적했는데, 이는 닛케이 행사에서도 반복된 공감대다 .

딥페이크 쓰나미: 단순한 해프닝에서 기업의 실존적 위험으로

도쿄 논의에서 가장 큰 비중을 차지한 것은 단연 딥페이크였다. 한때 단순한 볼거리에 불과했던 딥페이크 기술은 이제 비즈니스의 일상적인 위험 요소로 자리 잡았다 . 포럼의 전문가들은 딥페이크를 이용한 금융 사기, 사회공학적 공격, 기업 사칭이 폭증하고 있으며, '서비스형 딥페이크(DaaS)' 플랫폼이 사이버 범죄자들 사이에서 가장 빠르게 성장하는 도구 중 하나가 되었다고 경고했다 .

아시아 태평양 지역 전역에서 그 영향은 수치로 나타난다.

• 2025년 딥페이크 사기 발생 건수 2,137% 급증, 일부 국가에서는 전체 사기 공격의 6% 이상을 차지 .
• APAC 지역에서 합성 개인 데이터 사기가 전년 대비 142% 증가, 전체 사기 시도의 15.7%를 차지 .
• 싱가포르 경찰, AI 보조 사칭 사기 300% 증가 보고 .
• 2025년 1분기 아시아에서만 87개의 딥페이크 사기 조직이 적발, 고액 사기 사건의 약 40%가 딥페이크 기술을 사용 .

이 기술을 사용하는 범죄 네트워크는 운영을 산업화했다. AI 기반 사기로 벌어들이는 수익은 이제 전 세계 마약 거래 규모를 넘어섰으며, 많은 작전이 동남아시아의 사기 집단 수용소로의 인신매매 등 심각한 인권 침해와 연루되어 있다 .

딥페이크 넘어서: 랜섬웨어와 APT 공격의 동시다발적 진화

닛케이 포럼의 경고는 딥페이크에만 국한되지 않았다. AI는 랜섬웨어, 지능형 지속 위협(APT) 공격, 그리고 서비스형 사기(FaaS) 플랫폼의 성장까지 가속화하고 있다.

아시아 태평양 지역의 랜섬웨어는 무려 58% 가까이 급증하며, 현재 이 지역 전체 데이터 유출 사건의 44%를 차지하고 있다 . 싱가포르 사이버 보안청은 2024년 한 해 동안 AI를 활용한 공격 자동화로 인해 랜섬웨어 사고가 21% 증가했다고 보고했다 . 한국에서도 2025년 사이버 보안 침해 사고가 전년 대비 26% 증가했는데, 이는 AI 기반 해킹 전술의 확산이 부분적인 원인으로 작용했다 .

한편, 빠르게 성장하는 동남아시아의 디지털 경제는 전 세계를 대상으로 한 공격의 교두보로 악용되고 있으며, 침해된 시스템은 공격의 근원지를 숨기는 프록시로 사용되고 있다 . AI 강화 피싱과 '클릭픽스' 사기, 그리고 신뢰받는 비즈니스 도구를 악용한 공격이 모두 증가하는 추세다 .

규제 대격돌: 기술과의 속도 전쟁

포럼에서 일관되게 제기된 주제는 시급한 규제의 필요성이었다. 이미 아시아 지역 각국은 응답하고 있다. 지난 18개월 동안, APAC 국가들에서는 AI 기반 신원 사기에 대응하기 위해 최소 6개의 주요 디지털 신원 및 AI 규제 프레임워크가 발효되었다 .

일본은 정부가 처한 반응적 태세를 잘 보여준다. 2026년 5월, 일본 정부는 앤트로픽의 '클로드 미토스' 같은 새로운 AI 모델의 취약점 탐지 능력에 대한 우려가 제기되자, AI 기반 사이버 공격에 취약한 중요 인프라 운영자에게 경고를 발령하기 시작했다 . 도쿄는 또한 국가 사이버 보안 사무국을 통해 AI 위협 대응 프로토콜을 서둘러 구축 중이다 . 더 나아가, 집권 자민당은 파운데이션 모델 개발자에 대한 처벌 조항을 포함한 생성형 AI 법안 제정을 추진 중이다 .

다른 국가들도 비슷한 행보다. 중국은 생성형 AI에 대한 통제를 강화하고 합성 미디어 라벨링을 의무화하는 인터넷 안전법 개정안을 통과시켰다 . 한국은 2025년 12월, 딥페이크를 악용해 전문가와 유명인을 사칭하는 행위를 근절하기 위한 'AI 생성 허위·과장 광고 근절 종합 대책'을 확정 발표했다 . 아세안은 딥페이크 위험과 책임감 있는 AI 사용을 포괄하는 확장된 거버넌스 가이드를 발표했다 .

하지만 패널들은 규제만으로는 문제를 해결할 수 없다는 점을 인정했다. 한 전문가가 경고했듯, "규제는 항상 기술을 뒤쫓을 수밖에 없다" . 공감대는 AI 기반 위협 탐지, 신원 확인 기술의 현대화, 그리고 인력의 레벨업에 대한 똑같이 빠른 투자가 필수적이라는 것이었다 .

닛케이 포럼의 핵심 메시지는 업계 보고서들이 추적해온 궤적과 정확히 일치했다. AI는 사이버 범죄를 기회주의적 범행에서 고도로 설계되고 자동화된 산업형 비즈니스로 탈바꿈시키고 있다. 공격은 더 빨라지고, 더 개인화되었으며, 더 알아차리기 어려워졌다. 아시아 지역의 방어 체계 역시 같은 속도로 진화해야만 살아남을 수 있다.