러시아 드론이 우크라이나 자포리자에서 민간인 3명을 숨지게 한 공격이 자율무기 논쟁을 다시 촉발하고 있다. 이 드론은 단순히 비행을 안정화하거나 미리 정해진 경로를 따라간 것이 아니라, 현장에 도착한 뒤 탑재된 AI가 공격 대상을 식별하고 선택한 것으로 우크라이나 당국과 감식 전문가, 뉴욕타임스가 보도했다. 드론은 주유소 인근 벽에 충돌해 폭발했고, 19세 테티아나 부비네츠를 비롯한 3명이 사망했다.
1
3
다만 이를 ‘역사상 최초의 자율무기 사용’으로 단정할 수는 없다. 현재 근거가 뒷받침하는 보다 신중한 표현은 러시아·우크라이나 전쟁에서 완전 자율형 AI 표적 시스템이 민간인 사망을 초래한 첫 문서화 사례로 보고되고 있다는 것이다.
1
3
자포리자에서 무슨 일이 있었나
소형 모형 비행기와 비슷한 형태의 드론은 주유소를 향해 비행하도록 설정된 것으로 전해졌다. 주유소 인근에 접근한 뒤에는 AI 시스템이 주변을 탐색해 공격할 대상을 골랐으며, 그 대상은 프로판가스 탱크였을 가능성이 큰 것으로 분석됐다. 그러나 드론은 목표물에 도달하기 전 벽에 충돌했고, 폭발로 주변에 있던 민간인들이 목숨을 잃었다.
1
4
6
여기서 중요한 것은 공격의 ‘실패’다. 자율성이 인간과 같은 판단력이나 높은 신뢰성을 의미하지는 않기 때문이다. AI 시스템은 물체를 잘못 분류하거나 위치를 오인할 수 있고, 현장 상황이 바뀐 뒤에도 공격을 계속할 수 있다. 민간 시설과 이동 인구가 뒤섞인 도시 환경에서는 이런 오류가 인간의 최종 확인이나 즉각적인 개입 없이 곧바로 민간인 피해로 이어질 수 있다.
1
6
드론 안에서 작동한 AI
우크라이나 조사관들은 드론 잔해에서 엔비디아 Jetson Orin 모듈을 발견한 것으로 알려졌다. 엔비디아는 Jetson 제품군을 로봇공학과 머신비전 등을 위한 민간용 컴퓨팅 플랫폼으로 설명한다. 감식 과정에서는 외부 통신 안테나가 없었던 정황과 함께, 온보드 카메라, 저장된 지형 이미지, 프로판가스 탱크 같은 특정 표적 유형을 인식하도록 훈련된 소프트웨어의 흔적도 확인된 것으로 전해졌다.
2
8
10
11
이는 엣지 컴퓨팅의 사례로 볼 수 있다. 엣지 컴퓨팅은 영상을 원격 조종자나 클라우드 서버로 보내는 대신 기기 자체에서 데이터를 처리하는 방식이다. 드론에 적용하면 탑재 카메라와 컴퓨터가 현장을 분석하고, 비행을 보조하며, 실시간으로 최종 표적 결정을 내릴 수 있다.
이 차이는 전자전 환경에서 특히 중요하다. 원격 조종 드론은 통신 링크나 영상 전송이 끊기면 임무 수행 능력이 크게 떨어질 수 있다. 반면 자율 또는 반자율 드론은 통신이 두절된 뒤에도 비행과 표적 추적 같은 임무 일부를 계속할 수 있다. 러시아와 우크라이나 양측이 항법, 물체 인식, 유도, 표적 추적에 AI를 통합해 왔다는 보고가 있지만, 완전 자율 시스템이 실제 전장에 어느 정도 배치됐는지는 독립적으로 확인하기 어렵다.
기존 AI 보조 드론과 무엇이 다른가
AI가 탑재됐다고 해서 모두 자율무기인 것은 아니다. ‘자율성’은 다음과 같이 여러 기능을 가리킬 수 있다.
- 비행 보조: 기체를 안정화하거나 장애물을 피하는 기능
- 항법: 사전에 입력된 경로를 따르거나 위성항법이 방해받을 때 시각 정보를 이용하는 기능
- 표적 추적: 사람이 선택한 물체를 계속 추적하는 기능
- 종말 유도: 사람이 이미 식별하고 승인한 표적을 향해 마지막 단계에서 접근하는 기능
- 표적 선택: 추가적인 인간 개입 없이 주변을 탐색하고 물체를 식별한 뒤 공격 대상을 선택하는 기능
가장 큰 논란을 부르는 것은 마지막 단계다. 국제적십자위원회(ICRC)는 무기의 핵심 기능에서 자율성이란 인간의 개입 없이 표적을 선택하고 공격할 수 있는 능력이라고 설명한다.
자포리자 사건이 주목받는 이유도 여기에 있다. 보도대로라면 ‘킬 체인’, 즉 표적을 발견한 뒤 식별하고 공격하는 일련의 과정 가운데 핵심 일부가 인간 조작자에서 소프트웨어로 넘어갔다. 과거의 원격 조종 FPV 드론이나 배회형 탄약도 자동화 기능을 활용할 수 있었지만, 사람이 표적을 지정하거나 최종 공격을 승인하는 경우가 많았다.
4
6
엔비디아의 해명은 무엇을 의미하나
엔비디아는 Jetson Orin이 학생, 개발자, 스타트업 등을 대상으로 판매되는 민간·소비자용 제품이며 군사용으로 설계된 장비가 아니라고 밝힌 것으로 전해졌다. 또 Jetson 제품군을 러시아에 직접 판매하지 않았다고 설명했다. 다만 제품이 재판매 시장을 통해 유통될 수 있어, 판매 이후 어디로 이동했는지는 추적하기 어렵다고 인정했다.
2
18
19
따라서 러시아 드론에서 엔비디아 모듈이 발견됐다는 사실만으로 엔비디아가 러시아군에 이를 고의로 공급했거나 제재를 위반했다고 결론 내릴 수는 없다. 제공된 보도만으로는 해당 부품의 조달 경로와 전용 과정, 관련 기업의 법적 책임이 확인되지 않았다.
그러나 이 사건은 더 넓은 공급망 문제를 보여준다. 민간 로봇과 머신비전용으로 만들어진 이중용도 컴퓨팅 장비가 합법적인 판매 이후 재판매·우회 유통을 거쳐 무기에 탑재될 수 있다는 점이다. 직접 판매를 제한하는 수출 규정만으로는 중개업체와 2차 시장을 거치는 제품의 최종 행선지를 관리하기 어렵다. 이번 사례는 제재 준수의 허점을 제기하지만, 기업의 고의나 법적 위법성을 입증하는 것은 아니다.
법적·윤리적 쟁점
AI가 사용됐다고 해서 전쟁의 기존 규칙이 사라지는 것은 아니다. 자율 기능을 포함한 무기에도 국제인도법이 적용된다. 군사적 목표와 민간인·민간 물체를 구별해야 하고, 공격의 비례성을 판단해야 하며, 공격 과정에서 실행 가능한 예방조치를 취해야 한다.
더 복잡한 문제는 책임 소재다. 알고리즘이 표적을 선택했다고 해서 책임이 소프트웨어로 이전되는 것은 아니다. 조사기관은 시스템을 설계·시험·승인·프로그래밍·배치·감독한 주체와 교전 규칙, 안전장치가 무엇이었는지를 확인해야 한다. 국제법 연구에서도 자율무기의 작동과 결과를 관련 인간 행위자에게 추적할 수 있어야 한다는 점이 강조돼 왔다.
따라서 핵심 질문은 임무 전체 과정 어딘가에 사람이 있었느냐가 아니다. 치명적 무력 사용을 인간이 의미 있게 통제했느냐가 중요하다. 여기에는 표적과 주변 상황에 대한 충분한 정보, 시스템 운용 범위의 명확한 제한, 가능한 경우 공격을 중단·정지·취소할 수 있는 능력이 포함된다.
군비통제는 무엇을 요구해야 하나
이번 사건은 치명적 무력 사용에 대해 의미 있는 인간 통제를 유지해야 한다는 요구를 강화한다. 기존 법률·정책 논의를 바탕으로 다음과 같은 안전장치가 거론될 수 있다.
- 자율 시스템이 공격할 수 있는 표적 유형, 지리적 범위, 운용 조건의 명확한 제한
- 배치 전 무기 체계 심사
- 기만, 오인식, 민간 물체가 뒤섞인 환경을 고려한 엄격한 시험
- 신뢰할 수 있는 공격 중단·정지·안전 기능
- 임무 과정과 시스템 작동을 검증할 수 있는 로그 기록
- 설계·조달·배치·사용 전 과정에서의 인간 책임 규정
- 시스템이 무엇을 감지했고 왜 공격했는지 재구성할 수 있는 사후 조사
유럽 국가들은 자율 시스템에도 국제인도법이 전면 적용되며, 치명적 무력 사용에 필요한 법적 판단 능력을 인간이 유지해야 한다고 거듭 밝혀 왔다. 국제사회에서는 국제인도법을 준수할 수 없는 자율무기를 금지하고, 그 밖의 시스템에는 인간 통제와 책임성을 보장하는 구속력 있는 요건을 적용하자는 제안이 논의되고 있다.
우크라이나를 넘어서는 안보 파장
이번 사건의 가장 중요한 교훈은 무기에 자율성을 추가하는 데 필요한 하드웨어의 문턱이 낮아지고 있다는 점일 수 있다. 소형 기체와 카메라, 온보드 컴퓨터, 소프트웨어 모델, 폭발물만으로도 표적 선택이라는 핵심 결정을 원격 인간이 아니라 현장에서 작동하는 기계에 맡길 수 있다. Jetson Orin이 민간용 제품이라는 사실은 이런 능력이 반드시 전용 군사용 슈퍼컴퓨터를 필요로 하지는 않는다는 점에서 특히 의미가 크다.
2
8
러시아와 우크라이나가 AI 드론 개발을 계속하면 통신이 불안정하고 조종자가 노출되는 분쟁 지역에서 자율 기능은 더욱 흔해질 수 있다. 이 기술은 전자전과 전파 방해에 대한 회복력을 높이고 지속적인 수동 조종의 필요성을 줄일 수 있다. 반대로 소프트웨어 오류의 결과를 확대하고, 의사결정 시간을 지나치게 단축하며, 인구 밀집 지역에서 민간인 보호를 어렵게 만들 위험도 있다.
결국 쟁점은 드론이 인간처럼 ‘똑똑했는가’가 아니다. 비교적 쉽게 구할 수 있는 엣지 컴퓨팅 장비만으로 무기가 사람의 최종 판단 없이 표적을 식별하고 공격할 수 있었는지가 핵심이다. 보도와 감식 결과가 정확하다면 자포리자 공격은 AI 보조와 자율 살상 행위의 경계가 이미 현실의 작전 현장에서 무너지고 있으며, 법률·기술·공급망 안전장치는 그 속도를 따라가지 못하고 있다는 경고다.