자포리자 AI 드론 공격이 던진 질문: 인간의 통제는 어디까지인가

자포리자에서 발생한 것으로 보고된 러시아 드론 공격은 자율무기 논쟁에 중대한 경고를 던진다. 다만 이 사건을 두고 “AI가 사람을 스스로 골라 공격했다”고 단정하려면 신중해야 한다.

우크라이나 당국자와 방공 지휘관, 잔해를 조사한 수사관들의 설명에 따르면 러시아의 몰니야(Molniya) 드론은 한때 주유소를 향하도록 유도됐지만, 마지막 비행 단계에서는 무선으로 연결된 인간 조종자의 추가 지시 없이 기내 컴퓨터를 이용해 최종 조준 지점을 선택했다. 드론은 2026년 7월 6일 주유소 인근 벽에 충돌했고, 테티아나 부비네츠(19세), 올렉시 스비린(41세), 로만 카르피이(48세)가 숨졌다. 조사 내용상 시스템이 사람을 식별한 것이 아니라 프로판 탱크를 찾았을 가능성이 제기됐다. 2411

이 차이는 중요하다. 현재 공개된 증거만으로는 AI가 특정 개인을 공격 대상으로 골랐다는 사실이 입증된 것은 아니다. 그러나 민간인이 있는 환경에서 기계가 공격의 결정적 조준 지점을 선택했고, 그 결과 민간인이 사망했다는 점은 분명히 드러난다. 결국 핵심 질문은 “사람이 무기를 발사했는가”가 아니라 “공격의 결과를 좌우하는 순간에 인간이 실질적인 판단과 통제를 행사했는가”다.

이번 공격이 보여준 것

이번 사례는 ‘AI 통제 드론’이라는 표현이 암시하는 것보다 범위가 좁을 수 있다. 보고에 따르면 인간 운용자는 드론을 특정 주유소 방향으로 보냈다. 이후 비행체에 탑재된 소프트웨어가 주변에서 특정 물체나 시설을 찾아냈고, 조사관들은 그 대상이 프로판 탱크였을 가능성에 주목했다. 드론은 탱크에 도달하기 전 아파트 벽에 부딪혔고, 폭발과 파편으로 세 명이 사망했다. 245

잔해에서는 엔비디아 젯슨 오린(Jetson Orin) 컴퓨터 모듈이 발견된 것으로 전해졌다. 또한 드론이 통상적인 원격 조종 신호 없이 작동했다는 설명도 나왔다. 다만 이 내용은 우크라이나 당국자와 군 관계자, 법의학 조사관을 인용한 보도에 기반한 것이며, 독립적인 국제 조사기관이 공개한 최종 조사 결과는 아니다. 4911

따라서 이 사건을 “최초의 사례”라고 부르는 표현에도 한계가 있다. 일부 전문가와 보도가 그렇게 평가하고 있지만, 국제재판소나 국제협약기구가 확정한 법적 판단은 아니다. 2513

도덕적 금지선은 이미 넘었을까

자율무기 논쟁에서는 서로 다른 두 가지 금지선을 구분할 필요가 있다.

1. 기계가 사람을 직접 식별하고 공격하는 경우: 자율적 대인 공격의 가장 분명한 형태다.
2. 기계가 다른 목표물을 자율적으로 선택했지만, 공격 과정에서 사람이 사망하는 경우: 현재 공개된 자포리자 사건은 여기에 가까워 보인다.

두 번째 경우는 가장 좁은 의미의 ‘자율적 인간 표적화’에는 해당하지 않을 수 있다. 그렇다고 해서 문제가 사라지는 것은 아니다. 사람이 단지 발사 명령을 내렸거나 넓은 지역과 목적지만 지정했다는 이유로 무기가 충분히 통제됐다고 볼 수 있는지 의문을 제기하기 때문이다.

소프트웨어가 실제로 타격할 지점을 결정한다면, 운용자는 민간인이 주변에 있는지, 무엇이 공격받을지, 해당 공격이 국제인도법상 민간인과 군사 목표를 구별하는 원칙과 비례성 원칙을 충족할지 정확히 알기 어려울 수 있다. 국제적십자위원회(ICRC)는 일부 자율무기의 효과를 운용자가 충분히 이해하거나 예측하고 설명하지 못할 수 있다고 경고해 왔다.

이번 사건이 드러낸 위험은 시스템이 사람을 인식하도록 명시적으로 훈련됐을 때만 시작되는 것이 아니다. 복잡한 민간 환경에서 결과의 예측 가능성이 충분히 확보되지 않은 채, 고위험 결정을 기계에 맡기는 순간에도 위험은 발생한다.

국제인도법은 이미 적용되고 있다

자율무기는 국제인도법의 적용 밖에 있는 새로운 영역이 아니다. ICRC에 따르면 자율무기도 무기의 하나인 만큼 무차별적 효과를 금지하는 규정 등 기존의 금지와 제한을 따라야 한다. 소프트웨어가 아니라 국가와 지휘관이 무기의 합법적 사용에 대한 책임을 진다.

다만 기존 규칙이 추가적인 인간 개입 없이 목표를 선택하고 공격하는 무기에 충분히 명확한 기준을 제공하는지는 여전히 논쟁적이다. ICRC는 새로운 법적 구속력 있는 규칙이 필요하다며, 무기의 작동 방식과 효과를 충분히 이해·예측·설명할 수 없는 자율무기를 명시적으로 금지해야 한다고 주장한다.

이는 자율 기능이 들어간 모든 무기를 일괄적으로 금지하자는 뜻은 아니다. 핵심은 받아들일 수 없는 시스템은 금지하고, 그 밖의 시스템에는 목표 유형과 운용 조건에 대한 엄격한 제한을 두는 ‘2단계 접근법’이다.

유엔과 ICRC가 요구하는 두 가지 금지

2026년 8월 유엔 사무총장과 ICRC 총재는 자율무기에 관한 법적 구속력 있는 국제문서를 마련하자는 공동 요구를 다시 내놓았다. 제안의 중심에는 다음 두 범주가 있다.

• 예측 불가능한 자율무기: 사용하는 사람이 그 효과를 충분히 이해하거나 예상할 수 없는 시스템
• 대인 자율무기: 인간을 직접 선택하고 공격하도록 설계되거나 사용되는 시스템

두 번째 범주는 자포리자 사건에서 확인된 사실보다 넓다. 해당 사건에서 드론이 선택한 것으로 추정되는 대상은 시설이었고, 민간인은 그 결과 발생한 폭발로 숨졌다. 대인 자율무기 금지는 시스템의 기술적 신뢰성이 높다고 주장되더라도, 기계가 사람을 직접 공격할지 결정하는 단계 자체를 허용하지 않겠다는 선을 긋는다.

ICRC는 전면 금지 대상이 아닌 자율무기에 대해서도 강한 제한을 요구한다. 제한 대상에는 공격 가능한 목표의 유형, 작동 시간과 지리적 범위, 운용 환경, 인간의 감독 수준, 개입 또는 비활성화 가능성 등이 포함될 수 있다.

2026년 11월 제네바 회의가 중요한 이유

특정 재래식 무기 금지협약(CCW)의 제7차 검토회의는 2026년 11월 스위스 제네바에서 열릴 예정이다. ICRC는 이 회의를 자율무기를 다루는 새 의정서 협상을 시작할 기회로 보고 있다.

유엔과 ICRC가 처음으로 구체적인 금지와 제한을 공동 촉구한 지 3년이 지났지만, 아직 구속력 있는 국제 규칙은 마련되지 않았다. 이번 재촉구는 각국 정부가 논의를 반복하는 데서 벗어나 실제 협상에 들어가야 한다는 의미다.

따라서 실질적인 진전 여부는 각국이 협상 개시를 결정하는지로 가늠될 수 있다. 외교적 성명은 공동의 우려를 확인하는 데 그치지만, 국제 의정서는 금지 대상과 허용 가능한 사용의 제한, 국가와 지휘관의 의무를 구체적으로 정해야 한다.

AI 군사화는 규제보다 빠르게 진행된다

규제 요구가 커지는 동시에 각국 군대의 AI 도입도 빨라지고 있다. 도널드 트럼프 미국 대통령이 2026년 6월 5일 서명한 국가안보 대통령각서(NSPM-11)는 국가안보 분야에서 AI의 개발과 도입을 가속하라고 지시했다. 각서는 자율무기에 관한 기존 정책을 업데이트하라는 내용도 담고 있다. 17

이 지시가 곧바로 자율적 살상 표적화를 승인한 것은 아니다. 그러나 각국이 AI의 작전상 이점을 확보하려는 경쟁에 놓여 있다는 점은 보여준다. 군사 AI 도입을 지지하는 정부와, 경쟁이 심해질수록 공통의 안전장치가 더 시급하다고 보는 군비통제 advocates 사이의 긴장도 커지는 이유다.

핵심 정책 과제는 전쟁에서 AI를 사용할지 여부만이 아니다. 상용 기술과 비교적 저렴한 컴퓨팅 장비가 자율 표적화 기술을 확산시키기 전에, 각국 정부가 실효성 있는 경계를 정하고 집행할 수 있느냐가 문제다. 몰니야 드론에 상용 엔비디아 컴퓨터가 사용됐다는 보고는 이 우려를 구체적으로 보여주지만, 공개된 자료만으로 해당 시스템의 정확한 비용이나 생산 규모가 독립적으로 확인된 것은 아니다. 615

가장 정확한 결론

자포리자 공격을 근거로 “기계가 사람을 자율적으로 사냥하기 시작했다”고 단정해서는 안 된다. 현재 공개된 설명은 AI가 사람이 아니라 시설로 추정되는 목표를 선택했고, 공격이 빗나가면서 민간인이 숨진 사건에 더 가깝다. 24

그렇다고 이 사건이 법적·도덕적으로 일상적인 드론 공격이 되는 것은 아니다. 무기가 결정적인 조준 지점을 독자적으로 선택하고, 민간 환경에서 그 효과를 안정적으로 예측할 수 없다면 “인간이 지휘 체계 어딘가에 관여했다”는 사실만으로는 의미 있는 통제라고 보기 어렵다.

결국 이 사건은 논쟁을 끝내기보다 더 날카롭게 만든다. 유엔과 ICRC가 제안한 해법처럼 예측 불가능한 자율무기와 사람을 직접 표적으로 삼도록 설계된 무기는 금지하고, 그 밖의 자율무기에는 목표·시간·지역·환경·감독·비활성화 능력에 관한 강제력 있는 제한을 두는 방안이 핵심으로 떠오르고 있다. 이제 관심은 원칙 자체가 아니라, 각국이 2026년 11월 CCW 검토회의에서 이를 실제 국제 규칙으로 전환할지에 쏠린다.