인공지능, 빅데이터, 2차전지 등 4차산업 첨단기술의 발달과 초저출생에 따른 병역자원의 부족 등으로 자율살상무기(Lethal Autonomous Weapons, LAWS)의 활용이 촉진되고 있다. 현재 장기화하고 있는 러시아-우크라이나전쟁과 이스라엘-하마스전쟁에서도 드론에 기반한 자율살상무기의 개발과 시험운용 가능성을 심각하게 우려하고 있다. 미국, 중국, 일본, 러시아뿐만 아니라 북한조차 LAWS의 개발에 나서면서 LAWS는 국제사회뿐만 아니라 동아시아 안보의 새로운 도전으로 급부상 하고 있다.
 
자율살상무기(LAWS) 혁신은 AI 첨단기술의 군사적 적용뿐만 아니라 인명 중시, 고위험 임무의 안전성, 초저출생에 따른 제2의 인구절벽 도래 등을 반영한 시대적 요구이다. 자율살상무기는 물리적 파괴에 추가하여 인간의 생명 자체를 위협한다.  LAWS는 ‘사전 프로그래밍 된 규칙(Pre-programmed Rules)’이나 인공지능(Artificial Intelligence, AI)에 의해 표적을 스스로 선택하고 공격할 수 있어서 자칫 무고한 민간인이나 비전투 표적을 공격할 위험이 크다. 자율살상무기는 감정이나 연민과 같은 인간적 특성이 없어서 전투 상황에서 상대의 의도를 고려하지 않고 무차별적이고 무자비하게 목표물을 공격할 수 있다. 또한, LAWS가 내린 결정에 대한 투명성을 보장할 수 없고, 결과에 대한 책임을 묻기도 곤란하다.

군사용 인공지능(AI)은 군사력 향상, 민첩한 대응, 전략적 운용, 안전 보장, 경제적 군 운영 등에 활용되며, 군사 로봇 또는 드론에 장착하면 자율살상무기로 운용된다. 자율살상무기는 위협의 특성 변화에 따른 기존 위협의 확대와 새로운 위협의 출현, 기계에 의한 의사결정 추상화와 살인에 대한 책임소재의 모호성, 법적·윤리적·도덕적 해이에 따른 생명권 경시, 인간성의 피폐화와 인간의 수단화 등 많은 쟁점을 안고 있다. 자율살상무기(LAWS) 개발‧사용‧생산에 대한 찬반 논란도 치열하다. 찬성론자는 방위비 부담 감소, 인명 손실과 재산 피해의 최소화, LAWS를 운용한 살인자 식별 용이 등을 주장하고 있다. 반면에 반대론자는 킬러로봇이 전투 문턱을 낮춰 삶을 크게 훼손할 수 있고, 법적 책임이나 민주적 논의 없는 다수의 비밀공작 전쟁이 가능하며, 윤리적 문제와 국제법 위반 가능성이 높다고 우려하고 있다.

현실적으로, LAWS는 국제법상의 국제인도법(군사작전 3대 원칙-구별의 원칙, 비례성의 원칙, 사전주의 원칙), 과잉무기사용금지 원칙, 무력충돌 원칙 등을 쉽게 위배할 수 있다. 따라서 자율살상무기를 개발하는 것은 윤리적 설계와 검수를 거쳐 투명하게 진행되어야 하며, 현재의 AI 기술성숙도(Technology Readiness Level, TRL)를 고려하면, 인간이 주요 결심을 통제함으로써 인명 피해를 최소화하여야 한다. 특히, 인간의 제어가 필수적인 반자율 인공지능에서의 윤리적 설계와 인간의 역할을 구체화할 필요성이 있다. 즉, AI 무기체계의 기획, 설계, 개발 등의 전체 단계를 통해 윤리적 점검 사항을 선정하여 적용하여야 한다. 또한, AI가 고도의 자율시스템으로 진화할 때를 대비하여 피아식별이나 전투원-비전투원 구분을 인간보다 잘 할 수 있는 방안도 강구 하여야 한다.

인간의 통제와 AI를 이용한 무기의 자율성은 반비례한다. 자율살상무기(LAWS)는 자동적 방어 또는 공격 체계로 운용될 수 있고, 인간이 배제된 신속 대응도 가능하다. 따라서 LAWS의 운영에 따른 무고한 시민과 비전투원의 피해를 최소화하기 위해 AI 윤리기준의 마련이 시급하다. 국제사회는 AI의 군사적 활용이 증가하면서 자율살상무기(LAWS)의 윤리적 과제를 식별하여 해결하기 위한 노력을 시작하고 있다. 국제로봇무기통제위원회(International Committee for Robot Arms Control, ICRAC)는 자율무인전투체계의 연구·개발, 배치, 사용을 금지하는 방안을 제안하였고, 살인로봇반대캠페인(Campaign to Stop Killer Robots)과 국제적십자위원회( International Committee of the Red Cross, ICRC)는 자율살상무기가 국제인도법을 위배할 수 있다고 지적하였다. 국제인권감시기구(Human Rights Watch)와 국제앰네스티(Amnesty International)는 LAWS의 군사적 활용에 관해 국제인도법 준수와 윤리적 행동을 위한 선제적 예방조치의 필요성을 강조하였다. 유엔은 2013년 유엔인권이사회(UN Human Rights Council) 특별보고서에서 회원국 합의가 이루어질 때까지 LAWS의 개발, 생산, 배치를 중지할 것을 권고하였으며, 2014년 유엔특정재래식무기금지협약(UN Convention on Certain Conventional Weapons, CCW)은 LAWS의 개념과 정의, 기술적 특성, 윤리적·안보적 이슈, 국제 규범화 등을 논의하였으나 구체적 실행계획 도출에는 합의하지 못하였다. 2020년 2월 미국은 AI 윤리원칙으로 책임성, 공평성, 추적 가능성, 신뢰성, 통제 가능성 등을 제시하였다. 같은 해 9월 영국도 데이터 윤리 프레임워크를 발표하였다. 2021년 6월 OECD는 인공지능 신뢰성 확보를 위한 도구를 제안하였으며, 같은 해 11월 UNESCO는 인공지능 윤리 권고안을 공표하였다. 2022년 1월 일본도 인공지능 원칙 실천을 위한 거버넌스 가이드라인을 제시하였다.

최근 들어 한국도 인공지능 윤리 기준 및 원칙을 발표하고 각종 가이드라인, 개발 기준 등을 마련하고 있다. AI의 군사적 활용에 따른 윤리적 과제는 국방부와 외교부를 중심으로 논의가 이루어지고 있으나 국제사회와 공조하여 국가이익 차원에서 접근할 필요가 있다. 먼저, 한국군 자체적으로 LAWS 개발과 사용에 대한 군사 윤리 교육을 강화함으로써, 인권을 존중하고 국제법을 준수하여야 한다. 둘째, 한국군 LAWS 개발과 사용에 관한 정보를 투명하게 공개함으로써 국제사회의 지지를 확보해야 한다. 셋째, 한국군 독자적인 LAWS 사용에 관한 군사적 규범을 개발하고 시행함으로써 윤리적 사용을 보장해야 한다. 마지막으로, LAWS 사용에 관한 국제표준 제정에도 적극적으로 동참하여야 한다. 참고로 9월 서울에서 두 번째 ‘인공지능의 책임 있는 군사적 이용에 관한 고위급회의(Responsible AI in the Military Domain Summit, REAIM)’가 추진되고 있다. 

초저출생에 따른 병역자원 부족과 AI의 군사적 활용에 따른 자율살상무기(LAWS)의 발전은 거부할 수 없는 세계적 추세이다. 따라서 한국군 LAWS 발전은 국방부를 중심으로 관련 기관, 기업체와 대학, 그리고 이해관계자와 적극적 협력이 반드시 필요하다. 하지만, 국제사회와 협업하여 LAWS의 군사적 활용과정에서 생명의 존엄성, 의사결정 통제 등 윤리 문제에도 지속적으로 관심을 가져야 할 것이다. (konas)

박상중 : 국방대학교 직무교육원 교수, 한미연합사 정책자문위원

※ 외부 필진의 칼럼은 본지의 편집 방향과 다를 수 있습니다.