“죽이려 날아드는 로봇…SF소설 방불”…당장 드론에 AI 접목될 가능성
디스토피아 논란…미·중·러 “민간인 등 전쟁피해 감축에 이익”
인간의 생사를 스스로 결정할 인공지능(AI) 무기의 전쟁터 출현이 임박했지만 이런 잠재적 위험을 차단할 국제사회의 규제가 그 속도를 따라가지 못한다는 지적이 제기됐다.
미국 뉴욕타임스(NYT)는 21일(현지시간) AI 자율살상무기의 개발 추세, 주요국의 입장, 국제사회의 논의 등을 다룬 탐사보도에서 이같이 진단했다.
보도에 따르면 AI 기술의 급속한 발전과 현재 치러지고 있는 전쟁 때문에 AI 자율살상무기 문제가 더 시급하게 부각된다.
당장 AI의 자율살상 기능이 접목될 가능성을 가장 크게 주목받는 무기는 우크라이나와 중동 전쟁에서 사용이 급증한 무장 무인기(드론)다.
드론은 지금까지는 일반적으로 인간이 조종하지만 현재 스스로 표적을 찾아 공격하도록 하는 소프트웨어가 개발되는 것으로 전해진다.
통신과 GPS(위치정보파악 체계)를 방해하는 재밍(jamming·전파방해) 전술이 많이 사용되는 우크라이나에서 조종사와 드론의 교신이 끊어질 경우에 자율가동 기능이 부여될 수 있다.
개스턴 브라운 앤티가 바부다 총리는 “디스토피아 소설의 줄거리가 아니라 닥치는 현실”이라고 최근 유엔 회의에서 우려를 드러냈다.
자율살상무기가 전혀 새로운 것은 아니다.
밟으면 스스로 터지는 지뢰에서부터 미사일 공습을 감지해 스스로 차단하는 방어체계도 자율무기에 포함된다.
그러나 AI가 접목되는 자율무기는 정보를 수집한 뒤 가공해 스스로 결정한다는 점에서 기존 무기와 차원이 다르다.
NYT는 “공상과학 소설 같은 것”이라며 “표적을 스스로 추적하는 킬러로봇 무리가 인간의 허락도 없이 살해를 위해 날아드는 것”이라고 지적했다.
미국과 중국을 비롯한 소수 군사강국을 중심으로 발전하는 AI 자율살상 기술을 두고 국제사회에서는 우려가 쏟아진다.
인간의 삶과 죽음을 결정하는 판단을 인간을 건너뛰고 오작동, 통제불능 우려가 있는 기계에 맡기면 전쟁의 본질이 더 참혹하게 바뀔 수 있다는 점에 불안이 크다.
여러 국가 정부는 사용을 규제할 법적 구속력이 있는 규정을 자율살상무기에 부과하자고 유엔에 제안하고 나섰다.
오스트리아의 협상대표인 알렉산더 크멘트는 “인류에 가장 중요한 변곡점 중 하나”라며 “무력사용에서 인간의 역할이 무엇인지에 대한 확실히 근본적인 안보, 법률, 윤리 문제”라고 말했다.
NYT는 유엔에서 우려를 논의할 토대는 마련하겠지만 거기에서 각국 견해차 때문에 대책이 나올 가능성은 거의 없다고 내다봤다.
미국, 러시아, 이스라엘 등은 새 국제법이 당장 필요한 게 아니라고 주장하고 있고, 중국은 있으나 마나 한 규제를 제안한 것으로 전해졌다.
이런 상황에서 약소국들은 국제법이 정비되기 전에 AI 자율살상무기가 전쟁터에 확산할 가능성에 우려한다.
세계 무기 시장을 주도하는 미국은 기존 국제법에 이미 민간인 보호와 관련한 조항이 있다며 이를 구체화하자고 대안을 제시했다.
미국 국방부는 벌써 자율살상무기를 전장에 대폭 도입하겠다는 계획이다.
캐슬린 힉스 미국 국방부 부장관은 중국의 첨단투자 때문에 소모용 자율무기를 수천개 규모로 향후 2년간 실전에 배치하게 됐다고 밝혔다.
미국 국방부는 허가 없이 이뤄지는 새로운 자율살상무기의 사용이나 개발을 금지한다.
사용되더라도 지역이나 기간이 제한되고 AI가 통제하는 경우에는 인간이 시스템에 제동을 걸 능력을 반드시 보유해야 한다.
그러나 AI 무기를 둘러싼 군비경쟁 속에 이 같은 초기 조건은 결국 사라질 것이라는 관측이 제기된다.
당장 미군 지도부에서도 AI 무기가 처음에는 살상 전에 인간의 통제를 받겠지만 나중에는 고삐가 풀릴 것으로 보는 시각이 있다.
프랭크 켄달 미국 공군 장관은 “(인간의) 개별적 결정 여부가 승패의 차이가 돼 패배할 수 있다”며 “우리만 그렇게 제한을 두면 적들에게 크게 유리할 것”이라고 지적했다.
토머스 햄스 미국 국방대 연구원은 최근 싱크탱크 애틀랜틱 카운슬 보고서에서 AI 자율살상무기의 개발과 사용이 미국을 비롯한 민주주의 국가의 ‘도덕적 의무’라고 주장했다.
그는 “그렇게 하지 않으면 큰 재래식 전쟁에서 군인과 민간인을 포함해 많은 사망자가 나올 것이며 전쟁에서 패배할 수 있다”고 강조했다.
NYT는 미국, 중국, 러시아가 AI 자율살상무기가 민간인 사상자와 불필요한 물리적 피해를 줄이는 이익이 있을 것으로 본다고 전했다.
현재 AI 자율살상무기에 대한 논의는 스위스 제네바에 있는 유엔 위원회에서 이뤄지고 있다. 위원회는 2025년 말까지 연구를 지속하기로 했다. [연합뉴스]
위 기사는 저작권법의 보호를 받은 바, 무단 전재, 복사, 배포 등을 금합니다.
