The decision to kill a human should not be delegated to a machine.Rapid technological innovation has revolutionized warfare; it has pulled soldiers away from war’s front lines and gradually replaced them with advanced weaponry. Drones, for instance, covertly strike targets around the globe as their operators sit safely elsewhere. Humanity is now on the cusp of developing “killer robots,” or fully autonomous weapons capable of killing without operators.

In a report released on Thursday, Human Rights Watch (HRW) and Harvard Law School jointly call for the weapons to be declared unlawful by international treaty before they become a reality. Though fully autonomous weapons do not exist yet, technology is moving in that direction; Israel’s Iron Dome is programmed to respond to incoming explosives on its own and projects looking to enhance the autonomy of drones are in the works. The authors of “Mind the Gap: The Lack of Accountability for Killer Robots” assert that under existing law, humans who manufacture, program and command the lethal robots of the future would escape liability for any suffering caused.

Criminal liability would likely only apply when commanders purposefully use robots to violate international law, which would be hard to prove, explained Bonnie Docherty, HRW’s senior arms division researcher and the report’s lead author. In terms of civil liability, it would be almost impossible, especially in the United States, to hold someone accountable as members of the military and contractors are given immunity from being sued by the victim of war. And when it comes to product liability law, there are even greater hurdles to providing the necessary evidence.

“Without accountability there is no deterrence of future violation of international law, there is not retribution for victims who want to see someone condemned for the suffering they experienced and there is no greater social condemnation of individuals that used the weapons,” asserts Docherty.

The report argues that the decision to kill a human should not be delegated to a machine. Not only can a machine not be held legally accountable, but it is near impossible to ensure the robot complies with international law. How would it determine the difference between a soldier and a civilian?

Many defense-minded analysts see the potential of free-thinking machines to make nations more effective on the battlefield, relieve leaders of difficult decisions and reduce casualties. But the report aggressively attacks these perceived benefits.

While Docherty concedes that machines are able to think faster than humans, she doesn’t think this is necessarily a good thing. A robot could carry out an unlawful act before a human could prevent it, for instance. Without the human ability to differentiate between a combatant and civilian, these weapons could actually endanger soldiers.

Docherty also rejects the idea that the technology would save soldiers’ lives. By further removing soldiers from war, she says, it becomes easier for countries to go to war and increases the likelihood of conflict.

The authors call for a prohibition on “the development, production, and use of fully autonomous weapons through an international legally binding instrument.” The report recommends an outright ban rather than regulation because once the technology is in existence, states will be tempted to use them. And one stocked arsenal is the gateway to the weapon’s proliferation and a never-ending arms race.

Docherty is optimistic that her recommendation will come to fruition because there is precedent for outlawing weapons—in 1995, blinding lasers were pre-emptively banned and cluster munitions were outlawed in 2008. As the lingering existence of cluster bombs shows, however, a U.N. ban isn’t a guaranteed prohibition.
인권단체 “인간의 목숨 앗아가는 결정권을 기계에 위임해선 안돼”급속한 기술혁신이 전쟁에 큰 변화를 일으켰다. 전선의 병력이 서서히 첨단무기로 대체되는 중이다. 드론(무인항공기)은 조종자가 멀리 안전하게 앉아 있는 동안 세계 도처에서 표적을 은밀히 공격한다. 이제 인류는 ‘킬러 로봇’까지 개발할 계획이다. 조종자 없이 적을 살상할 수 있는 완전 자동화된 무기를 말한다.

국제 인권단체 휴먼라이츠워치(HRW)와 하버드 로스쿨은 지난 4월 9일 발표한 보고서를 통해 ‘킬러 로봇’이 현실화되기 전에 국제 협약에 의해 그런 무기를 불법화해야 한다고 촉구했다. 완전 자동화된 무기는 아직 존재하지 않지만 기술이 발전하고 있다. 이스라엘의 미사일 방어 시스템 ‘아이언돔’은 날아오는 미사일에 스스로 대응하게끔 프로그램됐다. 또 드론의 자율성을 높이는 프로젝트도 진행 중이다. ‘킬러 로봇의 책임소재 결여’라는 제목의 이 보고서는 기존 법에선 미래형 치명적인 로봇을 만들고 프로그램하고 조종하는 인간이 그로 인해 발생하는 모든 고통의 책임에서 면제될 수 있다고 지적한다.

보고서의 주 저자이자 HRW의 무기 전문 수석연구원인 보니 도처티에 따르면 지금으로선 지휘관이 로봇을 사용해 의도적으로 국제법을 위반하는 경우에만 형사 책임이 적용될 가능성이 있지만 입증이 어렵다. 민사 책임의 경우 관련자 처벌이 거의 불가능하다. 특히 미국에서 그렇다. 군과 방산업체는 전쟁 희생자의 소송에서 면책권을 갖기 때문이다. 게다가 제조물 책임법에선 필요한 증거를 제공하기가 더 어렵다.

도처티는 “책임 소재 규명이 없으면 향후 국제법 위반을 막을 수 없고, 법의 심판을 원하는 피해자를 위한 처벌이 불가능하며, 그 무기를 사용한 사람을 사회적으로 규탄할 수도 없다”고 강조했다.

보고서는 인간의 목숨을 앗아가는 결정권을 기계에 위임해선 안 된다고 주장한다. 기계는 법적 책임을 질 수 없을 뿐 아니라 로봇에 국제법 준수를 강요하기도 사실상 불가능하다. 또 군인과 민간인을 기계가 구별할 수도 없다.

방위를 중시하는 분석가는 자율성을 가진 기계가 전쟁을 더욱 효과적으로 치를 수 있도록 해주며, 지도자 대신 어려운 결정을 내리고, 사상자를 줄일 수 있다고 주장한다. 그러나 이 보고서는 그런 주장을 단호히 비판한다.

도처티는 기계가 인간보다 더 빨리 판단할 수 있다는 점은 인정하지만 그게 반드시 좋지는 않다고 생각한다. 예를 들어 로봇은 인간이 사전에 막기 전에 불법 행위를 수행할 수 있다. 전투원과 민간인을 구별하는 인간의 능력이 없는 이런 기계가 오히려 아군을 위험에 빠뜨릴 수 있다.

그는 또 기술이 군인의 목숨을 구할 수 있다는 주장도 일축한다. 군인을 전쟁에서 멀리 떨어져 있게 함으로써 국가들이 전쟁을 일으키기가 더 쉬워져 전쟁이 일어날 확률이 높아진다고 도처티는 말했다.

보고서는 “완전 자동화된 무기의 개발·제작·사용을 국제법에 의해 전면 금지해야 한다”고 촉구한다. 일단 그런 기술이 개발되면 국가가 사용할 유혹을 쉽게 느껴 규제보다는 전면 금지가 바람직하다는 견해다. 그런 무기가 만들어지면 확산이 계속돼 끝없는 군비경쟁이 시작될 수 있다.

도처티는 그런 권고안이 결실을 맺으리라고 낙관한다. 전례가 있기 때문이다. 1995년 유엔이 섬광레이저 무기를 개발 직전 금지했고, 집속탄도 2008년 불법무기로 규정했다. 그러나 집속탄이 아직도 사용되고 있다는 사실로 미뤄 유엔 협약이 킬러 로봇의 완전 금지를 보장하지는 않는다.

- 번역 이원기

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지