전기 자동차 제조업체 테슬라의 엘론 머스크 CEO를 포함한 세계의 선도적인 인공지능(AI)·로봇공학 전문가들이 너무 늦기 전에 킬러 로봇의 개발을 막기 위한 조치를 취하라고 유엔에 촉구했다. 26개국의 전문가 116명이 서명한 그 성명은 이렇게 시작된다. ‘우리가 개발하는 AI와 로봇공학 기술이 자율무기 개발에 전용될 수 있어 우리는 경종을 울려야 할 책임감을 느낀다.”

아직 개발되지는 않았지만 킬러 로봇은 이론상 완전 자율적이며 전혀 인간의 개입 없이 인간을 적으로 간주하고 표적으로 삼아 살상할 수 있다. 순항미사일이나 원격으로 조종하는 무인기는 그 표적을 모두 인간이 결정한다. 그와 달리 예컨대 AI를 탑재한 쿼드콥터(날개 4개짜리 무인기)는 미리 정해 놓은 기준에 부합하는 사람을 독자적으로 탐색해 파괴할 수 있다.

인권단체 휴먼라이츠워치(HRW) 산하 무기 부문의 메리 웨어햄 인권팀장은 “도덕적으로 무력사용의 결정권을 인간이 가져야 마땅하며 이는 국제법 준수와 결과에 대한 책임감 강화에 필수적”이라고 지난 1월 말했다.

현재 각국이 마음만 먹는다면 완전 금지조치를 실시할 수단은 있지만 시간이 얼마 남지 않았다. HRW에 따르면 10여 개국이 자율무기 체계를 개발 중이다. 구체적으로 미국·중국·이스라엘·한국·러시아·영국이 언급됐다. 전문가들은 킬러 로봇을 가리켜 일단 뚜껑이 열리면 닫기 어려운 ‘판도라의 상자’로 부르며 무기에 AI의 사용 금지를 촉구했다고 BBC는 보도했다.

화약과 핵무기 혁명 이상으로 이번 제3의 혁명으로 “과거 어느 때보다 더 큰 규모로 그리고 인간이 이해할 수 없을 정도로 빠르게 무력 충돌이 벌어지게 될 것”이라고 성명은 우려했다. “이들 무기는 테러용으로, 독재자와 테러범이 무고한 시민을 향해, 그리고 해킹을 통해 바람직하지 않은 방식으로 사용될 수 있다. 우리에게 시간이 많이 남지 않았다.”

- 순디프 쿠마르 카바날 라데시 아이비타임즈 기자

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지