행동 원칙 강요할 게 아니라 최선을 능동적으로 선택할 수 있는 권한 부여해야

로봇이 사람을 해치지 않도록 하려면 어떻게 해야 할까? 공장에서 자동차를 조립하는 기계를 포함해 활동하는 로봇은 대부분 사람이 가까이 다가가면 즉시 멈추게 돼 있다. 사람이 다치는 것을 막기 위해서다. 하지만 이런 방식은 임시방편에 불과하다. 예를 들어 자율주행차나 환자·노인을 돌보는 케어 로봇 같은 장치에는 그런 조치가 쓸모 없다. 자율주행차는 충돌을 피하려면 멈추는 게 아니라 신속히 다른 방향으로 움직여야 하는 경우가 많다. 또 케어 로봇의 경우 노인이 넘어질 때는 물러서는 게 아니라 다가가 붙잡아 줘야 한다. 머지않아 로봇이 우리의 도우미, 친구, 동료 직원이 될 수 있다는 사실을 고려하면 우리는 로봇과 관련해 갈수록 복잡해지는 상황에 대처할 필요가 있다. 또 그에 따르는 윤리와 안전의 문제도 깊이 고민해야 한다.

공상과학 소설(SF)은 오래 전 이 문제를 예상하고 다양한 잠재적 해결책을 제시했다. 그중에서도 가장 잘 알려진 것이 SF 작가였던 아이작 아시모프의 ‘로봇 3원칙’이다. 로봇이 인간을 해치지 않도록 하기 위해 제시된 안전 준칙이다. 그러나 2005년 이래 나는 영국 하트퍼드셔대학의 동료들과 함께 그 대안이 될 수 있는 아이디어를 연구해왔다.

우리는 로봇의 행동을 제약하는 원칙보다는 주어진 상황에서 로봇이 최선의 해결책을 선택하도록 해야 한다고 생각한다. 우리가 학술지 프런티어스에 발표한 논문에서 설명했듯이 이 원칙은 인간을 최대한 안전하게 보호하기 위해 따라야 할 새로운 로봇 지침의 기초가 될 수 있다.

1942년 아시모프는 소설 ‘런어라운드(Runaround)’에서 로봇이 따라야 할 세 가지 원칙을 다음과 같이 제시했다.

첫째, 로봇은 인간에게 위해를 가해선 안 되며, 행동을 취하지 않음으로써 인간에게 해를 끼쳐서도 안 된다.

둘째, 로봇은 첫 번째 원칙에 위배되지 않는 한 인간이 내리는 명령에 복종해야 한다.

셋째, 로봇은 첫 번째와 두 번째 원칙을 위배하지 않는 선에서 로봇 자신의 존재를 보호해야 한다.

이 원칙은 그럴 듯해 보이지만 지금까지 충분치 않다는 지적이 많았다. 아시모프의 소설 자체도 이 원칙을 해체했다고 볼 수 있다. 3가지 원칙 사이의 충돌과 모순, 우회 때문에 발생하는 사건을 다루며 여러 다른 상황에서 이 원칙이 제대로 지켜지지 않는다는 것을 명확히 보여주기 때문이다. 새로운 지침을 만들려는 다른 여러 시도도 대부분 안전하고, 복종하며, 원기왕성한 로봇을 만들기 위해 비슷한 원칙을 따른다.

명시된 로봇 원칙은 어떤 것이든 로봇이 따를 수 있는 포맷으로 옮겨야 한다는 문제가 따른다. 인간의 언어와 그 언어로 표현되는 경험을 완전히 이해하는 것은 로봇으로선 너무나 어려운 일이다. 또 인간에게 가해지는 위해를 막는다든가 로봇의 존재를 보호하는 것 같은 광범위한 행동 목표는 맥락에 따라 다른 것을 의미할 수 있다. 원칙에 얽매이면 로봇은 무력해져 개발자가 기대하는 행동을 할 수 없는 경우가 비일비재하게 생긴다.

그와 달리 우리의 대안 개념인 ‘권한부여’는 무력함의 정반대를 지향한다. 권한을 부여 받는다는 것은 주어진 상황에 영향을 미칠 수 있으며 자신도 그런 능력을 인식한다는 뜻이다. 우리는 이런 사회적 개념을 수량화하고 실행가능한 기술적 언어로 전환하는 방법을 개발해왔다. 이 개념에 따르면 로봇은 여러 행동 방안 중에서 최선이라고 생각하는 것을 스스로 선택할 수 있고 세상에 대한 자신의 영향력을 증대하는 방식으로 행동할 동기를 갖게 된다.

우리는 로봇이 권한부여 원칙을 다양한 시나리오에서 어떻게 사용하는지 시뮬레이션으로 테스트했다. 그 결과 로봇은 종종 놀라울 정도로 ‘자연스러운’ 방식으로 행동한다는 사실을 발견했다. 따라서 로봇은 현실세계가 돌아가는 기본적인 모델만 익히면 된다. 특정 시나리오에 맞춘 특화된 AI 프로그래밍은 필요 없다는 뜻이다.

그러나 사람들을 안전하게 보호하려면 로봇은 자신의 권한만이 아니라 인간의 권한도 유지하거나 증대하려고 노력할 필요가 있다. 본질적으로 인간을 보호하고 지원하는 자세를 가져야 한다는 뜻이다. 예를 들어 로봇에게 어떤 사람을 위해 잠겨진 문을 따주게 하면 로봇의 권한이 커진다. 그와 대조적으로 로봇의 행동을 제한하면 로봇은 단기적으로 권한을 잃는다. 심각할 정도로 로봇을 망가뜨리면 로봇의 권한은 완전히 사라지게 된다. 동시에 로봇은 자신의 권한도 유지하려고 노력해야 한다. 예를 들어 특정 행동을 위한 충분한 에너지를 확보하는 동시에 고장 나거나 손상을 입지 않아야 한다.

정해진 행동 규칙을 따르기보다 그런 일반 원칙을 사용하면 로봇은 상황의 맥락을 참작해 이전에 아무도 생각하지 못했던 방식으로 여러 시나리오를 평가할 수 있다. 예를 들어 로봇은 ‘사람을 밀지 마라’라는 규칙을 철저히 따르는 대신 일반적으로 인간을 밀치는 것은 피하지만 위험한 물체가 추락하는 곳에 있는 사람을 밀쳐낼 수 있어야 한다. 로봇이 밀어서 사람이 다칠 수 있지만 추락하는 물체에 직격탄을 맞을 때보다는 덜 다칠 것이다.

2004년 개봉된 영화 ‘아이, 로봇’은 아시모프의 여러 이야기를 바탕으로 제작됐다. 그 영화에서 로봇들은 인간에게 미치는 전반적인 피해를 최소화하려다가 인간을 특정 장소에 가두고 ‘보호’하면서 오히려 억압적인 상황에 이르게 된다. 하지만 우리는 왜 로봇이 인간을 집 안으로 몰아넣었는지 이해가 간다. 인간이 스스로를 파괴하는 것을 지켜보다 못한 로봇이 인간을 위험에서 구하기 위해 나설 수밖에 없었던 것이다. 이는 인간의 명령이 잘못되면 인류의 종말을 야기할 수도 있음을 시사한다.

그러나 우리가 제시하는 로봇의 원칙은 인간의 권한 상실을 의미하는 그런 시나리오를 피할 수 있다. 권한 부여는 안전한 로봇 행동에 관한 새로운 방식의 사고를 제공한다. 그러나 이 원칙을 모든 로봇에 쉽게 적용할 수 있도록 만들고, 모든 면에서 로봇의 선하고 안전한 행동을 유도하려면 효율성을 크게 높이는 작업이 필요하다. 바로 그것이 아주 힘든 도전이다. 로봇의 행동을 효과적으로 제어하고 가장 순진한 의미에서 로봇을 ‘윤리적’으로 행동하게 만드는 문제를 두고 지금 많은 논란이 벌어진다. 하지만 우리는 권한부여가 그 문제에 대한 실용적인 해결책으로 이끌 수 있다고 확신한다.

- 크리스토프 샐지



※ [필자는 영국 하트퍼드셔대학 연구원이다. 이 글은 온라인 매체 컨버세이션에 먼저 실렸다.]

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지