자율주행차는 사람보다 더 공정하게 운행할 수 있지만 횡단보도 같은 일상적 상황에선 윤리적 딜레마 생길 수 있어

자율주행차가 현실의 기술로 구현되고 도로 위에서 실제 주행 테스트가 이뤄진다. 머지않아 자율주행차의 시대가 닥칠 전망이다. 그러면서 점차 윤리적인 문제가 심각하게 대두되고 있다. 우리가 운전할 때 윤리적 판단을 즉시 내려야 하는 상황이 자주 생긴다. 자율주행차도 인간 운전자처럼 여러 가치가 충돌하는 상황에 직면할 수밖에 없다. 따라서 자율주행차는그런 상황에서 안전성, 기동성, 합법성이 균형을 이루는 결정을 내릴 수 있도록 설계돼야 한다.

지금까지 자율주행차에 관한 논의와 윤리적 고찰의 대부분은 비극적인 딜레마에 초점을 맞췄다. 예를 들면 차가 어린아이들이 길을 건너는 횡단보도로 돌진할지 낭떠러지로 질주해 승객을 사망케 할지 결정해야 하는 ‘가정’의 상황을 가리킨다. 하지만 그런 상황들은 지극히 예외이며 극단적인 경우다.

지난 3월 18일 미국 애리조나주 템피에서 자율주행 모드로 운행하던 우버 차량이 횡단도로에서 길을 건너던 여성 보행자를 치어 숨지게 한 사고가 발생했다. 이 가장 최근의 사고가 잘 보여주듯이 횡단보도, 길모퉁이, 교차로에서 발생하는 일상적인 상황이 극단적이고 예외적인 경우보다 훨씬 더 어렵고 광범위한 윤리적 딜레마를 제시한다.

스탠퍼드대학 자동차연구센터의 엔지니어들과 함께 연구하는 철학자로서 나는 처음엔 실험실 회의라는 중요한 시간에 ‘자율주행차는 횡단보도에 어떻게 접근해야 하나?’ 같은, 내가 생각하기에 ‘너무나 평범한 문제’를 토의하는 것이 이해가 잘 가지 않았다.

그런 논의에서 나는 자동차가 승객의 생명과 보행자의 생명 중 어느 쪽을 살릴지 어떻게 선택해야 하는지에 관해 고심해야 한다고 판단했다. 그런 딜레마를 두고 어떻게 생각해야 할지 철학자로서 나는 잘 알고 있었다. 그런 차량사고 시나리오는 유명한 철학적 사고실험인 ‘트롤리 딜레마(trolley problem)’와 비슷하기 때문이다. 이 실험은 ‘제동되지 않는 트롤리가 선로에 서있는 5명을 향해 돌진하는 상황에서 당신은 선로전환기를 당겨 다른 선로에 서있는 1명을 치는 대신 5명을 구할 것인가 아니면 5명을 치고 다른 선로의 1명을 구할 것인가’라는 가설적 상황을 제시한다. 공리주의적 입장에서는 ‘5명이 죽는 것보다는 1명이 죽는 게 더 낫다’고 쉽게 말할 수 있지만 현실에선 결코 그리 간단한 문제가 아니다.

그러나 요즘의 많은 철학자는 그런 문제의 탐구가 과연 가치 있는지 의문을 표한다. 예를 들어 스탠퍼드대학의 내 동료인 바바라 프리드 연구원은 그처럼 극단적이고 비극적인 문제를 제시하게 되면 일반적으로 사람들은 윤리적 딜레마가 대부분 극단적인 상황에서 발생한다고 믿기 쉽다고 지적했다.

실제로 윤리적인 진퇴양난의 상황은 언제 어디서든 나타날 수 있다. 우리가 흔히 접하는 일상적인 상황도 자세히 뜯어보면 놀라울 정도로 혼란스럽고 복잡하며 미묘하다. 예를 들어 이런 문제다. 시 정부가 당뇨예방 프로그램에 예산을 지출해야 할까 아니면 그 예산으로 사회복지사를 더 많이 지원해야 할까? 공중보건당국이 식당 위생 조사관을 추가로 고용해야 할까 아니면 그 대신 무료 주사기 보급 프로그램에 더 투자해야 할까?

이런 질문에 답하기는 아주 어렵다. 결과의 불확실성 때문이다. 두 가지 중 하나의 안을 선택했을 때 어느 편이 어느 정도의 이익을 보거나 피해를 입는지 정확히 알 수 없다는 뜻이다. 극단적이고 절박한 상황 아래서의 선택에 관해 철학자들이 제시하는 해법은 이런 문제의 답을 찾는 데선 거의 도움이 되지 않는다.

자율주행차를 둘러싸고 제기되는 문제도 그와 비슷하다. 극단적인 상황과 인명사고 시나리오를 두고 논의하는 것은 일상적인 상황에서 발생하는 문제를 해결하는데 별 도움이 되지 않는다. 우리 대다수는 횡단보도 접근이나 교차로 통과, 또는 좌우회전 같은 일상적인 교통 상황에서 무엇이 그처럼 선택하기 어렵냐고 반문할 수 있다. 횡단보도의 시야가 제한되고 인근의 보행자가 실제로 길을 건널지 말지 알기 어렵지만 운전자는 이런 상황에 매일 부닥치며 대수롭지 않게 대처하기 때문이다.

그러나 자율주행차의 경우 그런 일상적인 상황이 두 가지 면에서 상당한 어려움을 제기한다.

첫째, 사람에게 쉬운 것이 기계엔 상당히 어려운 경우가 많다. 얼굴을 인식하는 것이든 자전거를 타는 것이든 우리는 인식과 기계적인 기능에 능숙하다. 진화 과정을 통해 이런 기술을 내재적으로 갖췄기 때문이다. 그러나 바로 그 때문에 그런 기술을 기계를 대상으로 가르치거나 조정하기가 어렵다. 이를 ‘모라벡의 역설(Moravec’s Paradox)’이라고 부른다. 인간에게 쉬운 일을 컴퓨터가 행하기는 어렵고 인간에게 어려운 일을 컴퓨터는 쉽게 해낸다는 역설이다. 예를 들어 인간은 걷기나 느끼기, 듣기, 보기, 의사소통 등의 일상적인 행위를 매우 쉽게 할 수 있는 반면 복잡한 수식 계산 등을 하려면 많은 시간과 에너지를 소비해야 하고 또 해낼 수 없는 경우가 많다. 반면 컴퓨터는 수학적 계산, 논리 분석 등은 순식간에 해낼 수 있지만 인간이 하는 일상적인 행위를 수행하기 매우 어렵다. 달리 말해 어른 수준으로 체스나 바둑을 두는 컴퓨터를 개발하는 것은 보다 쉽지만 한 살짜리 수준의 운동 능력이나 지각을 갖춘 기계를 만드는 일은 극히 어렵다는 얘기다.

둘째, 모든 자동차가 자율주행차인 미래엔 운전 작동의 사소한 변화도 전부 합쳐지면 큰 차이를 만든다. 다시 말해 지금 이 순간 자율주행차를 설계하는 엔지니어가 내리는 결정이 자동차 한 대가 어떻게 운행하느냐가 아니라 앞으로 모든 자동차가 어떻게 운행하느냐를 결정한다. 알고리즘이 사회 전체의 ‘정책’이 된다는 뜻이다.

엔지니어는 기계학습이라는 방법을 사용해 사람 얼굴이나 물체를 인식하도록 컴퓨터를 가르친다. 또 기계학습을 통해 자율주행차가 사람의 운전 방식을 모방하게 만들 수도 있다. 하지만 그건 우리가 고민하는 문제의 해결책이 될 수 없다. 자율주행차의 안전과 기동성에 관해 엔지니어가 광범위한 결정을 내리는 데 따르는 복잡 미묘한 문제를 기계학습으로 해결할 순 없다.

더구나 자율주행차는 사람처럼 운전해선 안 된다. 사람은 엄밀히 말해 ‘바람직한’ 운전자가 아니다. 사람이 운전하는 방식은 윤리적으로 문제가 될 소지가 얼마든지 있기 때문이다. 횡단보도에서 보행자의 나이와 인종, 소득을 근거로 멈춰서서 그들에게 길을 건너도록 양보할지 아니면 그냥 달릴지 판단하기 때문이다. 예를 들어 포틀랜드대학의 연구에서 흑인 보행자가 신호등 없는 횡단보도를 건너기 위해 기다리는 시간은 백인 보행자에 비해 32% 더 길었다. 흑인 보행자가 횡단보도를 건너기 위해 기다리고 있을 경우 멈추지 않고 운전자가 무시한 채 달리는 경우가 많아 흑인은 백인보다 더 많은 시간을 기다려야 했다.

원칙적으로 자율주행차는 사람보다 더 안전하고 공정하게 운전할 수 있다. 그러나 횡단보도, 회전 지점, 교차로 같은 일상적인 상황에서 나타나는 이익충돌을 처리할 땐 윤리적 문제가 더 심각해진다.

예를 들어 자율주행차는 보행자나 자전거를 탄 사람의 안전과 자체 승객의 이익 사이에서 공정하게 균형을 잡도록 설계돼야 한다. 차가 보행 속도보다 더 빠르면 갑자기 차도에 나타난 아이와 충돌할 수밖에 없다. 하지만 보행 속도는 차보다 훨씬 느리다. 또 보행자든 차량 승객이든 모두 자신이 원하는 곳으로 가야 한다. 그렇다면 엔지니어는 안전과 기동성 사이의 균형을 어떻게 잡아야 할까? 어느 정도의 속도가 안전할까?

그 외 다른 윤리적인 문제도 있다. 엔지니어는 기동성과 환경 영향 사이에서도 균형을 잡을 필요가 있다. 컴퓨터로 제어되는 가속, 방향 전환, 제동에서 작은 부분을 수정할 경우 그 설계가 출시되는 모든 차량에 적용된다면 에너지 사용과 온실가스 배출에 큰 영향을 미칠 수 있다. 그렇다면 엔지니어는 교통의 효율성과 환경 영향 사이에서 어떻게 균형을 잡아야 할까?

이처럼 자율주행차가 마주치는 일상적인 상황은 전례 없는 설계공학과 윤리 문제를 제기한다. 동시에 그런 문제로 인해 우리는 교통 시스템의 기본적인 가정에 의문을 갖게 된다. 예를 들어 나의 경우는 우리 도로에 ‘횡단보도’가 반드시 필요한지 의문을 갖기 시작했다. 자율주행차라면 원칙적으로 보행자가 언제 어디서 길을 건너든 안전을 보장할 수 있어야 하기 때문이다.

횡단보도만 필요 없어지는 게 아니다. 교차로의 신호등도 더는 쓸모가 없어질 수 있다. 신호등은 모든 차량이 충돌 사고나 혼란 없이 교차로를 통과할 수 있도록 하기 위해 생겨났다. 하지만 자율주행차는 순조롭게 서로 통신해 상황을 자동으로 조절할 수 있어야 하기 때문에 이론상 신호등도 쓸모 없다.

더 큰 문제도 있다. 자율주행차가 인간 운전자보다 더 낫다는 원론적인 사실을 고려하면 인간의 실수를 막기 위해 제정된 교통 관련 법과 규정을 자율주행차가 따라야 할 이유가 있을까? 이 질문을 좀 더 일반화해 보자. 하나의 사회로서 우리가 교통 시스템을 처음부터 새로 설계할 수 있다면 우리는 과연 어떤 식을 원할까?

이 어려운 질문은 한 도시나 사회의 모든 사람과 직결되기 때문에 대답하려면 모두의 합의가 있어야 한다. 횡단보도에 관해서만 생각하든 교통 시스템 전체에 관해 고민하든 모두가 동의하는 방식으로 상충되는 이익의 균형을 맞춰야 한다는 뜻이다.

자율주행차의 시대가 실제로 닥치면 우리 사회는 교통 시스템을 재설계해야 할 것이다. 하지만 횡단보도부터 전반적인 교통 설계까지 진짜 어려운 문제를 제기하는 것은 일상적인 상황이다. 극단적인 상황은 그런 문제의 해결책을 모색하는 데 방해가 될 뿐이다.

‘트롤리 딜레마’를 푸는 방식으로는 이런 복잡 미묘한 문제의 답을 찾을 수 없다.

- 요하네스 히멜라이히



※ [필자는 스탠퍼드대학 매코이 패밀리 사회윤리 센터의 학제간 윤리 담당 연구원이다. 이 글은 온라인 매체 컨버세이션에 먼저 실렸다.]

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지