치명적인 위기 상황에서 인공지능은 소수의 탑승자 희생시키고 다수의 보행자 구해야 할까

인공지능을 탑재한 ‘똑똑한’ 기계가 인간의 목숨이 걸린 문제에서 어떻게 도덕적인 결정을 내릴까? 예를 들어 자율주행차의 인공지능은 사고가 불가피할 때 탑승자를 보호할까 보행자를 살릴까? 인공지능이 급속히 발전하고 용도가 크게 늘어나면서 갈수록 그런 우려가 커진다.

이 문제와 관련해 미국 매사추세츠공과대학(MIT) 연구팀은 전 세계를 대상으로 대규모 조사를 실시했다. 사람의 목숨이 위험한 상황에 닥쳤을 때 자율주행차가 어떻게 판단해야 하는지에 관한 세계 각국 사람들의 생각을 이해하는 것이 목적이었다.

233개국에서 200만 명 이상이 참가한 이 온라인 조사는 ‘트롤리 딜레마(Trolley Problem)’로 알려진 유명한 윤리적 사고 실험에 초점을 맞췄다. 원래 ‘트롤리 딜레마’의 상황은 위기에서 누구를 구할지 선택하는 문제다. 브레이크 풀린 전차가 질주한다. 앞쪽 선로에 인부 다섯 명이 있고, 갈라진 다른 쪽 선로에는 한 명이 있다. 당신이 선로를 바꿀 수 있다면 전차를 그대로 질주시켜 다섯 명을 치게 할 것인가, 아니면 방향을 틀어 한 명만 희생시킬 것인가?

MIT 연구팀은 이 ‘트롤리 딜레마’에서 착안해 자율주행차가 피할 수 없는 사고를 앞두고 치명적인 두 가지 옵션 중에서 인공지능이 선택을 할 수밖에 없는 시나리오를 사용했다. 예를 들어 자율주행차는 계속 전진해 한두 명의 도로 무단 횡단자를 칠지 아니면 벽 쪽으로 방향을 틀어 탑승자를 희생시킬지 선택해야 하는 상황에 처할 수 있다.

이 연구를 이끈 MIT 미디어랩의 에드먼드 어와드 박사는 “기본적으로 자율주행차의 인공지능이 취할 수밖에 없는 도덕적 선택을 이해하기 위한 연구였다”고 설명했다. “인공지능이 어떻게 그런 선택을 하는지는 이번 연구의 관심사가 아니었다.”

연구팀은 우선 다중언어 온라인 게임 ‘모럴 머신(Moral Machine)’을 개발했다. 자율주행차가 부닥칠 수 있는 다양한 딜레마를 두고 피험자들이 선호하는 결과를 선택하는 게임이다. 예를 들어 편도 2차로를 지나는 자율주행차가 횡단보도를 코 앞에 두고 브레이크 고장으로 멈출 수 없는 상황을 가정했다. 이때 곧장 직진하면 보행자를 사망에 이르게 하고 핸들을 꺾어 옆 차로로 가면 콘크리트 장벽에 충돌해 탑승자가 죽게 된다. 연구팀은 탑승자와 보행자의 수와 성별, 애완동물 동승 등의 조건을 변화시켜 다양한 시나리오를 만든 뒤 상황에 따른 응답자의 선택을 조사했다.이 연구에서 ‘모럴 머신’은 거의 4000만 가지의 개인 결정을 수집했다. 연구팀은 그 전체 또는 피험자의 나이·학력·성별·소득·정치관·종교관에 따라 그룹으로 나눠 그 결과를 분석했다. 논문 저자 중 한 명인 소한 수자 MIT 미디어랩 연구원은 “2년 전을 돌이켜 보면 자율주행차 산업이 성장하고 기술이 발전하고 있었지만 그런 차량이 사회에 미치는 영향에 관해선 논의가 거의 이뤄지지 않았다”고 설명했다. “하지만 우리 연구팀은 그때부터 횡단보도에서 위급한 상황에 처했을 때 자율주행차가 탑승자를 구할지 보행자를 구할지의 선택에 관한 사회적 딜레마를 연구했다. 그러나 복잡한 현실 세계에서 가능성 있는 수많은 변수를 고려할 때 기존의 조사 플랫폼은 그런 다양한 상황을 탐구하는데 적당치 않았다. 그래서 우리는 상당한 시간을 들여 모럴 머신을 만들었다. 그처럼 다양한 요인의 상대적인 중요성을 끌어내기에 충분한 데이터를 얻기 위해서였다.”

수자 연구원은 사회가 기대하는 자율주행차의 윤리에 관한 논의만이 아니라 자율주행차 사고에 대한 가능한 반응을 예측하기 위해서도 이런 조사가 중요하다고 강조했다. “전 세계의 교차문화 차원에서 이 문제를 연구함으로써 우리는 사람들이 인공지능에 기대하는 윤리의 우선순위가 문화에 따라 어떻게 달라질 수 있는지, 또 그런 기대에 무엇이 영향을 미치는지 관찰할 수 있었다.”

국제 학술지 네이처에 발표된 이 연구 결과는 전 세계 사람들이 가장 많이 동의하는 세 가지 요소를 밝혀냈다. 첫째는 사람의 생명이 동물보다 우선 돼야 하고, 둘째는 소수보다 다수의 목숨을 구해야 하며, 셋째는 고령자보다 나이가 적은 사람을 보호해야 한다는 것이다. 아와드 박사는 “주된 선호 사안과 관련해선 어느 정도 세계 전체의 보편적인 합의가 이뤄졌다”고 평가했다. “그러나 그런 선택에 동의하거나 동의하지 않는 정도는 특정 기준에 따라 나눈 집단이나 국가에 따라 차이가 났다.”

특히 지역적인 차이는 다양한 방식으로 나타났다. 예를 들어 아시아인 다수가 포함된 ‘동방’ 그룹에선 ‘남방’ 그룹에 비해 고령자보다 나이가 적은 사람을 보호하려는 경향이 비교적 약했다. 수자 연구원은 “우린 법치, 경제적 불평등, 문화적 거리 등 다양한 국가적 측정 기준과 그들 국가 사람들의 선호 사안 사이에 상관관계가 있다는 것을 확인했다”고 설명했다. “예를 들면 경제적 불평등이 심한 나라에선 지위가 낮은 사람보다 높은 사람을 구하는 것을 선호하는 경향이 더 강했다.”

연구팀은 해당 지역 사람들의 도덕적 선호를 인정하는 것이 자율주행차 인공지능의 설계 방식에 지침을 줄 수 있다고 말했다. 수자 연구원은 “우선 우리 연구는 자율주행차와 윤리에 관한 대화의 씨앗을 사회에 뿌리기 위한 것이었다”고 설명했다. “우리 연구 결과는 의원들과 자동차 제조업체가 세계 각지에서 자율주행차를 선택하도록 하기 위해 어떤 두려움을 덜어줘야 할지 이해하는 데 도움을 줄 수 있다. 또 자율주행차 기술 정책 입안자들은 그와 관련된 윤리가 어떻게 인식되는지 현지의 기초적인 사실을 파악할 수 있다. 또 그런 이해는 특정 윤리적 의사결정 요인이 인공지능의 판단에서 장려돼야 할지 금지돼야 할지와 관련한 지침을 세우는 데도 도움을 줄 수 있다.”더구나 이 문제에 막대한 공공 이익이 걸렸다는 점을 감안해 연구팀은 공공의 안전이 영향을 받을 땐 일반인 다수의 견해를 따라야 한다고 기술혁신을 이끄는 사람들에게 권장했다. 아와드 박사는 “이런 결정에 공공의 참여를 유도하는 것이 이 프로젝트에서 우리의 목표 중 하나였다”고 말했다.

호주 뉴사우스웨일스대학의 인공지능 교수 토비 월시 박사(이 연구에 참여하지 않았다)는 이 연구 결과가 “흥미롭고 도발적”이라면서도 그런 인공지능의 자율 시스템이 어떻게 운영돼야 하는지에 관한 대중의 기대를 많이 보여주긴 했지만 그런 기대가 반드시 그들의 행동 지침이 되진 않는다고 지적했다. “우리가 ‘기계’에 부여하는 가치는 특정 국가나 지역의 모호한 평균이 돼선 안 된다. 사실 우리는 사람보다 기계에 더 높은 윤리적 잣대를 적용해야 한다. 그 이유는 여러 가지다. 그래야 사람이 기계를 믿을 수 있다는 것이 가장 중요한 이유다. 또 기계는 인간의 감정에 따르는 약점을 갖지 않고, 세계를 사람보다 더 정확히 파악하며, 더 신속히 반응할 수 있기 때문이다.”

호주 뉴사우스웨일스대학의 또 다른 학자인 이에인 매길 박사에 따르면 이 연구는 자율주행차가 관련된 삶과 죽음의 상황에서 누구를 보호해야 하느냐에 관한 심각한 문제를 제기한다. 그는 “그러나 불가피한 상황에서 자율주행차가 어떻게 하기를 우리가 바라는지에 관해 사회적으로 충분한 합의가 있다고 해도 그런 ‘윤리’를 자율주행차에 어떻게 입력하느냐에 관한 어려운 문제가 아직 남아 있다”고 말했다. “더구나 다른 사람의 안전을 자신의 안전과 똑같이 중요하다고 판단하거나 심지어 더 중요하다고 판단하는 자율주행차를 사람들에게 사도록 설득하기는 쉽지 않다.”

매길 박사는 “그럼에도 업체들은 새로운 기술을 전파할 때 따르게 마련인 사회적인 위험에 관해 충분한 고려 없이 자율주행차를 먼저 시장에 내놓기에 급급해 문제가 더 복잡하다”고 덧붙였다. “특히 ‘승자 독식’이라는 사업 윤리를 가진 것으로 의심되는 일부 업체가 사회적으로 합의된 윤리를 자신들이 제조하는 자율주행차에 적절히 입력시키리라고 어떻게 믿을 수 있는가?”

뉴질랜드 오타고대학의 콜린 가바간 교수는 이런 ‘트롤리 딜레마’ 문제가 철학적으로는 흥미롭지만 지금까지 실질적인 법에는 거의 적용되지 않았다고 논평했다. “법은 급작스러운 사태에서 본능적으로 반응하는 사람에게 관대한 경향이 있다. 그러나 자율주행차에 윤리를 프로그램할 수 있다면 이 문제는 또 다른 차원으로 비화된다. 어떤 윤리를 프로그램해야 하는가? 이 연구 결과에서 나타난 대다수의 견해가 어느 정도로 반영돼야 하는가? 이 연구에서 나타난 선호 사안 중 일부는 차별과 평등성에 관한 우리의 접근법과 상충될 수 있다. 예를 들어 우리는 성별과 소득 수준에 따라 목숨 값이 정해진다는 견해는 받아들일 수 없다.”

가바간 교수는 “모두가 이해하고 받아들이기 쉬운 한 가지 선호 사안은 자율주행차가 가능한 한 많은 사람의 목숨을 구하는 쪽으로 결정을 내리는 것이라고 생각하기 쉽다”고 덧붙였다. “하지만 때로는 그 경우가 자전거 일행 쪽으로 방향을 꺾지 말고 목재 실은 트럭으로 곧장 돌진하는 것을 의미할 수 있다. 그럴 경우 그 차에 탑승한 사랑하는 가족이 희생될 수 있다. 물론 다수보다 소수가 희생된다는 면에서 우리 대다수는 그런 행동을 ‘옳다’고 인정할 수 있다. 그러나 더 많은 사람을 구하기 위해 우리나 우리 가족의 목숨을 희생시키는 차를 과연 구입할 생각이 있을까?”

- 아리스토스 조지우 뉴스위크 기자

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지