조지 오웰 [1984]의 현대판… 당신도 예외는 아니다

조지 오웰의 소설 [1984]는 국가가 모든 사람의 삶을 철저히 감시 통제하는 전체주의 공산국가의 이야기다. 집마다, 방마다, 사무실마다 텔리스크린 기기가 설치되어 있다. 정부의 공지사항을 전달하는 역할이지만, 사람들의 말과 행동을 엿보는 감시장비이기도 하다. 평소와 조금이라도 다른 행동을 하거나, 다니는 동선이 달라져도 이상행위로 간주돼 정부의 관찰 대상이 된다. 국가는 빈틈없는 감시를 통해 결국 사람들이 정부가 원하는 생각과 행동만 하도록 바꿔간다.

1984년에서 36년이 지난 지금, 기술의 발전에 따라 국가 혹은 기업, 학교가 사람들을 감시하고 통제하는 능력은 계속 커져왔다. 이는 단지 권력의 뜻에 따른 것만은 아니다. 국민에 대한 서비스, 소비자 편익, 국가 안보 등 다양한 이유로 우리는 더 많은 감시에 스스로를 노출해 왔다. 최근 인공지능(AI)과 빅데이터 기술까지 급성장하면서 급기야 삶의 모든 영역이 더욱 빠르게 정부의 감독 아래 들어가는 것 아니냐는 우려가 나온다. 얼마 전 로이터 기사에는 이런 사례가 나온다. 중국 항저우에 사는 사람이 원저우에 출장을 다녀왔다. 원저우는 후베이성 우한에서 900㎞ 가까이 떨어져 있음에도 후베이성 외 지역 중 가장 많은 확진자가 나오는 곳이다. 어떻게 알았는지 이내 경찰이 집에 찾아와 2주간의 자가격리를 요청했다. 경찰은 원저우 인근에서 그의 차 번호판을 감지하고 집까지 추적한 것이다. 12일째 되는 날 그는 지루함을 견디지 못 하고 집을 나와 돌아다녔다. 이번에도 경찰은 그를 적발했을 뿐 아니라 그의 직장에까지 경고를 보냈다. 항저우 시내에 설치된 AI 얼굴 인식 카메라가 그를 포착했기에 가능한 일이었다.

중국의 AI 기업들은 정부와 협력해 신종 코로나바이러스감염증(코로나19) 확산을 막을 기술을 개발하고 있다. 중국의 대표 얼굴 인식 기술 기업 메그비는 열이 나는 사람을 감지하는 ‘AI 발열감지 시스템’을 만들어 베이징 시내에서 시험하고 있다. 열감지 카메라로 열을 감지하고, 얼굴과 신체 특성을 분석하는 자체 기술로 사람을 식별한다. 센스타임이란 기업은 마스크를 쓴 사람 얼굴까지 인식하는 기술을 개발했다. 중국에선 기차표를 살 때도, 휴대폰을 살 때도 모두 실명으로 해야 하기 때문에 중국 정부는 확진자 또는 감염 우려자의 동선을 정확히 파악하고, 기차의 주변 좌석에 앉은 사람들까지 추적할 수 있다.

중국 정부가 인공지능, 빅데이터, 얼굴 인식, 소셜 미디어 분석 등 첨단 IT 기술을 활용한 국민 생활 관리(?)에 관심이 많다는 것은 공공연한 사실이다. 중국은 이미 콘서트 현장에 설치된 카메라가 수만 명 관중 사이에서 현상수배된 사람의 얼굴을 인식해 경찰에 알려 체포하는 수준에 이르렀다. 빨간 불에 무단횡단하면 거리에 설치된 디스플레이에 얼굴과 이름이 뜨며 경고가 공개적으로 흘러나온다. 중국 공안은 얼굴을 인식하는 인공지능을 개발하는 스타트업의 주요 고객이며, 13억 중국인 대부분의 얼굴 정보가 이미 데이터베이스에 쌓여 있다.

중국 정부는 국민의 활동을 분석해 평점을 매기는 사회신용 시스템을 운영한다. 텐센트, 알리바바 등 주요 IT 대기업은 사용자의 소셜 미디어 활동, 결제 및 소비 등을 분석해 이 시스템에 정보를 제공한다. 자원봉사를 하거나 부모에 효도하면 평가가 좋아지고, 경범죄를 저지르거나 요금 납부가 밀리면 평가가 낮아진다. 점수가 떨어지면 대출과 고용에 불이익을 받고 해외여행, 자녀의 진학에 영향을 받을 수도 있다. 이에 비하면 우리나라는 감염 우려가 있는 사람이 며칠 동안 아무 제약 없이 극장으로, 쇼핑몰로 다니고 감염 우려 지역에서 입국한 중국인에게는 방역기관의 연락이 제대로 닿지 않는 경우도 있다. 그렇다면 중국의 상황이 우리나라보다 낫다고 해야 할까? 이런 일을 소름 끼치는 일로 받아들일지, 공공에 대한 위협을 기술로 해결하는 좋은 사례로 받아들일지는 각자 생각과 상황에 따라 다를 것이다.

그러나 권위주의 국가가 IT 기술을 가지면 시민 억압 도구로 사용할 가능성이 크다. 러시아 정부는 사이버 공격 방지를 명분으로 인터넷 망을 해외 망과 분리해 운영할 수 있게 한 ‘인터넷 주권법’과 국내에 판매되는 모든 스마트폰에 러시아산 앱을 반드시 미리 탑재해 판매케 하는 법을 통과시켰다. 모두 정부의 인터넷 통제를 강화하려는 조치로 의심받는다.

민주주의 사회에서도 국민 감시에 쓰일 우려가 있는 기술을 정부가 채택하고 있다. 하지만 적어도 논란이 일어난다는 점이 차이다. 미국은 불법 이민자를 찾기 위해 이민세관단속청(ICE)이 인공지능 기반 얼굴 인식 기술을 쓰고 있다. 이민자 단속에 반감을 가진 사람들은 정부의 이러한 행태에 반대하고 있다. 인공지능이 백인에 비해 유색인종 얼굴은 잘 알아보지 못 한다는 사실이 알려지면서 인공지능 기술의 차별적 성격도 도마에 올랐다. 아마존, 마이크로소프트 직원은 정부에 얼굴 인식 기술을 공급하는 자사 정책에 반대하고 있다.

경찰이 시민 얼굴을 범죄자 데이터베이스와 대조하는 스마트 CCTV망을 구축하거나, 상시 녹화가 가능한 휴대용 폴리스캠을 경찰관에 지급하는 것을 놓고도 찬반이 맞선다. 클리어뷰AI라는 스타트업은 페이스북 등에 공개된 인물 사진 30억 장을 스크랩해 얼굴 정보 DB를 만들었고, 미국 각지의 경찰이 이를 사용한 사실이 알려졌다. 페이스북과 트위터, 유튜브 등은 클리어뷰AI에 사진 수집을 중단할 것을 요구했다. 정부가 민간 데이터 기업에서 사람들의 휴대폰 위치정보 데이터를 대량 구매해 불법 이민자 감시에 쓰기도 했다.

우리나라는 아직 이를 둘러싼 사회적 논의가 활발하지는 않다. 그러나 모든 국민의 정보를 담은 강력한 주민등록제도, 유난히 높은 신용카드 사용률, 100% 보급된 휴대폰을 생각해 보면 사실 우리는 이미 국가의 눈에서 벗어날 여지가 거의 없다고 볼 수 있다. 기술은 그 자체로 좋지도, 나쁘지도 않다. 문제는 이런 기술이 쓰일 때 정보가 투명하게 공개되고, 예상되는 문제에 대해 자유롭게 토론하며 해결해 나가는 사회의 역량이다.

감시 기술은 유익할 수 있다. 그러나 같은 기술이 정보를 나누고 예방하려는 이들을 억누르는데도 쓰인다. 코로나19의 위험을 처음 알린 우한의 의사 리원량은 메신저 대화방에서 동료들과 새로운 전염병에 대해 얘기했다가 ‘유언비어를 퍼뜨린다’며 경찰의 경고를 받고 “불법행위를 하지 않겠다”는 각서까지 썼다. 그의 우려가 공개되고 투명한 논의가 이뤄졌다면, 지금 첨단 기술로 국민 생활을 통제하며 방역을 할 상황에 이르지 않았을 수도 있다.



※ 필자는 전자신문 기자와 동아사이언스 데일리뉴스팀장을 지냈다. 기술과 사람이 서로 영향을 미치며 변해가는 모습을 항상 흥미진진하게 지켜보고 있다. [어린이를 위한 디지털과학 용어 사전]을 지었고, [네트워크전쟁]을 옮겼다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지