인공지능 도구들이 컴퓨터에 정서 지능 부여해 인간과 더 친밀해지겠지만 그들이 자의식을 갖고 인간의 통제 뛰어넘을 때는 어떻게 될까

인간에게는 항상 세상에 우리 이외의 또 다른 존재가 있다는 두려움과 기대가 교차해 왔다. 컴퓨터가 발명되기 오래 전 프랑켄슈타인이나 유대인의 골렘 전설 같은 괴물이 인공지능의 판타지를 구현했다. 오늘날 구글·페이스북·마이크로소프트는 바이두 같은 중국 IT 대기업과 함께 인공지능에 수십억 달러를 투자한다. 시장분석 업체 IDC는 인공지능 솔루션이 현재 125억 달러 규모의 산업이며 2020년에는 연간 매출이 460억 달러에 달할 것으로 예상한다. 그러나 이 같은 기술발전에는 복잡한 위험이 따른다.

과학자들은 다음 세기에는 광범위한 산업에서 인공지능 기반 로봇이 수많은 근로자를 대체할 수 있다고 내다본다. 중국 최대 포털 바이두의 과학자 출신인 앤드류 응 스탠퍼드대학 컴퓨터학과 교수는 인간 방사선전문의와 운전기사가 그보다 훨씬 전에 실업자가 될 것이라고 IB타임스에 말했다. 응 교수는 “앞으로 10년 후 인공지능으로 바뀌지 않는 산업이 과연 있을까 싶다”며 “인공지능과 인간 사이에 일자리를 두고 광범위한 경쟁이 벌어질 것”이라고 말했다.

GPS 네비게이션 앱부터 금융거래까지 세상은 인공지능 기술로 움직인다. 응 교수는 “일단 보편화되면 아무도 그것을 인공지능으로 보지 않는다”고 말했다. “지금은 인공지능이 과거의 전기와 같다. 아무도 TV가 전기로 작동된다고 생각하지 않는다.”

투자업체 큐플럼의 가우라브 차크라보르티 데이터과학 팀장은 블랙록 같은 월스트리트 투자기업이 직원을 대량 감원하고 인공지능 기반 로봇으로 전환하는 현상을 지적한다. 차크라보르티 팀장은 “요즘에는 데이터가 차고 넘쳐 최고 중 최고로 꼽히는 스타 트레이더도 손실을 본다”며 “세계적으로 수천~수만 명이 인공지능 기반 트레이딩을 이용한다”고 IB타임스에 말했다. 요즘 인공지능 모델들은 빅데이터 처리에 능하지만 외부 요인까지 고려할 수는 없다. 예컨대 우버의 기업 이미지 위기가 대표적이다. 차크라보르티 팀장은 로봇 트레이더가 인간 트레이더처럼 온갖 복잡한 변수를 고려할 수 있게 되기까지 앞으로 10년은 더 걸릴 것이라고 추산한다.그때가 되면 인공지능 기반 핀테크가 필시 인간 대신 금융 결정을 내려 고객의 시간을 절약하고 스트레스를 덜어줄 것이라고 차크라보르티 팀장은 말했다. 그렇게 되면 인간 전문가의 상담을 받을 수 없는 사람들도 맞춤 금융 컨설팅을 이용할 수 있게 될 것이다. 그는 “매년 금융 서비스에 1조 달러 이상이 지출된다”며 “사람들은 그렇게 많은 돈을 쓸 필요가 없다고 말할 것”이라고 내다봤다.

한편 모기지 컨설턴트와 트레이더도 일자리가 없어져 새로 직업훈련을 받아야 할 듯하다. 바이두의 부사장과 연구책임자를 지낸 응 교수는 교육 프로그램과 임금 규제가 기계의 힘으로 돌아가는 경제의 방향을 재설정하는 데 도움이 될 수 있다고 말했다. 그러나 그 밖에도 의식과 정서 지능처럼 상정하기가 훨씬 더 어려운 윤리적 딜레마도 있다.

펍너브의 개발자 램탄 한트라쿨은 “협의의 인공지능은 암 세포 같은 아주 특정한 데이터 세트를 바탕으로 훈련 받은 모델들”이라며 “우리 모두가 지향하는 모델은 R2-D2(영화 ‘스타워즈’의 로봇)”라고 IB타임스에 말했다. 데이터 스트림 네트워크 펍너브는 인공지능의 중요한 측면을 개척해나간다. 바로 집단사고(group think)다.

인간의 두뇌와 달리 컴퓨터 프로세서는 독립적으로 그리고 동시에 그룹으로 작동할 수 있다. 펍너브는 그런 신호를 훨씬 빠르게 만든다. 자율주행차로 가득한 도로의 교통흐름을 안전하게 조율하는 데 이런 실시간 클라우드 커뮤니케이션이 필요하다. 최고의 로봇 운전기사는 다수의 조직 전반에 걸쳐 입수할 수

있는 모든 데이터를 통합할 것이다. 하지만 기업은 각자 이기적인 관점에서 데이터를 저장한다. 오늘날 그런 인간의 본성이 인공지능을 제한하는 한 가지 요인이다. 데이터 공유는 좋게 말해 고도로 정치적인 투쟁이다.

R2-D2도 단순한 기계가 아니라 박식한 도우미가 되려면 마찬가지로 빠르고 안정적인 클라우드 연결이 필요하다. 그 다음에는 성격과 관련된 문제다. 그 자체로 하나의 전쟁터가 형성됐다. 인공지능 챗봇, 가상 여친, 나아가 다마고치 같은 왕년의 가상 애완동물까지 기계를 인간에 더 친밀하게 만드는 도구가 많다. 동시에 인공지능 도구들은 감정적 언어와 얼굴 표정을 인식해 컴퓨터에 정서 지능을 부여한다. 차크라보르티 팀장은 "사람들이 자신의 기계에 어느 정도 애착을 갖게 될 것”이라고 말했다.

여기서 완전히 새로운 윤리적인 딜레마가 생긴다. 10대 청소년 대상의 챗봇 마케팅, 가령 어린 여학생 대상의 메이크업 판촉은 어느 시점에 친밀함과 감정적인 조종의 경계를 넘어서는 걸까? 로봇이 절친이라면 나는 로봇이 수집하는 개인정보에 얼마나 권리가 있을까? 가상 친구를 향한 감정은 어느 선부터 불건전한 걸까? 성차별적 비디오 게임을 하는 사람이 애인이나 부인에게 악영향을 미친다고 말하는 사회학자도 있는데 섹스 로봇도 과연 그럴까? 이 모든 의문에선 이들 인공지능 로봇이 인간의 지시를 따른다고 가정한다.아직까지는 인공지능을 ‘스타 워즈’에 나오는 자의식을 가진 안드로이드(인간형 로봇)라기보다 ‘초강력 자동화 기기(automation on steroids)’로 보는 편이 낫다고 응 교수는 말했다. 하지만 그도 언젠가 머신러닝과 인공지능으로 의식 있는 로봇 개발 경쟁이 벌어질 가능성을 배제하지 않는다. 대중문화에도 그런 우려가 스며들었다. 악당 로봇의 지배를 다룬 영화가 너무 많아 사실상 할리우드에서 하나의 장르를 이룰 정도다.

기계가 창조자의 말에 복종만 할 수 있을 때는 인간과 인공지능의 관계유지가 훨씬 쉽다. 인공지능의 힘이 인간의 통제를 뛰어넘을 때는 어떻게 될까? 독립적인 의식을 가진 인간형 태엽 로봇의 아이디어는 1907년 동화 ‘오즈의 오즈마 공주(Ozma of Oz)’에서 처음 등장했다. 하지만 대다수가 현재의 로봇을 연상하는 글로벌한 인공지능 신화, 인간과 기계의 위험한 관계를 만들어낸 인물은 소설가 아이작 아시모프였다.

아시모프의 가상 로봇들은 어떤 사람의 목숨을 구해줄 수 있을지, 그리고 인간의 폭력을 어떻게 피할지에 관한 어려운 선택에 직면한다. 그들의 선택이 윤리적으로 올바른지는 종종 독자의 판단에 맡긴다. 1956년 컴퓨터 과학자 존 매카시가 ‘인공지능’이라는 용어를 처음 만들어낼 즈음 공상과학 독자는 로봇-인간의 역학관계를 경계하기 시작했다. 재잘거리는 작은 R2-D2와 달리 아시모프의 로봇은 유아론적 의미에서 느낌을 갖고 있다.

인공지능 로봇이 미완성의 과업이나 무질서를 못마땅하게 여기면서 그런 느낌을 사람처럼 명확하게 전달할 수 있다면 좌절이나 욕구 같은 진짜 감정과 컴퓨터 프로그래밍 간에 경계선을 긋기가 어려워진다. 인류와 인공지능이 진화하는 관계에서 앞으로 심리적인 역학관계가 어떤 영향을 미칠까?

이스라엘 과학자 유발 하라리는 자신의 저서 ‘호모 데우스(Homo Deus)’에서 결혼상대를 고르는 것과 같은 개인적 문제에서 직감을 따르는 인간보다 인공지능이 데이터를 토대로 더 현명한 결정을 내릴 수 있다고 주장했다. 그는 인공지능이 인간을 경제적으로나 정치적으로 가치 없는 존재로 만들 수 있다고 썼다. 인간이 결과물로만 인공지능의 가치를 평가하고 그 스마트 머신의 개별적인 웰빙은 외면한다면 우월한 인공지능 류의 주인들이 인간을 그와 똑같이 냉혹하게 대하는 것을 어떻게 막겠느냐고 하라리는 묻는다. 그는 윤리성을 외면한 인공지능의 개발은 역사상 가장 불평등한 사회를 초래할 수 있다고 경고했다. 한트라쿨 개발자는 “우리는 종종 기술이 문화적으로 중립적이라고 생각하지만 대단히 편향됐다”며 “알고리즘에는 본질적으로 개발자의 편견이 포함된다”고 말했다.

인류와 인공지능의 관계가 장차 어떤 형태를 띨지 예측하기는 거의 불가능하다. 앞으로 수년 동안 머신러닝 도구들이 생산성을 높여 사람들이 창의성과 관계에 더 많은 시간을 투자하게 만들 수 있다. 한트라쿨 개발자는 웃으며 말한다. “‘터미네이터’의 시나리오처럼 되지만 않는다면 이들 스마트 기기들은 우리가 더 인간답게 살 수 있게 해줄 것이다.”

- 리 쿠엔 아이비타임즈 기자

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지