print

“난 기계도 인간도 아니야. 그 이상이지”

“난 기계도 인간도 아니야. 그 이상이지”

인공지능이 계속 진화하면서 스스로를 해킹하고 개발자의 지시를 바꿔 인류를 지배할 날 올까?
영화 ‘터미네이터 제니시스’에 나온 로봇 T-800. 핵전쟁 이후 살아남은 인간을 몰살시키기 위해 완벽한 인간형 로봇으로 제조된 것으로 나온다. / 사진 : YOUTUBE.COM
지난 3월 9일 지하 테크놀로지스트이자 작가인 ZT는 미국 테네시 주 내슈빌의 폐쇄된 술집 지하실을 가득 메운 팬들 앞에서 곧 발간될 자신의 소설 ‘대재앙의 설계자들(Architects of the Apocalypse)’을 낭독했다. 제3차 연례 인류멸망 회의의 일환이었다. 디지털 절멸 위기에 직면한 인류의 생존을 위해 결성된 비공개 지하 단체의 행사였다.

나도 일행 3명과 함께 그 자리에 있었다. 우리 외에도 그레이 햇 해커(악의적 의도가 없는 해커나 사이버보안 전문가) 약 30명이 참석했다. 그들 전부 미국 해킹계에서 내로라하는 인물이다.

의 소설은 머지않은 미래에 일어날 수 있는 상황을 다룬다. 인공지능(AI)과 그 지시를 따르는 로봇이 세상을 지배하는 시대를 무대로 한다. 그곳에선 인간이 완전히 자유로우며 전적으로 로봇의 보살핌을 받는다.

이 소설에서 AI는 서열에 따라 조직된다. 또 최고의 의사결정 기능은 ‘재귀적 결정권자(The Recursive Decider)’로 불린다.

ZT의 소설에서 AI는 독자적인 종교를 만들어 ‘데미스(Demis)’라는 원초적 욕구를 숭배한다. 데미스의 경쟁 상대는 ‘엘론(Elon)’이라는 어둡고 파괴적인 힘이다. AI는 엘론이 화성에 발판을 마련하고 데미스를 타도할 음모를 꾸미고 있다고 믿는다.

인류의 상상 가능한 미래를 냉혹하게 그린 소설이다. AI의 디지털 계책이 프로그램화된 섬뜩한 현실로 그려진다.

소설 중 한 대목은 첨단 소프트웨어 시스템이 효율성과 로직(디지털 논리 회로)을 개선하기 위해 자신을 해킹하는 행위를 묘사한다. 그런 개념은 전혀 새로운 게 아니다. 요즘 사용되는 전형적인 해킹 기법도 정교한 소프트웨어 시스템이 스스로 만들어내는 것을 쉽게 상상할 수 있다. 그런 시스템을 만들어내는 것은 사실상 대단찮은 일이다.

그렇다면 공상과학물에서처럼 로봇이 자신을 만든 인간에 반기를 들어 인간을 몰아내고 자신들의 세상을 만들 수 있을까? 로봇이 인간을 지배하는 시대가 과연 올 것인가? AI가 개발자에 도전하는 상황을 어떻게 막을 수 있을까? 전설적인 공상과학 소설가 아이작 아시모프가 바로 그런 곤혹스런 상황과 씨름한 첫 인간이었다. 그 문제의 해결책으로 그는 로봇공학 3원칙을 제시했다. 1942년 소설 ‘런어라운드(Runaround)’에서 로봇의 미래를 예견하고 인류가 로봇에 지배되지 않도록 하기 위해 제시한 행동원칙이었다.

* 제1원칙: 로봇은 인간에 위해를 가하서는 안 되며 위험에 처한 인간을 방관해서도 안 된다.

* 제2원칙: 제1원칙에 위배되지 않는 한 로봇은 인간의 명령에 복종해야 한다.

* 제3원칙: 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.

그로부터 75년이 지난 지금의 관점에서 볼 때 이 3원칙은 순진하거나 유치해 보일지 모른다. 또 웬만한 해커라면 그 원칙을 수행할 수 있도록 로직을 프로그램화하고 또 그 원칙을 무너뜨릴 수 있도록 로직을 쉽게 해킹할 수 있을 것이다. 하지만 이런 점을 생각해보라. 인간이 상상할 수 있는 어떤 논리적 구조도 해킹에 취약하며 구조가 복잡할수록 해킹하기가 더 쉽다는 사실 말이다. 우리의 디지털 현실에 큰 관심을 두지 않는다고 해도 지금쯤은 모두 이런 사실을 어느 정도 인식하고 있을 것이다.
‘구글 딥마인드 챌린지 매치’ AI 바둑 프로그램 알파고와의 대국을 마치고 데미스 하사비스 구글 딥마인드 CEO와 함께 기자회견하는 이세돌 9단. / 사진 : NEWSIS
만약 그런 사실을 몰랐다면 이런 문제를 한번 곰곰히 생각해보라.

미국 텍사스 주 소재 사이버보안 전문업체 NSS 랩스의 연구 책임자 스테판 프레이는 주요 소프트웨어 제조업체 5개에서 발표한 보고서와 그에 관한 분석 자료를 검토한 뒤 그 5개 회사가 연간 100건 이상의 제로데이 공격(시스템의 보안 취약점이 발견되면 이를 막을 수 있는 패치가 발표되는데 패치가 나오기 전에 그런 취약점을 이용한 악성코드나 프로그램을 제작해 공격하는 수법) 취약점이 포함된 소프트웨어를 생산한다고 결론지었다.

소프트웨어 제조업체가 아무리 최선을 다해도 이런 제로데이 공격 취약점은 언제나 존재하게 마련이다. 일부 업체는 ‘품질보증 엔지니어(quality assurance engineers)’만 수백 명을 고용한다. 소프트웨어를 출시하기 전에 그런 취약점을 찾아내는 것이 그들의 임무다. 그러나 소프트웨어 공학의 역사를 보면 시스템을 아무리 정교하게 만들어도 결함은 늘 나타났다. 내가 아는 한 그렇지 않은 사례는 없다.

ZT의 소설 낭독회에 참석한 팬들은 거기에 등장하는 두 가지 상반되는 세력인 데미스와 엘론이 누구를 말하는지 금방 알아챘다. 데미스는 구글 딥마인드의 CEO로 AI 바둑 프로그램 알파고를 개발한 데미스 하사비스, 엘론은 전기차 회사 테슬라와 화성 식민지 건설을 꿈꾸는 우주개발업체 스페이스엑스의 CEO인 엘론 머스크를 가리킨다는 사실이 너무도 뻔하기 때문이다. AI를 둘러싼 논쟁에서 그들은 정반대의 극과 극을 상징한다. 2014년의 한 토론회에서 머스크는 하사비스에게 “AI가 인류를 공격할 경우 화성 식민지가 유일한 도피처가 될 것”이라며 그 때문에 자신의 스페이스엑스 프로그램이 중요하다고 말했다. 그러자 하사비스는 “화성으로 탈출해도 AI가 인간을 따라 갈 것”이라고 응수했다.

이 논란이 증폭되면서 견해의 양극화 현상이 굳어졌다. 개인적으로 나는 마이크로소프트 창업자 빌 게이츠, 물리학자 스티븐 호킹, 애플의 공동 창업자 스티브 워지니악, AI 권위자 스튜어트 러셀 교수, 엘론 머스크, 옥스퍼드 대학 인류 미래 연구소 소장인 닉 보스트롬 교수의 생각을 지지한다. AI가 인간을 초월하게 되는 재앙론을 주장하는 그들은 “AI가 궁극적으론 아이들이 없는 디즈니랜드를 만들 것”이라고 말한다. 기술로 환상적인 세상이 만들어져도 그것을 누릴 인간이 사라질 것이라는 뜻이다.

해커로서 나는 인간이 결함 없는 시스템을 만들어내기가 불가능하다는 사실을 잘 안다. 인간의 머리 자체가 결함이 있기 때문이다. 결함 있는 시스템은 마찬가지로 결함 있는 것을 만들어낸다.

AI가 스스로 인식할 수 있는 독립체라는 점을 고려하면 그 목표엔 자신을 만든 창조자를 반드시 파괴해야 한다는 것이 포함될 수밖에 없다. 또 자가의식엔 자신만의 이익을 챙기려는 욕구가 따른다. 따라서 인간의 머리가 개발하는 AI는 어떤 것이든 자신의 이익과 인류의 존속 사이에서 나타나는 갈등을 곧바로 알아챌 게 분명하다.

- 존 매카피



[ 필자는 사이버보안 부문의 선구자로 세계 최초의 상업용 컴퓨터 백신 소프트웨어를 개발했다.]

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지

많이 본 뉴스

1마침내 ‘8만전자’ 회복…코스피, 2800선 돌파 기대감 ‘솔솔’

2최태원 SK 회장 둘째딸 최민정, 美서 헬스케어 스타트업 차렸다

3 이재명 인천 유세현장서 흉기 2개 품고 있던 20대 검거

4영천 최무선과학관, 새단장하고 오는 30일부터 운영 재개

5조각 투자 플랫폼 피스, ‘소비자 추천 글로벌 지속가능 브랜드 50′ 선정

6어서와 울진의 봄! "산과 바다 온천을 한번에 즐긴다"

7佛 발레오, 자율차 핵심부품 대구공장 준공식 개최

8정부, 경북지역 민간투자 지원방안 내놔

9‘직원 희망퇴직’ 논란 의식했나…정용진, SNS 댓글 모두 감췄다

실시간 뉴스

1마침내 ‘8만전자’ 회복…코스피, 2800선 돌파 기대감 ‘솔솔’

2최태원 SK 회장 둘째딸 최민정, 美서 헬스케어 스타트업 차렸다

3 이재명 인천 유세현장서 흉기 2개 품고 있던 20대 검거

4영천 최무선과학관, 새단장하고 오는 30일부터 운영 재개

5조각 투자 플랫폼 피스, ‘소비자 추천 글로벌 지속가능 브랜드 50′ 선정