업계는 인공지능과 로봇 등 최첨단 기술의 의도치 않은 결과를 사전에 파악하고 대비책 마련해야

마크 저커버그는 하버드대학 기숙사에 있으면서 하우스메이트들을 서로 연결시켜주는 도구로 ‘페이스북’을 만들었다. 그는 그렇게 만든 페이스북을 기업가치 4470억 달러짜리 세계적 기업으로 성장시키며 세계 5위 부자 반열에 올랐다. 하지만 그가 아무리 야심만만한 젊은 모험기업가였다고 해도 처음엔 페이스북이 세계적인 영향력과 선거 결과를 좌우할 수 있는 잠재력을 가졌다는 생각은 꿈에도 하지 못했을 것이다.

지금 저커버그는 자신의 손 안에 어마어마한 힘을 갖고 있다. 페이스북이 막강한 사회정치적 영향력을 행사한다는 사실을 더는 부인할 수 없기 때문이다. 거기서 부작용이 생긴다. 터무니없는 가짜 뉴스가 페이스북 덕분에 확산력을 갖고 사회와 정치, 특히 선거에 나쁜 영향을 미쳐 궁극적으로 민주주의의 오작동에 기여할 가능성도 배제할 수 없다. 저커버거가 맨처음 페이스북을 구상할 때는 전혀 생각하지 않았던 문제다.

그러나 자신이 개발한 것의 의도치 않은 결과를 나중에야 깨달은 기술업계 지도자는 저커버그만이 아니다. 세계 전역의 기업이 세상을 변화시키는 기술로 수렴되면서 새로운 기술이 우리에게 가져다 주는 막대한 혜택을 생각하고 흥분하기 쉽다. 그러나 이제 우리 모두가 신기술의 ‘나비 효과’에 주목해야 할 때가 왔다. 사용자와 개발자, 투자자, 정책입안자 모두 유념해야 할 문제다.

거대한 변화의 물결이 해당 업계의 도전을 뛰어넘어 윤리적·법적·사회적 측면으로 퍼져가면서 우리 세계를 근본적으로 바꿔놓고 있다. 자동차 업계의 막대한 투자가 자율주행차 개발을 가속화하는 중이다. 업계 지도자 다수는 2019년이 오면 운전자 없는 자동차가 주류가 될 것으로 내다본다.

물론 그런 미래는 믿기 힘들 정도로 매력적이다. 너무도 편리하고 효율적이기 때문이다. 하지만 자율주행차를 더 많이 사용해야 한다고 주장할 때 무엇보다 가장 설득력 있는 이유는 안전성일 것이다. 교통사고의 90%는 사람의 실수에서 비롯된다. 자율주행차 시대가 오면 자동차 보험료가 크게 낮아질 것이다. 음주운전은 옛 이야기가 되고 끔찍한 교통사고를 대폭 줄일 수 있을 것이다.

그러나 역설적으로 똑같은 이유에서 더 많은 인명이 위험에 처할 수 있다. 미국에선 장기 기증의 5분의 1이 교통사고에서 비롯된다. 장기 기증을 기다리는 대기자 명단이 지금도 길지만 교통사고가 크게 줄면 그 줄이 훨씬 더 길어져 의료 서비스가 상당한 압박을 받을 수 있다.

섬뜩한 전망이지만 의도치 않은 결과의 대표적인 사례가 바로 그것이다. 그처럼 신기술은 우리가 처음에 인식하기보다 훨씬 폭넓게 영향을 미친다. 산업은 독자적으로 버블 속에서 존재하지 않으며, 한 분야의 성공이나 실패가 다른 곳으로 퍼져나가 다양한 파급효과를 낳는다는 증거다.

지난 몇 달 동안 우리는 그런 사례를 많이 목격했다. 에어비앤비 같은 온라인 숙박공유 서비스는 임차인과 임대인 사이의 열린 플랫폼을 제공한다. 이 플랫폼을 통해 불편을 최소화하면서 숙소를 예약하고 집을 빌려줄 수 있다. 그러나 빈집의 약점을 이용하는 ‘손님’의 절도 사건이 잇따르면서 에어비앤비에 비난이 쏟아진다. 위치정보 기반의 SNS도 디지털 기술에 능숙한 빈집털이범의 도구로 애용된다.

위치기반 증강현실 모바일 게임으로 각광 받았던 포켓몬고도 의도치 않은 불미스러운 사건이 연속 터지면서 다소 빛을 잃었다. 포켓몬고는 사용자가 캐릭터를 육성하기 위해서 포켓몬을 잡아야 하고, 또 포켓몬을 잡기 위해서는 포켓스톱에 들러 몬스터볼 등 아이템을 충전해야 한다. 하지만 포켓몬을 사냥할 때 사용하는 몬스터볼을 무료 충전할 수 있는 포켓스톱이 인적이 드문 곳에 많아 그곳에 숨어 있던 강도들이 사용자의 스마트폰이나 금품을 빼앗아 달아난 사건이 잇따랐다.

이런 사고를 방지하려면 사용자 교육이 매우 중요하다. 숨어 있는 위험에 노출된다는 것을 잘 모르고 있다가 당하는 사용자가 많기 때문이다. 심지어 전문가들도 당한다. 최근 세계 각국에서 급속히 유포돼 수많은 컴퓨터를 감염시킨 워너크라이 랜섬웨어 사태에서 트위터 계정 ‘@MalWareTechBlog’를 사용하는 블로거가 이 랜섬웨어를 분석해 확산을 중단시키는 ‘킬 스위치’를 우연히 발견했다. 그로써 그는 ‘영웅’으로 떠올랐지만 곧바로 그의 개인 신상정보가 온라인에 올랐다. 그의 이력을 파헤친 언론 때문이었다. ‘영웅’이 누구인지 밝히는 것은 좋지만 그런 노출로 그는 자신이 싸우려는 사이버범죄자들의 손쉬운 표적이 될 수 있다.

해킹한 특정인의 실명과 주소, 전화번호, 이메일 주소 등 개인 신상정보를 노출하는 ‘독싱(doxing, 신상털이)’ 공격이 요즘 상당히 흔해졌다. 게다가 온라인을 통해 순식간에 유명인사가 될 수 있는 지금 같은 문화에선 누구든 그런 공격의 표적이 될 수 있다.

우리가 종종 인식하지 못하는 것은 SNS나 웹사이트, 앱의 빈번한 사용이 매일 수천 건의 ‘데이터 포인트’를 생성한다는 사실이다. 이런 정보는 우리의 기호를 파악하고 온라인 편의성을 지원하는 수단으로 수집되고 저장된다. 그러나 온라인 서비스를 위한 이런 데이터 처리는 대부분 공개되지 않는다.

그런 상황에서 데이터 해킹과 유출이 갈수록 늘어난다. 사용자들도 이제 그런 문화에 경각심을 갖기 시작했다. 그러나 자율주행차와 드론, 인공지능(AI) 도우미가 우리 일상생활의 일부가 될 가능성이 커지면서 우리의 디지털 발자국이 커지고 복잡해져 우리가 독자적으로 관리하기 어려워질 수 있다.

따라서 이제는 기업과 정부, 개인이 사용자 안전에 초점을 맞춰야 할 때다. 사용자는 온라인 이용에 따르는 리스크를 더 잘 알아야 하고, 소프트웨어 개발자들은 좀 더 투명하게 리스크를 분석해야 하며, 정책입안자는 그 모든 것을 효과적으로 관리하기 위해 정책을 수정해야 한다.

미국 정부는 공상과학 소설의 대가 아이작 아시모프가 제시한 ‘로봇 3원칙’을 본뜬 지침으로 AI의 미래를 관리하기 위한 계획을 발표했다. AI는 현실을 대체하는 게 아니라 증강시켜야 하며, 윤리적이어야 하고, 모두가 AI 시스템을 개발할 동등한 기회를 가져야 한다는 것이다.

영국 과학기술위원회는 지난해 10월 보고서를 통해 로봇과 AI의 윤리적·법적·사회적 영향에 대한 국가적인 전략 마련을 촉구했다. 그 이후 영국 정부는 AI·로봇 보안 분야를 포함해 해당 산업에 1700만 파운드를 투자하겠다고 발표했다.

또 유럽 의회는 인간과 AI·로봇의 상호작용에 관한 종합적인 규정 채택을 촉구했다. 거기엔 로봇의 법적 지위와 원격 조작으로 작동을 막는 일종의 자폭 기능인 ‘킬 스위치’가 필요한지 여부 등이다.

그러나 무엇보다 업계가 사전 대비책을 강구해 혁신에 수반되는 문제를 해결하는 데 앞장서야 한다. 소셜미디어와 검색엔진이 가짜뉴스와 트롤(troll, 인터넷에 오르는 출처 불명의 유언비어나 선동적인 글)을 막기 위해 지속적으로 노력하는 것이 전례가 될 수 있다. 신기술에서 나타나는 최악의 시나리오에 최대한 주의를 기울이는 것이 기업의 의무다.

디지털 플랫폼이나 기능이 편의성과 새로운 경험을 제공하는 것은 좋지만 무엇보다 안전과 사생활 보호가 최우선이어야 한다. 특정 앱이 사용자에게 무엇을 제공하고 그 리스크는 무엇인가? 혜택과 리스크 중 어느 쪽이 더 큰가? 사용자 데이터가 ‘시스템’의 일부일 때 어떤 일이 벌어질 수 있는가?

결코 불가능한 일은 아니다. 최근의 역사가 보여주듯이 우리는 사회적·행동적 맥락을 폭넓게 이해함으로써 기술을 발전시키는 동시에 사용자와 기업을 안전하게 보호할 수 있다.

- 마크 커티스



필자는 서비스 디자인 회사 피요르드의 창업자다.]

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지