[한세희 테크 & 라이프] 유럽의 ‘인공지능 규제 정책’ 우리의 미래에 어떤 영향을 미칠까?
EU 인공지능 정책 포괄적이고 다양한 내용 담겨
인공지능 기술에 대한 '금지' 규정, 꼼꼼히 살펴봐야
![](/data/ecn/image/2021/05/03/ecne26de1fd-b8d1-4477-9e52-1ea7e2e590bc.jpg)
“불특정 다수의 사람을 대상으로 인공지능 얼굴 인식 기술을 활용할 수 없게 된다. 사람들의 행동이나 의견에 무의식적 영향을 미치는 알고리즘은 금지된다. 인공지능을 이용해 사람들의 신용이나 평판을 분석하고 등급을 매길 수 없다.”
유럽연합(EU)이 바라는 근미래 디지털 세계의 모습이다. 우리가 인공지능에 대해 우려하는 일들이 실제로 벌어지지 않도록 하는데 초점을 맞추었다. 인공지능이 지배하는 디스토피아를 용납하지 않겠다는 의지가 보인다. 하지만 이런 정책이 과연 더 좋은 세상을 만들 수 있을까?
EU 집행위원회의 인공지능 규제 정책안 영향 주목
EU 집행위원회는 지난 4월 21일 (현지시각) 인공지능 규제 정책안을 발표했다. ‘인공지능에 대한 조화로운 규칙들’을 표방하는 이 정책은 인공지능으로 인한 리스크를 완화하고, 유럽이 인공지능 분야를 주도할 수 있게끔 하는 것을 목표로 한다.
인공지능 기술을 위험도(risk)에 따라 분류해 각기 다른 수준으로 규제하는 ‘위험 기반 접근’이 특징이다. 인공지능을 이용해 무의식에 영향을 미치거나 행동을 왜곡시키는 것, 원격 바이오 식별 기술 (인공지능 얼굴 인식 기술의 다른 표현이다), 중국에서 이뤄지는 것과 같은 인공지능 기반의 신용 평가 등은 금지된다. 이런 분야에 인공지능을 사용하는 것에는 용납할 수 없는 수준의 위험성이 있다고 평가했기 때문이다.
자율주행이나 채용처럼 시민의 안전이나 기본권, 주요한 일상에 영향을 미치는 AI 기술은 고위험군으로 분류되어 데이터세트에 편향성이 없도록 하는 등 관리 감독을 받게 된다. 인공지능 시스템이 어떻게 작동하는지 설명도 해야 한다. 인공지능 기반 챗봇 같은 기술은 ‘제한된 위험’이 있는 기술로 평가되며, 이용자에게 인공지능과 상호작용하고 있음을 공지해야 한다.
금지된, 혹은 고위험군 인공지능과 관련된 의무를 지키지 않으면 연간 글로벌 매출의 6% 또는 3000만 유로 중 더 많은 쪽을 벌금으로 내야 한다. 이 규제안은 인고지능의 사용과 감독에 대한 최초의 포괄적 법안 제정 시도로 평가된다.
EU에 따르면, 이 정책의 목표는 인공지능 기술을 ‘사람 중심’으로 활용해 “개인을 보호하는 명확한 규정을 만들고, 세계 표준이 될 만한 인공지능 정책을 세우는 것”이다. 인공지능의 위험은 막고, 유럽 내 인공지능 기업들의 경쟁력은 높인다는 목표다. 한국식으로 표현하면 ‘규제’와 ‘진흥’ 방안이 함께 담겨 있는 것이다.
그러나 주로 눈에 띄는 것은 주요한 인공지능 기술에 대한 ‘금지’ 규정들이다. 블랙박스 속 알고리즘이 사람을 평가해 은행 대출 여부나 신용도를 결정하고, 얼굴 인식 기술이 시민을 감시하며, 채용 지원 인공지능이 여성과 유색 인종을 차별하는 일이 벌어지지 않도록 하겠다는 의도다. 마르그레테 베스타게르 EU 집행위원회 부위원장은 “우리의 규제는 특정 인공지능 기술의 사용이 불러올 인간 및 사회에 대한 위험을 시정하는데 목적이 있다”고 말했다.
이번 EU의 인공지능 정책은 지금까지 그 어떤 나라에서 나온 관련 정책보다 포괄적이고 다양한 내용을 담고 있다. 그러나 인공지능의 영향이 커질 미래 사회에 대한 충분한 대비가 될지에 대해서는 의견이 갈린다.
시민단체들은 실종 아동 수색이나 테러범 검거 등의 목적을 위해서 경찰이 불특정 다수에 대한 얼굴인식 기술을 쓸 수 있게 한 것에 대해 불만을 표하고 있다. 반면 테크 기업들은 관련 산업 발전을 가로막고 결국 소비자에 피해를 줄 것이라 주장한다.
유럽이 미·중 틈새에서 입지 찾는 방법
유럽의 새 인공지능 정책이 유럽인들의 삶에 어떤 영향을 미칠 지는 지켜봐야 할 일이다. 이 정책안이 EU 각 회원국에서 채택되고 실제 효력을 발휘하기까지는 몇 년 정도 걸리리라는 점을 생각하면 실제 영향이 나타나는 것을 보려면 한참 기다려야 할 것이다.
그럼에도 확실히 보이는 한 가지는 이 정책을 통해 유럽이 전하는 메시지이다. 미국이나 중국처럼 이 분야를 선도하는 혁신 기업이 있는 것도 아니고, 산업 발전을 끌어갈 방대한 데이터가 있는 것도 아니지만, 그럼에도 미국의 거대 테크 플랫폼 기업들에 끌려가거나 중국식 기술 남용에 빠지지 않겠다는 의지다. 더 정확히는 미국과 중국 중심으로 펼쳐지는 기술 패권 총력전에서 여전히 입지를 지키겠다는 의사 표현이다. 이를테면, ‘무의식적으로 사람의 행동에 영향을 미치는 알고리즘’에 대한 규제는 언제든 페이스북 같은 소셜미디어를 겨누는 칼날이 될 수 있다.
유럽은 지금까지 빅데이터, 독과점, 잊혀질 권리 등 테크 분야 전반에 걸쳐 규제를 통해 미국 기업을 견제하는 모습을 줄곧 보여 왔다.
과거 세계 열강은 군사력과 외교력, 혹은 문화적 역량과 같은 소프트파워로 경쟁했다. 여기에 더해 갈수록 디지털 기술의 중요성이 커지는 것이 현대 사회의 특징이다. 국경을 넘어 세계인의 생활과 행동에 영향을 미치고 데이터를 확보할 수 있는 디지털 플랫폼은 이제 국가 안보의 의미마저 띄고 있다.
인공지능, 5세대(G) 통신, 반도체 등 현재 국제 무대에서 논란이 되는 기술들은 모두 이 같은 디지털 플랫폼 패권을 유지하거나 빼앗기 위한 기본 바탕이 되는 것들이다. 어느새 이런 분야에서 유럽 기업들의 이름을 찾기 힘들어졌다.
인공지능 역시 지금 세계를 주도하는 것은 미국과 중국이다. 미국이 선도적 연구와 혁신 기업들의 활약으로 앞서가는 가운데, 중국이 빠르게 추격하고 있다. 중국에서 발표된 AI 관련 논문은 미국은 물론 유럽 전체보다 많다.
미국은 강한 규제를 가하기보다 다양한 시도를 장려해 혁신을 촉진하는 분위기가 특징이다. 중국은 전 국민을 대상으로 한 신용평가 시스템과 얼굴 인식 기술 적용 등 과감한(?) 행보로 인공지능의 새 지평을 부정적 방향으로도 열고 있다.
유럽이 미국 같은 야생적 혁신 문화, 혹은 중국식 전체주의적 접근을 채택하기는 어렵다. 하지만 인공지능의 위험성을 명분으로 규제를 강화해 이들의 행보를 어느 정도 통제할 수는 있다. 디지털 플랫폼은 국경을 넘어 세계인을 대상으로 끝없이 확대해 나갈 때 효용성이 더 커진다. 이는 유럽이 미국 테크 대기업에 공략당한 원인이 되기도 했지만, 유럽이 해외 기업에 영향을 미칠 고리가 되기도 한다.
놓칠 수 없는 시장인 유럽을 공략하려면 유럽 규제를 따라야 하고, 국경의 의미가 없는 디지털 서비스 기업들은 결국 규제가 가장 엄한 곳을 서비스의 표준으로 삼을 수밖에 없다.
그렇다면 인공지능에 대한 유럽의 선택은 유럽의 일만은 아니게 된다. 우리에게도 영향을 미칠 수 있다. 유럽의 강력한 개인정보보호정책(GDPR)을 전세계 중소기업까지 모두 신경 써야 하는 현실이 이미 우리 곁에 와 있기도 하다. 우리는 유럽이, 혹은 미국이나 중국이 그리는 인공지능 세상에 함께 할, 혹은 반대할 준비가 되어 있나?
※ 필자는 전자신문 기자와 동아사이언스 데일리뉴스팀장을 지냈다. 기술과 사람이 서로 영향을 미치며 변해가는 모습을 항상 흥미진진하게 지켜보고 있다. [어린이를 위한 디지털과학 용어 사전]을 지었고, [네트워크전쟁]을 옮겼다.
ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지
많이 본 뉴스
1“더 맵게·건더기 10% 증량”...오뚜기, 진라면 2종 맛 보강
2스타벅스, 22일까지 디카페인 음료 1000원 할인
3동화약품, 하이로닉 인수해 미용 의료기기 시장 진출
4 윤 대통령, 신임 경호처장에 박종준 前차장 임명
5CJ바이오사이언스, 서울대병원과 감염 진단 공동연구 계약 체결
6애경산업, 추석 앞두고 협력사에 납품대금 153억원 조기 지급
7아모레퍼시픽도 다이소 들어갔다…‘미모 바이 마몽드’ 론칭
8SK에코플랜트, 어센드 엘리먼츠 지분 매각…포트폴리오 효율화
9서정진 셀트리온 회장 "올해 매출 3조5000억원 전망"