이코노미스트

'슈퍼 휴먼' 검색결과

19 건

테슬라의 주행보조 시스템 '오토파일럿'이 연루된 사망 사고에 대해 회사의 책임을 묻는 첫 연방 배심원 재판이 14일(현지시간) 미국 플로리다주 마이애미에서 시작됐다.일간 워싱턴포스트(WP)와 뉴욕타임스(NYT) 등에 따르면 이 재판은 2019년 플로리다주 키라르고에서 발생한 교통사고에 대해 테슬라의 손해배상 책임을 묻는 민사 소송으로, 오토파일럿 관련 사망 사건 가운데 처음으로 배심원단의 판단을 받게 된 사례다.문제의 사고는 2019년 4월 25일 밤, 당시 투자사 간부였던 운전자 조지 맥기가 오토파일럿을 켠 채 모델S를 몰고 귀가하던 중 발생했다.맥기는 통화 도중 휴대전화를 떨어뜨린 뒤 이를 줍기 위해 고개를 숙였고, 이때 차량은 T자형 교차로를 지나 갓길에 정차한 스포츠유틸리티차량(SUV)과 그 옆에 서 있던 20세 여성 나이벨 베나비데스 레온을 들이받았다.레온은 현장에서 숨졌고 함께 있던 남자친구 딜런 앙굴로는 중상을 입었다.피해자 유족과 앙굴로는 지난해 테슬라를 상대로 연방법원에 소송을 제기했다.원고 측은 오토파일럿 시스템이 사고 직전 도로의 끝과 차량, 보행자를 인식했음에도 차량을 멈추거나 경고하지 못했다며 시스템 설계 결함과 경고 실패 등을 이유로 테슬라의 책임을 주장하고 있다.또한 테슬라가 오토파일럿을 고속도로가 아닌 일반 도로에서도 작동 가능하게 둔 점도 문제 삼고 있다.반면 테슬라 측은 사고 원인이 오토파일럿이 아닌 운전자의 과실이라고 맞서고 있다.테슬라는 성명을 통해 "이번 사고는 오토파일럿과 무관하며, 휴대폰을 줍느라 전방 주시를 소홀히 한 운전자의 실수"라고 밝혔다.차량 데이터에 따르면 맥기는 제한속도(시속 45마일)를 넘는 시속 60마일 이상으로 주행했으며, 가속페달을 밟아 자동 감속 기능을 무력화한 상태였다고 한다.원고 측은 일론 머스크 테슬라 최고경영자(CEO)의 과거 발언도 쟁점으로 삼을 방침이다.머스크는 그간 "테슬라 차량은 인간보다 안전하다", "슈퍼휴먼 센서를 갖췄다"는 등의 표현을 써 왔는데, 이러한 발언이 소비자에게 오토파일럿 기능에 대한 과신을 불러일으켰다는 주장이다.이번 사건은 차량 탑승자가 아닌 제3자가 피해자인 만큼, 유죄 평결이 나올 경우 광범위한 법적 책임으로 이어질 수 있다는 관측도 제기된다.재판을 맡은 연방 판사는 "테슬라가 수익을 우선시하며 인명을 경시한 행위를 했다고 배심원이 판단할 수 있다"며 징벌적 손해배상 청구도 허용했다.재판은 약 3주간 진행될 예정이다.

슈퍼 휴먼이 아닌 '친구 같은' 인공지능 [한우진 AI 세상]

인공지능(Artificial Intelligence, 이하 ‘AI’)이란 무엇일까? 이 질문에 대한 답을 찾기 위해 스마일게이트 AI센터(이하 AI센터)가 지난해 8월 출범했다. 목표는 ‘슈퍼 휴먼이 아닌 친구 같은 AI’다. 2012년 딥러닝(DeepLearning) 기술의 등장 이후 AI 분야는 눈부시게 발전해 왔다. 2016년에는 이미지 인식과 바둑(알파고), 2017년 피부암 진단과 음성 인식, 2018년 중영 번역, 그리고 2019년 스타크래프트2에 이르기까지 인간 능력에 근접하는 기술들이 지속적으로 등장하고 있다. 기술을 산업에 적용하는 관점에서 보자면 이커머스, 영상 스트리밍, 금융 분야에서는 방대한 빅데이터를 분석해 최적의 콘텐트 및 상품을 제시하는데 AI 기술을 활용하고 있으며, 고객 상담 분야에서도 AI 챗봇 엔진이 적극적으로 도입되고 있다. 이외에도 무인 매장, 스마트 팩토리, 디지털 아트 등 AI 기술은 다양한 산업군에서 점차 그 활용폭을 넓혀가고 있다. ━ 재밌는 AI, 엔터테인먼트 분야로 향하다 다만 이러한 AI 기술들은 대체로 인간의 종합적인 능력 보다는 개별 능력을 모사하는데 집중하고 있다. 명확하게 정의된 문제를 인간보다 더 효율적으로 해결하는 것, 즉 슈퍼 휴먼을 목표로 하는데 이는 본질적으로 인간과의 경쟁을 염두에 둔 기술 방향이라고 볼 수 있다. 그렇다면 즐거움·감동·공감 등 감성적 가치를 주는 것이 중요한 엔터테인먼트 산업에서 AI는 어떤 방향성을 가져야 할까. 이 질문 앞에서 AI센터는 두 가지 측면에서 방향을 잡았다. 바로 Fun AI와 Human Like AI다. 직역하면, ‘재밌는 AI’와 ‘인간 같은 AI’다. 우선 FunAI는 즐거움·놀람·기쁨 등 인간의 다양한 감정을 이끌어 내기 위한 시각적, 청각적 상호 작용을 연구해 AI를 유쾌한 내 친구로 개념화했다. 엔터테인먼트 산업이 인간의 감성을 충족하는 것이 중요한 만큼, 어떻게 하면 게임과 같은 엔터테인먼트를 즐길 때 AI가 활용될 수 있는지 면밀하게 살펴보기 위해서다. 두 번째, Human LikeAI는 기존 AI 기술이 인간을 능가하는 능력, 즉 슈퍼 휴먼을 목표로 하는데 반해 최대한 인간과 유사한 행동을 하도록 하는 것을 목표로 설정했다. 이를 위해서는 공학뿐 아니라 심리학·인지과학 등 다양한 영역의 연구 결과들이 융합되어야 한다. 실제 AI센터는 연구원 채용 과정에서 심리학 박사를 중용했다. ‘인간과 유사한 행동을 하는 재미있는 AI’를 추구하는 AI센터는 출범 후 지난 1년 간 소기의 성과를 이뤘다. 대화 모델, 음성 인식, 음성 합성, 감정 인식, 3D 모델 시각화 등 다양한 단위 기술을 확보했다. 사실 이러한 단위 기술을 하나로 융합하고 조율하는 일은 아직 선행 사례가 없고 난이도가 높은 일인데, 현재 이 부분에 집중해 인간의 기억과 감정의 영역을 AI의 관점에서 접근한 시도는 괄목할 만한 점이라고 본다. 이를 통해 게임 콘텐트를 더 재미있게 만드는 AI기술, 게임 제작 과정을 효율화 하는 AI 기술·게이머의 의견을 분석하는 AI 기술 등을 연구 개발하고 게임 라이프사이클의 모든 단계에서 활용하는 것을 목표로 삼았다. 특히 스마일게이트그룹에서 서비스하는 게임 외에도 영화, 스트리밍 방송, 드라마 등 다양한 엔터테인먼트 분야로의 확장을 시도해 폭넓게 AI 기술 적용을 검토하고 있다. 이를테면 영화나 드라마 제작 과정은 비용이 많이 들고 기간도 오래 소요되는데, 이 과정을 AI 기술을 통해 효율화 한다면 비용 절감 등 이점이 많을 것으로 예상된다. 이전에는 컴퓨터그래픽(CG) 적용 과정에서 사람이 적극적으로 개입했다면, AI 기술을 차용하면 제작자의 의도에 맞는 배경이나 인물을 좀 더 쉽게 만들 수도 있다. 이르면 올해 하반기 내 일부 서비스에 AI 기술이 적용될 전망이다. 필자는 인간과 AI가 친구가 될 수 있다고 생각하지만 인간의 친구를 대치하는 개념은 아니라고 본다. 미시적 관점에서 해석하자면, 친구 같은 AI는 결국 인간과 감성적 가치를 주고받을 수 있는 AI라고 생각한다. 이를 위해서는 먼저 상대방(인간)의 상태를 다양한 형태(텍스트·음성·얼굴표정·몸동작 등)를 통해 인식해야 하는 것은 물론 자신(AI) 또한 다양한 감정을 지녀야 한다. 목적지향적으로 설계된 현재의 챗봇들은 목적에 부합하는 대화는 잘 할지 몰라도 위의 두 가지 측면 모두가 설계에서 빠져 있다. 결국 인간과 닮은, ‘친구 같은’ AI를 설계하기 위해서는 다양한 분야의 데이터 수집이 선행돼야 한다. 인간이 태어나 성장하면서 겪는 다양한 과정들에 대한 데이터가 필요하며, 학습 방법 관점에서도 인간의 다양한 성장 방식을 모사할 수 있는 방법들이 필요하다. 현재 AI 기술은 한정된 영역에서의 데이터만을 사용하며, 비유하자면 학습방법 역시 선생님이 주입식 교육을 하는 것과 비슷한 형국이다. 인간을 닮은 인공지능을 만들기 위해서는 특정 영역에 한정된 것이 아니라 인간이 생활하면서 마주하는 것과 유사한 다양한 영역에서의 데이터, 특히 문자 형태뿐 아니라 영상·소리·이미지·주위환경 등 멀티모달(Multi-Modal) 형태로 표현된 데이터들이 필요하다. 또 주입식 교육에 해당하는 지도 학습법 이외에도 혼자 고민하는 방식(비지도 학습), 친구와 고민하는 방식(강화 학습) 등 인간의 다양한 학습법들을 더 적극적으로 차용할 필요가 있다. ━ 융합 데이터 인간과 닮은 AI를 만들어 AI를 둘러싼 윤리적 쟁점도 신중하게 고려해야 한다. 간혹 차별·혐오·편견을 학습한 AI가 사회적 논란을 초래할 수 있기 때문이다. 때문에 AI의 학습 데이터를 최대한 정제하는 방법을 모색할 수 있겠지만, 대규모의 데이터가 필요한 현재의 AI 학습 방법으로는 한계를 부정할 수 없다. 서로 다른 개성을 가진 AI의 등장은 기정사실로 인정해야 하는 셈이다. 다만 인간도 사회적 규범과 법 질서에 영향을 받으며, 이를 어길시 제재와 계도 과정을 거치는 점을 간과해서는 안 된다. 그래서 어떤 AI가 사회적 규범에서 어긋난다면 격리시켜 재학습시키는 방식의 연구도 유의미하다고 생각한다. 현재는 인간과 AI가 공존하기 위한 테스트 단계에 진입하고 있다고 생각하는데, 향후 양자간 진정으로 소통하는 사회적 합의가 이루어질 수 있다고 본다. 현재 AI센터에서는 위의 문제들을 해결해 나가기 위한 첫 번째 단계로, HuLiC(Human-Like Competition) 프로젝트를 기획하였고 올해 하반기 공개를 목표로 하고 있다. 이 프로젝트에서는 인간과 AI가 대화함에 있어 (1) AI의 말이 얼마나 인간에 가까운지 (2) AI의 말이 윤리적 기준에 얼마나 부합하는지를 연구하기 위한 데이터들을 구축하고, 최신 AI대화 모델들을 이 기준에 맞춰 평가할 계획이다. 수집된 데이터와 평가 결과를 분석한 리더보드는 HuLiC 프로젝트 사이트를 통해 공개될 예정이다. 더 나아가 누구나 간단한 등록절차만으로 개발한 AI 대화 모델의 인간 유사도와 윤리성을 평가할 수 있도록 하여 AI업계 전체가 이 문제들을 함께 고민할 수 있도록 하는 장을 마련하고자 한다. ※필자는 KAIST 음성언어연구실(‘음성과 오디오 신호처리에 대한 연구’, 박사)을 거쳐 삼성전자(한국인 최초 MPEG 비디오 표준안 에디터 활동), NHN AI LAB 등에 근무하며 AI 분야를 연구해 왔다. 현재 스마일게이트 AI센터 센터장을 맡고 있다. 한우진 스마일게이트 AI센터 센터장

일부 서비스의 ‘추적용 픽셀’이 사용자의 위치와 이메일 활동 등 개인정보 알려줘 전문가에 따르면 이메일은 개인의 활동 반경을 추적하는 데도 사용될 수 있다. 특히 이메일을 언제 확인하는지, 또 어디서 열어보는지 알 수 있다고 한다.현대 세계에서 쿠키라고 하면 단순히 초콜릿 칩이나 견과류 등이 가득 든 과자만 의미하지 않는다. 쿠기는 인터넷에서 개인의 위치나 활동 추적에 사용될 수 있다. 그런 추적을 통해 광고회사는 개인이 웹에 접속할 때마다 무엇을 하는지 알고 그의 관심사 프로필을 만들 수 있다.저널리즘 스타트업 ‘뉴스바인’을 운영한 적이 있고 현재 가장 인기 있는 소셜미디어 플랫폼 중 하나인 트위터에서 디자인 담당 부사장을 지낸 한 전문가는 사용자의 위치와 이메일 활동을 추적하는 데 이메일을 사용할 수 있다고 말했다. 현재 디자인 프로토타이핑 소프트웨어를 개발하는 업체 인비전의 부사장인 마이크 데이비드슨은 장문의 블로그 글에서 ‘슈퍼휴먼’이라는 이메일 서비스가 사용자 이메일에 ‘추적용 픽셀’을 첨부한다고 밝혔다. ‘추적 픽셀’은 송신자에게 수신자가 이메일을 열어봤는지, 열람 시점에 수신자가 어디 있는지 알려준다. 더구나 ‘슈퍼휴먼’은 사용자에게 수신자의 이메일 열람 횟수, 각각의 시각과 장소도 알려준다.그게 무슨 큰 문제냐고? 그 블로그를 읽은 몇몇 사람은 데이비드슨 부사장에게 다른 회사와 이메일 서비스 제공업체도 사람들의 이메일 사용을 추적한다고 말했다. 그러나 데이비드슨 부사장은 ‘슈퍼휴먼’의 접근법이 아주 다르며 다음의 몇 가지 이유로 신중하게 사용할 필요가 있다고 설명했다.첫째, ‘슈퍼휴먼’에는 사용자가 송신한 이메일을 수신자가 열어봤는지 알려주는 ‘열람 영수증’이 기본으로 ‘활성화’된 상태다. 애플의 아이메시지나 마이크로소프트의 아웃룩 같은 다른 서비스에도 그런 기능이 있지만 기본적으로 ‘비활성화’ 상태이며 수신자가 그 기능을 의도적으로 ‘활성화’하지 않으면 송신자가 메시지 열람 여부를 알 수 없다.둘째, 직장에서 관리자가 부하 직원들에게 이메일을 보내는 상황을 생각해보라. 그럴 경우 “그 기능은 24시간 내내 감시하거나 업무를 강요하는 도구로 사용될 수 있다”고 데이비드슨 부사장은 말했다.셋째, 데이비드슨 부사장은 ‘슈퍼휴먼’의 추적을 막기 위해 이메일 앱에서 ‘추적 픽셀’ 기능을 차단할 수 있지만 대다수 사용자가 부주의해서 그 기능을 끄지 않는다고 지적했다. 그런 사용자에게 ‘슈퍼휴먼’은 일종의 스파이웨어 기능을 할 수 있다. 위치 데이터를 추출해 특정 시간에 이메일 수신자의 위치를 알려 주는 ‘지도’를 만들 수 있다는 뜻이다.데이비드슨 부사장은 이메일과 관련한 개인정보 보호를 위해 취할 수 있는 조치 몇 가지를 제시했다.첫째, 그는 ‘슈퍼휴먼’ 사용을 아예 피하라고 권한다. ‘슈퍼휴먼’은 이메일 수신자를 추적할 뿐 아니라 그 기능에 사용되는 스파이웨어 픽셀을 차단하기 어렵게 돼 있다. 따라서 사용자만이 아니라 수신자도 모두 추적할 수 있다.둘째, 데이비드슨 부사장은 어떤 이메일 클라이언트를 사용하든 ‘추적 픽셀’ 기능을 끄도록 권한다. 그러나 아이폰 사용자는 아이폰용 G메일에서 그런 기능을 사용할 수 없다. 따라서 아웃룩을 사용하는 게 좋다고 그가 말했다. 아웃룩은 G메일 계정을 사용할 수 있어 다른 이메일 클라이언트로 옮기지 않아도 ‘추적 픽셀’ 기능을 차단할 수 있다.- 훌리오 카칠라 아이비타임즈 기자