구글 번역기의 오작동이 지속적으로 발생해 AI 번역 알고리즘에 대한 대중의 의구심이 커지고 있다. 지난 4일 서경덕 교수는 구글번역기에 ‘김치용 배추’를 검색하면 ‘Chinese cabbage for Kimchi(김치를 위한 중국 배추)’로 결과가 나오는 것에 대해 문제를 제기했다.
 
구글의 번역 오류는 이번이 처음이 아니다. 지난해 구글 번역기에 ‘에이즈 환자’를 입력하면 ‘우한 사람’이 떠 중국인들의 분노 섞인 항의가 이어졌다. 이 밖에도 ‘여성 우월주의’를 ‘페미니즘(feminism)’으로 오역하고, 심지어는 혐오표현 ‘문재앙’이 ‘문재인’으로 뜨는 등 구글의 ‘독특한’ 번역 오류는 여러 차례 논란이 돼왔다.
 
지난 6월 서 교수는 “구글 번역기에 ‘김치’(한국어)와 ‘Kimchi’(영어)를 중국어로 번역하면 간체와 번체 모두 ‘파오차이’(泡菜)로 결과가 나온다”며 구글에 김치의 중국어 번역 오류 정정을 요청하기도 했다.  
 
이에 구글 번역기의 오류가 단순 오류가 아니라는 주장까지 제기되는 상황이다. ‘구글 번역기가 정치적, 이념적 편향성에 따른 의도적 왜곡을 줄이기 위해 수반되지만, 오히려 이를 역행하는 꼴’이라는 식이다.
 
'일라이자 효과'는 컴퓨터 과학에서 무의식적으로 컴퓨터의 행위를 인간의 행위와 유사한 것으로 추정하고, 의인화하는 경향을 의미한다. 심리 상담 채팅 프로그램 ‘일라이자’에서 파생된 용어로, 당시 상대가 한 말에 적당히 호응하는 수준의 알고리즘을 바탕으로 설계됐음에도 불구하고 환자가 인공지능과 대화한다는 사실을 인지하지 못한 사실에서 비롯됐다. 즉 반복되는 오역으로 수용자가 구글 AI번역 서비스를 두고 ‘불순한 의도를 가졌다’고 받아들이게 된다는 것이다.
 
구글의 번역 소프트웨어는 복잡한 알고리즘과 딥러닝 컴퓨터를 사용한다. 번역 정확도를 높이기 위해 사용자들이 직접 번역을 제안할 수 있도록 환경을 조성하기도 했다. 지난 2016년 구글 번역기가 알파고에 탑재했던 인공신경망 기계번역 기술을 도입하면서 번역 수준에 한차례 업그레이드를 거쳤지만, 아직 AI 기술의 취약점을 극복하지 못한 것으로 풀이된다.  
 
남영자 중앙대 인문콘텐츠연구소 HK연구교수는 “AI의 알고리즘 자체가 데이터를 기반으로 한 학습을 통해 산출물을 만들어내는 구조”라며 “데이터 자체가 양적으로 편향돼 있다. 번역기에 들어가는 ‘재료’가 원인”이라고 진단했다.  
 
예를 들어 ‘나는 어제 동생과 술을 한잔했다.’라는 문장을 구글 번역기를 통해 영어로 바꿀 시, 동생이 남자/여자를 포괄하는 한국어와 달리 영어는 성별을 지칭해야 완성된다. 따라서 결과치는 동생을 임의로 남성에 한정한 ‘I had a drink with my brother yesterday.’다. 상황과 맥락, 지칭 대상을 정확히 파악할 정도로 한국어에 대한 데이터를 습득한 상태가 아니기 때문이다.  
 
남 교수는 “딥 러닝 관계에서 언어는 부익부 빈익빈 관계를 취하고 있다. 영어 등 라틴어 베이스의 데이터는 일반적인 목표 언어이기 때문에 지속해서 쌓이는 반면 한국어는 쌓이지 않은 상태”라며 “심지어 영어권 언어는 광범위한 오픈 데이터가 마련돼 있지만, 한국어는 거의 없는 수준에 가깝다”고 지적했다.  
 
이어 앞으로의 개선책과 관련해선 “알고리즘 구축은 데이터를 쌓아 ‘개선’하는 방식으로 이뤄진다”며 “충분한 데이터를 확보할 수 있도록 오픈 데이터 구축에 힘쓰고, 쌍방향 번역 사례를 늘려서 편향된 번역 사례를 줄여나가야 한다”고 제언했다.  
 
한편 이번 ‘오역 논란’과 관련해 구글은 “구글 지식 패널 정보에 나타나는 검색 결과는 웹상에서의 다양한 정보를 바탕으로 자동 생성되며, 이 과정에서 복수의 출처로부터 검증 과정을 거친다”며 “간혹 사실과 다른 내용이 반영되는 경우가 있으며, 이번(중국 배추 논란)의 경우 빠르게 수정 조치가 된 상태”라고 해명했다.
 
 

김서현 기자 ssn3592@edaily.co.kr

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지