네이버가 자사 음란물 필터링 기술을 외부에 공개했다. 건전한 인터넷 환경 조성 및 이용자 보호에 기여한다는 취지에서다.
 
네이버는 실시간 음란물 필터링 시스템 ‘엑스아이(X-eye) 2.0’를 ‘클로바 그린아이(CLOVA GreenEye)’로 재탄생했다고 16일 밝혔다. 이를 오픈 응용프로그램 인터페이스(API) 형태로 외부에 기술도 개방했다.
 
엑스아이는 네이버가 2017년 출시한 24시간 실시간 음란 이미지 필터링 기술이다. 네이버에 축적된 수백만장의 이미지를 학습, 부적절한 이미지나 동영상(음란물)을 찾아낸다. 해당 유해 콘텐츠가 자사 플랫폼에 등록되면 인공지능(AI) 기술로 실시간 감지해 검색 노출을 차단하는 식으로 적용됐다.
 
네이버는 해당 기술을 검색 외에도 카페·블로그·지식iN 등 다양한 서비스에 활용해왔다. 지난해에는 ‘엑스아이 2.0’으로 시스템을 업그레이드했다. 정상·음란·성인·선정으로 콘텐츠를 세분화해 분류하는 기능이 탑재됐다. 또 ▶렉스넷(ReXNet) ▶컷믹스(CutMix) ▶아담P(AdamP) 등 네이버의 다양한 이미지 인식 선행연구 결과도 적용, 정확도를 99.5%까지 개선했다.
 
네이버는 이날 ‘엑스아이 2.0’을 ‘클로바 그린아이’로 리브랜딩하고, 핵심 기술을 네이버 클라우드 플랫폼을 통해 오픈 API 형태로 공개했다. 클로바 그린아이는 전송된 모든 이미지를 검사하고, 유해 콘텐츠 등급에 따라 검사 결괏값을 반환하는 방식이다. 결괏값은 정상·음란·성인·선정으로 나뉜다. 네이버 클라우드 플랫폼 홈페이지에서 사용 신청할 수 있고, 베타 서비스 단계에서는 신청 후 승인된 사용자를 대상으로 서비스가 제공된다.

회사 측은 “클로바 그린아이 출시로 기술 여력이 없는 스타트업 및 중소기업에서도 유해 콘텐츠 탐지를 손쉽게 자동화할 수 있다”며 “수작업 검수를 최소화해 실시간으로 안정적인 콘텐츠 서비스를 제공할 수 있을 것”이라고 전했다.
 
네이버는 이 밖에도 불법 게시물·악성 댓글 등 유해 콘텐츠를 근절하기 위해 다양한 기술·정책적 노력을 기울여왔다. 음란물 필터링 기술 외에도 2019년 ‘클린봇’을 도입해 악성 댓글 필터링을 강화한 바 있다. 2013년부터 ‘그린인터넷’ 캠페인을 통해 ▶음란·불법 게시물 차단 ▶아동 및 청소년 보호 ▶저작권 보호 ▶개인정보 보호 ▶이용자 만족 및 보호 등의 확산을 추진 중이다.
 
네이버의 서비스 운영 업무를 총괄하는 이정규 책임리더는 “지난 5년여간 네이버 내부에서 이용자 보호에 기여해 온 음란물 필터링 기술을 외부 기업들도 사용할 수 있도록 개방함으로써, 건전한 인터넷 생태계 조성에 도움이 됐으면 한다”며 “앞으로도 AI 모델을 계속 고도화하고 데이터를 최신화하며, 유해 콘텐츠 감지 영역을 확대해나갈 것”이라고 말했다.

정두용 기자 jdy2230@edaily.co.kr

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지