- 네이버제트, 제페토에 안티 그루밍 기술 도입
앱 내 신고 기능 강화…안전 공식 캐릭터 론칭

네이버제트는 25일 제페토 앱 내 신고 기능을 업데이트했다고 밝혔다. 이와 함께 안티 그루밍 기술을 도입하고 안전 공식 캐릭터 론칭하는 등 이용자 보호에 나섰다.
네이버제트는 ▶피드 ▶프로필 ▶월드 ▶채팅 등 애플리케이션(앱) 내 신고 메뉴를 새롭게 업데이트했다. 이는 최근 변경된 커뮤니티 가이드라인에 따른 개선이다. ▶미성년자의 안전 ▶괴롭힘 및 따돌림 ▶혐오 행위 등 신고 옵션을 확장했다. 또 신속한 신고가 진행될 수 있도록 메뉴 상단에 미성년자의 안전·자살 및 자해 등 중대한 위반 행위를 배치했다.
또 ▶사이버 범죄 수사 의뢰 ▶저작권 위반 신고 ▶자살 및 자해 방지 등에 대한 정보를 담은 고객센터 게시물 링크도 제공하고 있다. 신고와 동시에 ‘유저 차단하기’ 기능도 함께 도입했다.
네이버제트 측은 “신고한 사용자와 신고당한 사용자 모두에게 커뮤니티 가이드라인의 위반 사항에 대해 자세하게 설명하고 있다”며 “이는 제재를 받은 이용자가 신고 사항에 대해 상세히 안내받으면 가이드라인 재위반 비율이 감소한다는 연구에 기반한 조치”라고 설명했다.

아동·청소년을 성적 착취와 학대로부터 보호하기 위해 기술, 프로그램을 개발하는 비영리단체 쏜(Thorn)과 협력, 그루밍 대화를 스캔하는 ‘안티 그루밍’ 기술도 채팅에 도입했다. 그루밍의 초기 지표를 빠르게 탐지, 전담팀에서 해당 계정에 대한 엄정한 조치도 내리고 있다. 아동·청소년 성 착취물을 감지하고 제거하기 위한 인력도 배치한 상태다.
네이버제트는 앱 안팎에서 사용자에게 메타버스의 안전한 이용을 돕는 공식 캐릭터 ‘소테리아’도 선보였다. 회사는 지속적인 가이드라인 소개를 넘어 향후 제페토 앱에 등장해 위반 시 이용자를 보호하는 역할로 발전될 것으로 기대하고 있다.
노준영 네이버제트 안전전문팀 리드는 “앞으로도 안전한 메타버스 환경을 조성하기 위해 유해한 콘텐츠를 더욱 정확하게 판단, 추적하는 기술을 고도화하고, 지속해서 모니터링하겠다”며 “신고된 콘텐츠, 유저에 대한 유의미한 피드백을 공유해 투명성과 책임을 이어 나갈 것이며, 이용자 보호를 최우선으로 삼고 글로벌 단체와 협업하며 앞으로도 제페토의 다양한 노력을 공유하겠다”고 말했다.
정두용 기자 jdy2230@edaily.co.kr
ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지
당신이 좋아할 만한 기사
브랜드 미디어
브랜드 미디어
FDA, CAR-T 치료제 접근 장벽 완화[제약·바이오 해외토픽]
바이오 성공 투자, 1%를 위한 길라잡이이데일리
이데일리
이데일리
김영철, 라디오도 불참하고 응급실行..왜?
대한민국 스포츠·연예의 살아있는 역사 일간스포츠일간스포츠
일간스포츠
일간스포츠
내년 실업급여 하한액 月198만1440원…상한액 넘는다(종합)
세상을 올바르게,세상을 따뜻하게이데일리
이데일리
이데일리
[마켓인]이음·헬리오스…대형 PEF 자리 메꾸는 중소형 PEF
성공 투자의 동반자마켓인
마켓인
마켓인
형인우 대표, "엔솔바이오 디스크치료제 美 임상3상 청신호"
바이오 성공 투자, 1%를 위한 길라잡이팜이데일리
팜이데일리
팜이데일리