[이코노미스트 송현주 기자] 토스증권이 자체 인공지능(AI) 모델을 고도화해 주식 종목토론방의 ‘AI 감시망’을 촘촘하게 짠다. 욕설이나 금지어 등 특정 키워드를 단순히 걸러내는 수준을 넘어 철자를 바꾸거나 은어를 사용하는 등 변형·우회된 표현은 물론 게시물의 전체 맥락까지 읽어 문제 콘텐츠를 찾아내는 방식이다. 종목토론방이 투자자들의 주요 소통 창구로 자리 잡으면서 AI를 활용해 커뮤니티의 ‘파수꾼’ 역할까지 강화하는 모습이다.

28일 토스증권의 ‘커뮤니티 서비스 이용약관’ 신구조문대비표에 따르면 오는 9월 28일부터 개정 약관이 시행된다. 이번 개정은 콘텐츠와 프로필에 대한 검수·제재 기준을 보다 명확히 규정하기 위해 마련됐다.

가장 눈에 띄는 변화는 AI를 활용한 커뮤니티 검수 방식이 약관에 구체적으로 담긴 점이다. 기존 약관 제15조는 회사가 커뮤니티 서비스의 건전성과 투명성, 유익성을 유지하고 시장질서 교란을 예방하기 위해 ‘콘텐츠를 검수할 수 있다’고 규정했다.

개정 약관은 검수 대상을 ‘콘텐츠와 프로필’로 확대한다. 게시글과 댓글은 물론 닉네임, 자기소개, 프로필 사진 등 회원이 게시하는 모든 유형의 콘텐츠와 프로필을 회사가 선택하는 방식으로 검수할 수 있도록 했다. 특히 검수 방식에 ‘AI 기반 자동 필터링 및 모니터링을 포함한다’는 문구를 새롭게 명시했다.

콘텐츠 제재 방식도 구체화된다. 기존에는 약관이나 커뮤니티 규칙에 위배되는 콘텐츠를 삭제하거나 비공개 처리하는 방식이 중심이었다. 앞으로는 작성자의 의사와 관계없이 콘텐츠의 ‘노출 순위 제한’, ‘숨김(미노출)’, ‘삭제’ 등의 조치를 취할 수 있다. 문제가 된 게시물에 달린 댓글 역시 함께 노출을 제한하거나 숨김·삭제할 수 있도록 했다.

제재 대상 콘텐츠의 기준도 한층 세분화했다. 욕설·비방·명예훼손이나 외설적인 내용뿐 아니라 폭력·범죄·자살·자해·성착취 등 위법·반사회적 행위를 구체적으로 묘사하거나 미화·옹호·조장하는 콘텐츠가 새롭게 명시됐다. 인종·지역·성별·종교·장애 등을 이유로 개인이나 집단을 비하하거나 차별·폭력을 조장하는 내용도 제재 대상에 포함된다.

투자정보 공개도 제한 가능…비공개 전환 시 고객 통보

개인정보 보호 기준도 강화한다. 기존에는 전화번호나 이메일, 채팅방 ID 등 개인적인 연락창구가 포함된 콘텐츠를 제한했다면 개정 약관에서는 ‘개인을 식별할 수 있는 정보 및 개인적인 연락창구’ 등 개인정보를 노출하거나 이를 요구하는 행위까지 범위를 넓혔다.

주식 커뮤니티 특성을 고려한 시장질서 교란 관련 규정도 유지된다. 풍문 유포나 미공개 중요정보 누설, 통정매매·공동모의 매매·허위호가 등 부정거래나 시세조종과 관련된 콘텐츠가 의심될 경우 제재할 수 있다. 유사투자자문업이나 집합투자업, 대부업, 투자조합 등에 대한 홍보·소개·광고 역시 제한 대상이다.

정치·사회적 갈등을 유발하는 콘텐츠에 대한 기준은 보다 구체적으로 바뀐다. 기존에는 ‘투자와 무관한 정치논쟁 또는 평론’이 제재 대상이었다면 개정안에는 특정 정치인·정당·정치성향에 대한 비하·조롱이나 사회집단 사이의 대립·갈등을 유도하는 내용까지 명시됐다.

프로필에 대한 직접적인 제재 근거도 마련한다. 닉네임이나 프로필 사진, 자기소개가 약관 등에 위배될 경우 토스증권은 회원에게 삭제나 수정을 요청할 수 있다. 일정 기준을 위반하면 닉네임과 프로필 사진을 비공개 처리하거나 기본 설정으로 변경하고 자기소개를 비공개 처리할 수도 있다.

대신 제재 절차와 이용자의 이의신청 절차도 보다 명확하게 규정했다. 콘텐츠의 노출 제한이나 숨김·삭제 등의 조치를 할 경우 해당 회원에게 지체 없이 통보하도록 하고, 회원은 고객센터를 통해 이의를 신청할 수 있다. 이의신청 사유가 타당하다고 판단되면 회사는 제재를 취소하거나 콘텐츠·프로필을 복구할 수 있다.

이번 약관 개정은 증권사 MTS가 단순한 주식 거래 플랫폼을 넘어 투자자들이 정보를 생산하고 소비하는 커뮤니티로 확장되면서 플랫폼의 관리 책임 역시 커지고 있다는 점을 보여준다. 특히 투자 커뮤니티의 경우 특정 종목에 대한 허위정보나 풍문, 시세조종성 게시물 등이 실제 투자 판단과 거래로 이어질 수 있어 일반 온라인 커뮤니티보다 시장질서 관리 필요성이 크다는 게 업계 관측이다. 

토스증권 관계자는 “커뮤니티 이용자가 늘어나면서 투자자들이 보다 건전하게 정보를 교류할 수 있는 환경을 만드는 것이 중요해지고 있다”며 “이번 약관 개정은 기존에 운영해 온 모니터링 체계를 바탕으로 AI를 활용한 검수 방식과 콘텐츠·프로필 관리 기준을 보다 명확하게 규정하기 위한 것”이라고 말했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지