[이코노미스트 최영진 기자] 심각한 사회문제로 대두되고 있는 딥페이크·가짜뉴스에 정부가 칼을 빼 들었다. 

경찰은 딥페이크 및 딥보이스·가짜뉴스 탐지를 위한 기술 개발을 위해 연구비 91억원을 지원하는 사업 계획을 공고했다. 경찰이 공고한 연구 기간은 올해 4월부터 2027년 12월까지다. 

인공지능(AI)의 발전으로 AI 기술을 악용한 딥페이크나 가짜 뉴스 등의 범죄가 늘어나면서 사회문제로 대두되고 있다. 관련 이슈의 진위를 파악하기 위해 오랜 시간과 인력을 투입하는 사회적 비용이 늘어나고 있다. 현재 수사는 관련 콘텐츠에 일일이 대응해야 하는 상황이다. 이 때문에 신종 범죄에 대응할 수 있는 기술적인 시스템이 필요하다는 지적이 나오고 있다. 

경찰은 이번 사업을 통해 이미지와 음성 등의 복합 정보를 탐지하고 분석하는 알고리즘을 개발하고, 이를 통해 딥페이크 영상을 가린다는 계획이다. 딥보이스의 경우 음성 주파수나 시간분석 등을 활용할 방침이다. 

이번 계엄 사태를 계기로 활개를 치고 있는 가짜뉴스 판별에도 적극 나설 예정이다. 생성형 AI를 통해 유사한 정보나 뉴스가 특정 시간과 시가에 증폭되는 경우를 분석해 원천 콘텐츠를 추적한다는 것이다. 퍼나르기를 통해 가짜 뉴스가 유통되는 것도 대응하게 된다. 

정부가 이런 딥페이크·가짜뉴스 판별 시스템 연구에 나선 것은 관련 사건이 늘어나고 있기 때문이다. ‘엔번방’ ‘박사방’의 충격이 기억에서 사라지기 전인 지난 1월에도 딥페이크 성범죄인 ‘자경단’ 사건이 벌어졌다.

자경단 사건은 지난해 1월 24일 검찰로 송치된 A씨가 스스로를 ‘목사’라 칭하며 5년여 동안 수백 명의 남녀를 성착취한 사건이다. 30대 총책 A씨는 2020년 5월 자경단을 결성해 올해 1월까지 피라미드형 사이버 성폭력 집단을 운영했다. 목사 아래 집사, 전도사, 예비전도사 등의 계급이 존재했다. A씨 외에도 자경단 조직원인 전도사 8명, 예비전도사 5명도 검거됐다. 한국 사회를 떠들썩하게 했던 ‘N번방’보다 더 잔혹하다는 평가까지 나온다. 

지난해 1월∼10월까지 딥페이크 성범죄 사건 194건이 경찰에 접수됐고, 이 사건으로 573명이 검거됐다. 

 

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지