[이코노미스트 김기론 기자] 생성형 인공지능(AI)을 활용해 ‘복사·붙여넣기’ 방식으로 영상을 대량 생산해 수익을 올리던 이른바 ‘AI 양산형 유튜버’들이 최근 강한 제재를 받으며 주춤하고 있다. 유튜브와 틱톡 등 주요 플랫폼들이 저품질 AI 콘텐츠가 생태계를 교란하고 이용자 신뢰를 훼손한다는 이유로 ‘AI 슬롭(slop)’ 정리에 본격적으로 나섰기 때문이다.

업계에 따르면 올해 1월 들어 ‘AI 슬롭 채널’ 상위 100곳 가운데 16곳이 영구 삭제되거나 영상이 비공개 처리되는 등 사실상 활동이 중단됐다. 해당 목록은 미국 동영상 편집 플랫폼 캡윙(Kapwing)이 지난해 11월 조사한 결과로, 미국 IT 매체 보도에 따르면 삭제된 16개 채널의 누적 조회 수는 약 47억회에 달한다. 이들 채널의 총 구독자 수는 3500만명 이상이며, 연간 추정 수익은 1000만달러(약 147억원)를 넘는 것으로 알려졌다.

대표 사례로는 스페인어권 채널 ‘쿠엔토스 파시난테스(Cuentos Fascinantes)’가 거론된다. 이 채널은 애니메이션 ‘드래곤볼’ 등의 이미지를 AI로 합성해 저품질 영상을 제작해 왔으며 구독자 590만~600만명 규모로 성장했다. 다른 채널인 ‘임페리오 데 헤수스(Imperio de Jesús)’도 종교 콘텐츠와 인터랙티브 퀴즈 형식의 영상을 올리며 약 580만명의 구독자를 확보했으나 이번 정리 대상에 포함된 것으로 전해졌다. 일부 보도에서는 쿠엔토스 파시난테스의 누적 조회 수가 12억8000만회 수준이고 지난해 말 기준 266만달러(약 39억원)를 벌어들였다는 추정치도 제시됐다.

이번 대규모 삭제의 명확한 사유는 공개되지 않았지만, 업계에서는 유튜브가 AI 기반 저품질 콘텐츠를 관리하기 위해 일괄 정리에 나선 것으로 보고 있다. 닐 모한 유튜브 최고경영자(CEO)는 최근 발표한 연례 서한과 공식 블로그를 통해 올해 핵심 과제 중 하나로 “AI 기반 저품질 콘텐츠와의 싸움”을 언급하며 딥페이크와 반복형 콘텐츠 범람에 대한 강경 대응을 예고했다. 유튜브는 기존 스팸·클릭베이트 탐지 시스템을 활용해 저급 콘텐츠를 걸러내는 것으로 알려졌다.

유튜브의 커뮤니티 가이드라인과 수익 창출 정책은 AI 활용 자체를 금지하지는 않는다. 그러나 프로그램을 통해 자동 생성된 콘텐츠, 교육적 가치 없이 텍스트를 읽어주는 영상, 맥락 없이 대량 복제된 콘텐츠 등은 위반으로 판단될 수 있다. 결국 AI를 사용했는지 여부보다, 콘텐츠가 이용자에게 제공하는 독창성과 정보 가치가 핵심 기준이 된다는 해석이 나온다.

다른 플랫폼들도 대응을 강화하고 있다. 틱톡은 AI 생성 콘텐츠에 별도 라벨을 부착하도록 요구하고, AI 음성이나 딥페이크 사용 시 이를 의무적으로 공개하도록 했다. 메타도 2024년 인스타그램과 페이스북에서 AI 생성 콘텐츠를 자동으로 인식하는 시스템을 도입하는 등 확산 차단에 나섰다. 플랫폼들이 ‘AI 슬롭과의 전쟁’을 선포한 배경에는 저품질 영상이 추천 알고리즘을 오염시키면 이용자 이탈이 늘고, 자동 생성 영상 급증으로 서버·트래픽 등 운영 비용 부담도 커질 수 있다는 판단이 깔려 있다는 분석이 제기된다.

다만 AI 콘텐츠 ‘옥석 가리기’ 과정에서 선의의 피해자가 발생하고 있다는 지적도 나온다. AI를 도구로 활용해 제작하는 ‘하이브리드 창작자’와 단순 복사형 채널을 알고리즘이 제대로 구분하지 못한다는 것이다. 실제 해외 커뮤니티 레딧에는 대본은 직접 쓰고 목소리만 음성 합성(TTS)을 썼는데도 ‘재사용된 콘텐츠’ 제재를 받았다는 사례가 공유되고 있다.

국내에서도 유사한 논란이 제기됐다. 공포·괴담 채널을 운영하는 한 창작자는 돌연 ‘허위 콘텐츠’ 등을 이유로 수익 창출 정지 통보를 받았다고 주장하며, 제작 과정 증거를 제출해 이의제기를 했지만 받아들여지지 않았다고 호소했다. 애니메이션 영상을 제작하는 다른 유튜버 역시 정상 제작 영상이 AI 생성물로 오인 분류돼 불이익을 받았다고 말했다. 이들은 AI 슬롭을 제재하더라도 명확한 기준과 충분한 소명 절차가 마련돼야 한다고 강조했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지