[이코노미스트 김기론 기자] 최근 유튜브를 중심으로 골프선수 출신 방송인 박세리와 배우 김승수가 결혼을 발표했다는 내용의 영상이 빠르게 확산됐으나, 해당 콘텐츠는 인공지능(AI)으로 제작된 허위 영상인 것으로 확인됐다.

27일 기준 관련 영상은 조회수 866만회를 넘어섰으며, 유사한 내용을 담은 영상과 쇼츠 콘텐츠들도 수십만 회 이상의 조회수를 기록한 것으로 나타났다. 문제의 영상은 실제 인물의 사진과 음성, 뉴스 보도 형식을 결합해 제작돼 사실처럼 소비됐다.

영상에는 두 사람이 한 예능 프로그램 출연을 계기로 연인 관계로 발전했으며, SBS 뉴스 보도를 통해 결혼을 공식 발표한 뒤 지난 1월 23일 서울 모처에서 가족과 지인만 초대한 비공개 결혼식을 올렸다는 구체적인 설정이 담겼다. 실제 방송 화면과 유사한 자막 구성, 익숙한 뉴스 멘트가 더해지면서 상당수 시청자들은 이를 검증된 정보로 받아들였다.

댓글창에는 “축하한다”, “잘 어울린다” 등의 반응이 잇따랐고, 해당 영상은 다른 플랫폼으로 복제·재유통되며 확산됐다. 지난해 말부터 유튜브를 중심으로 퍼진 이 허위 콘텐츠는 수백만 조회수를 기록하며 기정사실처럼 소비됐다.

이처럼 AI 기술을 활용해 대량 생산되는 허위·저품질 콘텐츠는 최근 ‘AI 슬롭(Slop)’이라 불린다. 슬롭은 원래 오물이나 음식물 찌꺼기를 뜻하는 단어로, 소셜미디어(SNS) 환경에서는 조회수와 광고 수익을 노리고 만들어진 저품질 AI 생성 콘텐츠를 의미한다.

AI 슬롭의 가장 큰 특징은 사실이 아님에도 실제 뉴스처럼 보인다는 점이다. 기존 이미지와 영상, 기사 내용을 짜깁기해 그럴듯한 서사를 구성하며 이용자의 판단을 흐리게 한다. 특히 유명인과 뉴스 형식을 결합할 경우 파급력은 더욱 커질 수 있다는 지적이 나온다.

미국 사전 출판사 메리엄 웹스터는 고양이가 말하는 영상, 실제 뉴스처럼 보이는 가짜 콘텐츠, AI가 작성한 조잡한 책 등을 대표적인 AI 슬롭 사례로 분류하고 있다.

미국 영상 편집 플랫폼 카프윙이 지난해 11월 발표한 보고서에 따르면 AI 슬롭 유튜브 채널의 누적 조회수는 630억회를 넘어섰다. 전 세계 상위 유튜브 채널 1만5천개 가운데 278개 채널이 AI로만 제작된 저품질 콘텐츠를 게시하고 있으며, 이들 채널의 연간 광고 수익은 약 1천690억원에 달하는 것으로 추정된다.

특히 한국은 AI 슬롭 콘텐츠의 최대 소비 국가로 지목됐다. 카프윙 분석에 따르면 한국 기반 AI 슬롭 채널의 누적 조회수는 84억5천만회로, 파키스탄과 미국을 크게 웃돌았다.

유튜브도 AI 슬롭 문제를 주요 과제로 인식하고 있다. 닐 모한 유튜브 최고경영자(CEO)는 최근 공식 블로그를 통해 “저품질·반복형 AI 콘텐츠의 확산을 줄이기 위해 기존 스팸·클릭베이트 대응 시스템을 강화하고 있다”고 밝혔다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지