‘다메다메’ 밈에서 딥페이크의 가능성 볼 수 있어… K팝 스타 이용한 딥페이크 포르노 영상 문제 불거져

‘다메 다네 다메요~ 다메나노요~’ (だめだね　だめよ　だめなのよ)(안 되겠어 안 돼 안 된단 말야~)

인터넷 커뮤니티나 유튜브에서 웃긴 사진이나 영상을 보는 것을 좋아한다면 아마 한 번쯤은 이 노래를 부르는 모습이 담긴 영상을 보았을 것이다. 지난해 하반기부터 인터넷에서 유행한 이른바 ‘다메다메’ 밈이다. (원문 가사는 ‘다메 다네’지만, 우리나라에서는 그냥 ‘다메다메’로 통한다.)

등장인물도 다양하다. 평범한 백인 아저씨부터 버락 오바마 전 미국 대통령, 궁예, 타노스까지 수많은 인물이 주인공이 되어 이 일본 발라드를 부른다. 특징이라면 모두 같은 표정, 같은 입 모양, 같은 움직임으로 노래를 부른다는 점이다. 어떻게 된 일일까? 이 노래는 야쿠자를 소재로 한 일본 게임 ‘용과 같이’에 등장하는 ‘바보같이’라는 곡이다. 야쿠자들의 거친 겉모습과 대비되는 애잔한 사랑의 마음을 남성적 느낌의 발라드에 담아 세계 게임 팬들의 사랑을 받았다. 그러던 중 도비룰스(Dobbyrules)라는 서구권 무명 유튜버가 표정에 감정을 듬뿍 담아 진지하게 이 노래를 립싱크하는 영상이 뜬금없이 인기를 끌었다. 여기까지는 알고리즘의 선택을 받은 유튜브 반짝스타의 이야기라 할 수 있다.

이후 일부 능력자들이 딥페이크 기술을 이용, 다른 사람의 얼굴을 이 유튜버의 영상에 얹어 마치 다른 사람이 노래를 부르는 것처럼 보이는 영상을 만들어 내기 시작했다. 이 딥페이크 영상을 만드는 알고리즘은 2019년 세계적 인공지능 학술대회 NeurIPS에서 발표된 논문을 바탕으로 한다. 이를 기반으로 한 단계씩 따라만 하면 쉽게 이 딥페이크 영상을 만들어내는 방법이 온라인에 퍼지면서 ‘다메다메’ 밈은 새로운 차원에 들어섰다.

‘다메다메’ 밈은 2020년 최고 인기 사용자 제작 콘텐트(UGC)의 하나로 남을 것이다. 그리고 대중이 참여해 만들고 큰 규모로 함께 즐긴 첫 번째 딥페이크 콘텐트로 기억될 것이다. 인공지능의 발달과 함께 딥페이크도 점차 누구나 쉽게 쓸 수 있는 기술이 되는 단계에 접어들었다는 신호다.

새로운 미디어는 소수 전문가만 다룰 수 있는 고난도 작업으로 시작했다가 기술과 장비가 저렴해지면서 대중의 참여가 늘어났다. 아마추어들의 장난스러운 콘텐트 홍수 속에서 다시 새로운 창의성의 씨앗이 나타나는 과정을 반복했다. 사진이나 영상도 초창기에는 개인이 할 수 있는 일이 아니었으나, 어느새 누구나 카메라가 있고 누구나 생일 파티를 홈 비디오로 찍는 세상이 왔다.

사진이나 디지털 이미지를 만들고 꾸미는 일 역시 한때 전문 디자이너의 영역이었다. 사진 편집 소프트웨어의 보급과 스마트폰의 등장, 모바일 사진 꾸미기 앱의 인기와 함께 이제는 누구나 할 수 있는 일이 되어 하루에 수억, 수십억 개의 콘텐트가 쏟아져 나온다. 유선 인터넷 시절에는 유머러스한 합성 게시물이 인기를 끌었고, 모바일 시대에는 ‘움짤’과 ‘뽀샤시한’ 셀카가 홍수를 이룬다. 이 같은 미디어 생산의 자유는 우리에게 더 많은 즐거움을 안겼고, 창의력을 발휘할 더 많은 기회를 주었다.

이제 인공지능 딥페이크 기술을 대중이 쉽게 활용해 콘텐트를 만들 수 있다면 어떤 일이 벌어질까? 지금까지 표현할 수 없던 것들이 실제로 나타날 새로운 가능성이 열리게 될 것이다. 아직은 대중적 딥페이크 기술은 정확도나 자연스러움 등의 측면에서 부족한 점이 많다. 하지만 사용자가 빠르게 늘어날수록 기술은 더 좋아지면서도 저렴해지는 법이다.

딥페이크 기술은 이미 여러 분야에서 창의적으로 활용되기 시작했다. 이를테면, MIT의 멀티미디어 아티스트들은 우주 탐사 계획에 대한 ‘대체 역사’ 다큐멘터리 제작에 딥페이크 기술을 활용했다. 1969년 아폴로 탐사선의 달 착륙 당시, 닉슨 대통령은 탐사가 실패한 상황을 대비해 다른 버전의 연설문을 준비해 두었다. 현실에서는 다행히 이 연설문을 읽을 일이 없었지만, 제작진은 대체 역사 다큐멘터리 속에서 대통령이 이 연설문을 읽는 상황을 만들어내고 싶었다.

통상적으로 할리우드 특수효과팀의 도움 없이는 쉬운 일이 아니다. 그러나 이들은 인공지능의 도움을 받았다. 닉슨 대통령의 영상을 통해 인공지능에 그의 얼굴과 목소리를 학습시켰다. 그리고 그를 닮은 중년 백인 남성 배우를 고용해 연기를 시켰다. 배우의 얼굴과 목소리에 닉슨의 얼굴과 목소리가 얹혔고, 닉슨 대통령이 달 착륙 계획의 희생자를 애도하는 연설을 하는 장면이 탄생했다.

러시아 성 소수자에 대한 박해를 다룬 고발 다큐멘터리 영화 ‘웰컴 투 체첸’에서는 출연한 증인을 보호하기 위해 딥페이크로 다른 사람의 얼굴을 덮었다. 그래서 내부고발자의 신원을 밝히지 않으면서도 증인의 고뇌에 찬 표정과 움직임은 영화에 담을 수 있었다. 북한 지도자 김정은이 미국 대선 투표 참여를 독려하는 선거 캠페인 영상이 나오기도 했다.

모두 딥페이크 기술을 활용해 새로운 표현의 가능성을 연 사례들이다. 그리고 이 기술은 점점 더 쉬워지고 저렴해지고 있다. 당연히, 이런 흐름에 긍정적 측면만 있지는 않다. 새로운 미디어를 가장 먼저 시도하는 사람들은 항상 호기심 많은 얼리어답터, 그리고 음란물을 취급하는 사람들이었다.

딥페이크의 오용에 대해서는 이미 적지 않은 사례들이 알려져 있다. 포르노 영상에 여성 연예인이나 지인의 얼굴을 합성한 딥페이크 음란물이 인터넷의 음지에서 공공연히 돌아다닌다. 2019년 네덜란드의 AI 기업 센시티 조사에 따르면, 딥페이크 포르노 사이트에 올라온 영상의 25%는 K팝스타가 대상이었다. 최근 딥페이크로 여성 연예인이 등장하는 음란 합성물을 만드는 행위를 처벌해 달라는 청와대 청원이 하루 만에 26만명의 동의를 얻기도 했다.

텔레그램 메신저에서 원하는 인물이 등장하는 딥페이크 영상을 거래하거나, 딥페이크로 여성 사진에서 옷을 벗겨내 알몸이 드러난 모습으로 재구성하는 사례도 있다. 정교한 딥페이크 기술을 정치인 등 실제 인물에 적용, 가짜뉴스를 만들거나 특정한 목적을 위해 폭력과 거짓을 선동하는 사례가 나타날 수 있다는 우려도 크다.

새로운 미디어 기술이 등장한 초기에는 사람들이 익숙해질 때까지 혼란의 시기를 감내할 수밖에 없다. 여기에 믿고 싶은 정보는 사실 확인 없이 믿으라고 부추기는 현대 소셜미디어의 알고리즘, 음란물 등 어둠의 콘텐트를 즐기는 인간의 본능이 더해지면 딥페이크는 파괴적 결과를 불러올 수도 있다. 인공지능 시대를 사는 우리는 딥페이크를 거짓의 도구가 아니라 창의성의 수단으로 활용할 시기를 앞당기는 지혜를 발휘할 수 있을까?



※ 필자는 전자신문 기자와 동아사이언스 데일리뉴스팀장을 지냈다. 기술과 사람이 서로 영향을 미치며 변해가는 모습을 항상 흥미진진하게 지켜보고 있다. [어린이를 위한 디지털과학 용어 사전]을 지었고, [네트워크전쟁]을 옮겼다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지