#“후회하게 만들어 줄게!” 낮은 레벨의 남성 캐릭터가 여성에게 거절당해 황무지로 쫓겨난 뒤 갑자기 거점을 짓기 시작하는 모바일 전략 게임 광고. 실제 배우를 기용한 듯 생생하게 구현됐지만, 맥락 없는 스토리와 어색한 표정 연기에 이용자들은 곧바로 인공지능(AI)이 만든 영상임을 눈치채고 ‘건너뛰기’ 버튼만 나오길 기다린다.

실제 사람과 구분하기 어려울 정도로 정교해진 AI 영상 기술이 소셜미디어 피드를 도배하고 있지만, 인위적인 어색함에 피로감을 느낀 이용자들의 외면 현상이 가속화하고 있다.

리서치 기업 오픈서베이가 발표한 ‘소셜미디어 트렌드 리포트 2026’에 따르면, 소셜미디어 이용자의 절반에 달하는 49.9%가 AI 콘텐츠를 접했을 때 ‘인위적이거나 어색하게 느껴진다’고 답했다. 이어 ‘내용이나 정보가 사실인지 의심스럽다’는 응답이 39.0%, ‘AI 사용 사실을 밝히지 않으면 속는 느낌이 든다’는 응답도 33.8%로 나타났다. 소셜미디어 광고가 부정적으로 기억에 남은 이유에 대해서도 ‘AI로 만든 것처럼 느껴져서(13.2%)’가 상위권에 올랐다.

이처럼 AI 생성 여부나 표시가 불분명한 영상에 대한 거부감이 확산하면서 이용자 대다수는 라벨링 및 워터마크 강제를 요구하고 있다. 조사 대상자의 85.6%가 AI 콘텐츠에 대한 식별 표식이 필요하다고 답했으며, AI 콘텐츠 시청 시 불편함을 줄이기 위해 가장 필요한 요소로 ‘AI 사용 여부의 명확한 표시(54.7%)’를 1위로 꼽았다.

이러한 이용자 반발과 시장 혼란을 해소하기 위해 국내외 규제 당국도 법적 강제 조치에 나섰다. 국내에서는 2026년 1월부터 시행된 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 법률’(AI기본법)에 따라 과학기술정보통신부(이하 과기정통부)와 방송미디어통신위원회가 AI 생성물에 대한 투명성 확보 제도를 본격 가동하고 있다. AI로 생성되거나 편집된 영상·음성·이미지 콘텐츠를 유통하는 사업자는 이용자가 AI 생성물임을 명확히 인지할 수 있도록 식별 표시를 부과해야 한다.

이행 방식으로는 사람의 눈이나 귀로 직접 확인할 수 있는 ‘가시적·청각적 문구·상표’ 표시와 더불어, 시스템이 라벨링 여부를 자동으로 검수·추적할 수 있는 메타데이터 형태의 ‘컴퓨터 판독형 암호화 워터마크’ 적용이 동시 강제된다. 과기정통부는 AI 모델 개발사뿐만 아니라 이를 플랫폼에 올려 배포하는 서비스 제공자까지 이행 의무 대상에 포함하고 실태 점검에 나섰으며, 제도 안착을 위해 일정 기간의 계도기간을 거쳐 미이행 사업자에 대한 과태료 부과 및 시정명령 등 행정처분을 내릴 방침이다.

해외에서도 이 같은 변화의 움직임이 본격화하고 있다. 유럽연합(EU)은 지난 8월 포괄적 규제법인 ‘AI법’ 제50조(투명성 의무)를 발효시켰다. 신규 출시되는 생성형 AI 콘텐츠에는 AI 제작물임을 알리는 표식이 필수 적용되며, 위반 시 전 세계 연간 매출의 최대 3% 또는 1500만~3500만 유로(약 220억~510억원)에 달하는 징벌적 과징금이 부과될 수 있다.

글로벌 규제 당국이 시각적 라벨과 컴퓨터 판독형 워터마크의 동시 적용을 강제하면서 주요 플랫폼 기업들의 라벨링 기술 이행 압박은 한층 거세질 전망이다.

이와 관련해 조쉬 우드워드 구글 부사장은 자신의 X(옛 트위터)에 “우리는 창의적 통제와 안전 사이의 균형을 맞추고 있다”며 “눈에 보이는 가시적 워터마크는 선택 사항으로 두더라도, 보이지 않는 ‘신스ID(SynthID)’ 워터마크와 C2PA 메타데이터는 투명성을 위해 활용하고 있어 구글 제미나이나 검색을 통해 이미지가 AI로 생성됐는지 언제든 확인할 수 있다”고 밝혔다.

신스ID는 영상이나 이미지, 음성 파일의 화질이나 음질을 손상시키지 않고 픽셀이나 데이터 파형 내부에 육안으로는 보이지 않는 암호화 신호를 각인하는 기술이다. 함께 언급된 C2PA 메타데이터는 ▲콘텐츠가 제작된 기기 ▲수정 및 편집 이력 ▲사용된 AI 모델 정보 등을 디지털 데이터 파일에 암호화해 기록하는 글로벌 기술 표준이다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지