‘AI 제작 콘텐츠’ 식별 中 먼저 치고 나왔다…표시 의무화 규정 초안 발표
“국가안보와 공공이익 수호 위해”
[이코노미스트 이병희 기자] 중국이 인공지능(AI)으로 제작된 콘텐츠에 이를 식별하는 표시를 의무화하는 규정 초안을 발표했다고 홍콩 사우스차이나모닝포스트(SCMP)가 15일 보도했다. 이 규정을 만들기 위해 중국 당국은 한 달간 의견 수렴에 들어간 것으로 알려졌다.
보도에 따르면 해당 초안은 AI로 만들어진 콘텐츠의 제작, 전시, 배포 기간에 ‘AI로 제작’한 사실을 분명히 밝혀야 한다고 규정한다. 온라인 콘텐츠 제공자들은 문자, 영상, 오디오, 가상화면 등 AI로 만든 모든 콘텐츠에 대해 문자, 음성, 그래픽 같은 눈에 띄는 표시로 이를 알려야 한다. 디지털 워터마크나 메타데이터 태그 같은 정교한 표식을 사용하는 것도 권장한다.
초안은 어떠한 단체나 개인도 악의적으로 해당 필수 표시를 삭제, 변조, 위조, 은폐해서는 안 된다고 규정한다. AI로 만든 콘텐츠에 대한 부적절한 식별로 다른 이들의 권리와 이익을 침해해서도 안 된다. 또 온라인 콘텐츠 플랫폼들은 자신들이 배포하는 모든 AI 제작 콘텐츠를 규제해야 한다.
중국 인터넷정보판공실은 해당 규정 초안이 AI를 활용해 콘텐츠를 만들고 대중에 서비스를 제공하는 산업조직, 기업, 교육·과학 연구소, 공공문화기관, 전문기관에 적용된다고 설명했다. 국가안보와 공공이익을 수호하고 인민과 단체의 합법적 권리와 이익을 보호하기 위한 것이라는 게 중국 당국의 설명이다.
해당 규정은 지난해 1월 시행된 ‘인터넷 정보 서비스 딥 합성 관리 규정’ 등에 기반해 만들어졌다. 딥페이크(deepfake)를 규제하는 인터넷 정보 서비스 딥 합성 관리 규정은 딥 합성 서비스 제공자와 이용자가 해당 기술을 사용해 콘텐츠를 만들 경우 이 사실을 분명히 밝혀야 한다. 또 원본을 추적할 수 있도록 해야 한다는 내용을 담고 있다. 딥페이크는 어떤 인물의 얼굴이나, 특정한 부위, 목소리를 다른 사람으로 바꿔치기하거나 조작하는 기술이다.
중국은 해당 규정을 발표하며 “딥 합성의 무분별한 개발과 이용은 온라인 사기와 명예훼손 등 범죄 행위로 이어질 수 있어 우려된다”고 밝혔다.
중국은 이어 지난해 8월에는 ‘생성형 AI 서비스 관리 임시규정’을 시행했다. 생성형 AI 서비스 제공자들은 당국에 서비스를 등록하고 제품 출시 전 보안 평가를 수행해야 하며, 중국에서 제공되는 AI 서비스는 중국의 사회주의 가치에 부합해야 한다는 내용이다.
AI 제작 콘텐츠를 이용한 가짜뉴스, 사기 등이 세계적으로 문제가 되면서 유럽연합(EU), 미국 등에서도 관련 규정을 검토·도입하고 있다.
ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지
많이 본 뉴스
1부동산 PF 자기자본 현행 3%서 20%로 높인다
2'김가네' 회장, 성범죄 이어 횡령 혐의로 경찰 수사
3'이것'하면 돈 날린다...전문의도 비추하는 '건강검진' 항목은?
4나라살림 이대로 괜찮아?...연간 적자 91조 넘었다
5"노사 화합의 계기"...삼성전자 노사, 임협 잠정합의안 마련
6프라우드넷, 네이버클라우드와 솔루션 사업협력을 위한 파트너십 계약 체결
7SOOP, 지스타 2024에서 ‘SOOP AI’ 신기술 공개
8"목 빠지게 기다린다"...美 유력지, 아이오닉9·EV9 GT 콕 집었다
9검찰, ‘SG사태’ 라덕연 대표에 징역 40년·벌금 2.3조 구형