‘AI 제작 콘텐츠’ 식별 中 먼저 치고 나왔다…표시 의무화 규정 초안 발표
“국가안보와 공공이익 수호 위해”
[이코노미스트 이병희 기자] 중국이 인공지능(AI)으로 제작된 콘텐츠에 이를 식별하는 표시를 의무화하는 규정 초안을 발표했다고 홍콩 사우스차이나모닝포스트(SCMP)가 15일 보도했다. 이 규정을 만들기 위해 중국 당국은 한 달간 의견 수렴에 들어간 것으로 알려졌다.
보도에 따르면 해당 초안은 AI로 만들어진 콘텐츠의 제작, 전시, 배포 기간에 ‘AI로 제작’한 사실을 분명히 밝혀야 한다고 규정한다. 온라인 콘텐츠 제공자들은 문자, 영상, 오디오, 가상화면 등 AI로 만든 모든 콘텐츠에 대해 문자, 음성, 그래픽 같은 눈에 띄는 표시로 이를 알려야 한다. 디지털 워터마크나 메타데이터 태그 같은 정교한 표식을 사용하는 것도 권장한다.
초안은 어떠한 단체나 개인도 악의적으로 해당 필수 표시를 삭제, 변조, 위조, 은폐해서는 안 된다고 규정한다. AI로 만든 콘텐츠에 대한 부적절한 식별로 다른 이들의 권리와 이익을 침해해서도 안 된다. 또 온라인 콘텐츠 플랫폼들은 자신들이 배포하는 모든 AI 제작 콘텐츠를 규제해야 한다.
중국 인터넷정보판공실은 해당 규정 초안이 AI를 활용해 콘텐츠를 만들고 대중에 서비스를 제공하는 산업조직, 기업, 교육·과학 연구소, 공공문화기관, 전문기관에 적용된다고 설명했다. 국가안보와 공공이익을 수호하고 인민과 단체의 합법적 권리와 이익을 보호하기 위한 것이라는 게 중국 당국의 설명이다.
해당 규정은 지난해 1월 시행된 ‘인터넷 정보 서비스 딥 합성 관리 규정’ 등에 기반해 만들어졌다. 딥페이크(deepfake)를 규제하는 인터넷 정보 서비스 딥 합성 관리 규정은 딥 합성 서비스 제공자와 이용자가 해당 기술을 사용해 콘텐츠를 만들 경우 이 사실을 분명히 밝혀야 한다. 또 원본을 추적할 수 있도록 해야 한다는 내용을 담고 있다. 딥페이크는 어떤 인물의 얼굴이나, 특정한 부위, 목소리를 다른 사람으로 바꿔치기하거나 조작하는 기술이다.
중국은 해당 규정을 발표하며 “딥 합성의 무분별한 개발과 이용은 온라인 사기와 명예훼손 등 범죄 행위로 이어질 수 있어 우려된다”고 밝혔다.
중국은 이어 지난해 8월에는 ‘생성형 AI 서비스 관리 임시규정’을 시행했다. 생성형 AI 서비스 제공자들은 당국에 서비스를 등록하고 제품 출시 전 보안 평가를 수행해야 하며, 중국에서 제공되는 AI 서비스는 중국의 사회주의 가치에 부합해야 한다는 내용이다.
AI 제작 콘텐츠를 이용한 가짜뉴스, 사기 등이 세계적으로 문제가 되면서 유럽연합(EU), 미국 등에서도 관련 규정을 검토·도입하고 있다.
ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지
많이 본 뉴스
1애플의 中 사랑?…팀 쿡, 올해만 세 번 방중
2 “네타냐후, 헤즈볼라와 휴전 ‘원칙적’ 승인”
3“무죄판결에도 무거운 책임감”…떨리는 목소리로 전한 이재용 최후진술은
4中 “엔비디아 중국에서 뿌리내리길”…美 반도체 규제 속 협력 강조
5충격의 중국 증시…‘5대 빅테크’ 시총 한 주 만에 57조원 증발
6이재용 ‘부당합병’ 2심도 징역 5년 구형…삼성 공식입장 ‘無’
7격화하는 한미사이언스 경영권 갈등…예화랑 계약 두고 형제·모녀 충돌
8“이번엔 진짜다”…24년 만에 예금자보호 1억원 상향 가닥
9로앤굿, 국내 최초 소송금융 세미나 ‘엘피나’ 성료