[이코노미스트 김기론 기자] 인공지능(AI) 기술이 급격히 발전하면서 역사적 사실 왜곡부터 국제 구호 활동 조작, 허위 제품 광고에 이르기까지 AI를 악용한 디지털 조작 범죄가 국내외에서 잇따라 발생하고 있다. 이에 따라 사법당국의 엄정 대응과 정부 차원의 제도적 규제 마련이 본격화되는 모습이다.

광주경찰청은 5·18민주화운동과 관련해 허위 사실이 담긴 광주일보 사칭 신문기사 이미지를 최초 제작·유포한 20대 남성 A 씨와 중간 유포자 등 모두 6명을 검거해 수사 중이라고 6일 밝혔다.

경찰에 따르면 A 씨는 '5·18, 북에서 지령받은 간첩들 무기고 탈취, 계엄군 무차별 공격'이라는 제목의 허위 신문기사 이미지를 AI 애플리케이션을 이용해 제작한 뒤 사회관계망서비스(SNS)에 게시한 혐의를 받는다. 해당 이미지는 1980년 5월 20일 자 신문인 것처럼 광주일보 제호를 도용해 제작됐으며, 온라인상에서 무분별하게 확산된 것으로 조사됐다.

A 씨는 경찰 조사에서 "유튜브를 계속 시청하면서 5·18은 북한의 지령을 받은 간첩들의 소행이라고 믿게 됐고, 다른 사람들도 그렇게 믿게 하고 싶어 AI 앱으로 허위 신문기사를 만들어 유포했다"는 취지로 진술했다. 경찰은 추가 범행 여부와 공범, 배후 개입 가능성에 대해서도 수사를 확대할 방침이다.

AI 기술을 활용한 기만 행위는 해외에서도 심각한 사회적 논란을 낳고 있다. 호주 출신 유명 인플루언서 릴리 제이는 인스타그램에서 약 300만 명의 팔로워를 확보하고 '릴리 제이 재단'을 운영하며 가자지구, 우간다 등에서 국제 구호 활동을 펼친다고 홍보해 왔으나, 호주 ABC 뉴스 검증팀의 분석 결과 상당수 영상과 이미지에 AI 생성 및 디지털 조작 흔적이 발견되며 의혹에 휘말렸다.

검증 결과 릴리 제이가 아프리카 어린이들과 포즈를 취하는 장면이나 우간다 국기가 새겨진 옷을 입은 아이들의 영상 중 일부 장면에서 AI 생성물로 의심되는 오류가 나타났다. 가자지구 구호 트럭에 새겨진 재단 로고가 깜빡이는 등 디지털 합성 흔적이 드러났고, 실제 가자지구 현지 인도주의 관계자들도 해당 재단이나 이들이 주장하는 빵집에 대해 들어본 적이 없다고 전했다. 또한 '2026 호주-글로벌 인도주의 리더십 우수상' 수상 장면으로 배포된 사진 2장 역시 AI 생성 이미지임을 뜻하는 워터마크가 확인됐으며, 해당 상의 독립적인 기록도 발견되지 않았다.

이 같은 기술 악용 사례가 전방위로 퍼지자 정부는 제도적 빗장을 걸어 잠그기 시작했다. 식품의약품안전처는 AI 기술을 활용해 만든 가짜 전문가로 화장품을 광고하는 행위를 금지하는 내용을 골자로 한 '화장품법' 시행령·시행규칙 개정안을 8일 입법예고했다.

이번 개정안은 지난해 12월 화장품법 개정에 따라 화장품 안전성 평가 자료 작성·보관에 대한 세부 사항을 규정하는 한편, AI로 만든 가짜 전문가를 광고에 활용해 소비자를 기만하는 행위를 원천 차단하는 데 초점을 맞췄다. 이 외에도 종업원이 소분·판매할 수 있는 화장품 지정과 수입대행형 거래 책임판매관리자의 보수 교육 제외 등 영업자 애로사항 해소 조치가 포함됐다. 식약처는 다음 달 18일까지 의견을 수렴해 개정안을 확정할 계획이다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지