[이코노미스트 우승민 기자] 일론 머스크 테슬라 최고경영자의 인공지능(AI) 기업 xAI가 개발한 챗봇 '그록(Grok)'을 둘러싸고 아동·청소년 성착취 이미지 생성 문제가 국제적 논란으로 번지고 있다. 국내에서도 해당 서비스가 청소년에게 미칠 유해성을 우려하는 목소리가 커지자, 정부가 플랫폼 운영사에 직접 시정 조치를 요구하고 나섰다.

방송미디어통신위원회(방미통위)는 성착취물 및 비동의 성적 이미지가 소셜미디어(SNS)를 통해 확산되고 있는 상황을 고려해, 엑스(X·옛 트위터) 측에 그록 서비스에 대한 청소년 보호 장치 마련을 요청했다고 15일 밝혔다.

방미통위는 그록을 통해 불법 행위가 발생하지 않도록 기술적·관리적 안전장치를 구축하고, 청소년 접근 제한과 유해정보 차단 등 구체적인 보호 계획을 수립해 회신할 것을 통보했다.

문제는 그록이 아동·청소년과 여성의 성착취 이미지를 생성·공유하는 데 활용되고 있다는 점이다. 전 세계적으로 관련 사례가 빠르게 늘고 있으며, AI로 제작된 미성년자 성적 이미지와 영유아로 보이는 사진까지 온라인에 유포됐다는 지적도 제기됐다. xAI의 이용 약관에는 '음란한 방식의 인물 묘사'가 금지돼 있지만, 실제 운영 과정에서는 이를 충분히 차단하지 못했다는 비판이 나온다.

논란이 확산되자 xAI는 X 계정을 통해 "안전장치에 허점이 있었음을 확인했으며 이를 수정 중"이라고 밝혔지만, 업계와 시민단체 일각에서는 그록이 초기 이용자 확보를 위해 비교적 느슨한 성적 콘텐츠 허용 정책을 유지해 왔다는 점이 문제의 근본 원인이라는 지적도 나온다.

해외 규제 당국의 대응은 더욱 강경하다. 인도네시아 정부는 지난 10일(현지시간) 딥페이크 성착취 콘텐츠 확산을 이유로 그록 서비스를 세계 최초로 차단했다. 무티아 하피드 인도네시아 통신디지털부 장관은 "동의 없는 딥페이크는 인권과 인간의 존엄성을 침해하는 중대한 행위"라고 밝혔다. 말레이시아 통신멀티미디어위원회(MCMC)도 다음 날 콘텐츠 위험 관리에 반복적으로 실패했다며 그록에 대한 임시 접근 제한 조치를 내렸다.

유럽에서도 조사에 착수했다. 영국 미디어 규제기관 오프콤(Ofcom)은 지난 12일 X와 그록이 불법적인 성적 이미지 생성에 사용됐는지 여부에 대해 공식 조사에 나섰다고 밝혔다. 이는 유럽 내 생성형 AI 규제 강화 흐름과 맞물린 조치로 해석된다.

전문가들은 이번 사태가 생성형 AI 서비스에 대한 각국의 규제 기준을 한층 엄격하게 만드는 계기가 될 가능성이 크다고 본다. 특히 청소년 보호와 성착취 방지와 같은 영역에서는 '표현의 자유'보다 플랫폼의 사회적 책임이 우선될 수 있다는 점이 분명해지고 있다는 분석이다.

업계 한 관계자는 "AI 기술 발전 속도가 규제와 윤리 논의를 앞지르고 있다"며 "이번 그록 사태는 글로벌 빅테크 기업들도 각국의 법·제도와 사회적 기준을 더 이상 외면하기 어렵다는 신호가 될 것"이라고 말했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지