일론 머스크의 인공지능(AI) 기업 xAI가 개발한 챗봇 '그록'이 인도네시아에 이어 말레이시아에서도 접속 차단됐다. 그록이 성 착취 딥페이크 콘텐츠를 마구잡이로 생성한다는 비판이 전 세계에서 터져나오고 있다.

12일(현지시간) 로이터·AFP 통신 등에 따르면 전날 말레이시아 통신멀티미디어위원회(MCMC)는 성명을 내고 자국 내 그록 접속을 일시적으로 제한한다고 밝혔다.

MCMC는 이번 조치가 "그록이 여성과 미성년자 관련 콘텐츠를 포함해 음란하고, 성적으로 노골적이며 외설스럽고, 심하게 불쾌감을 주며 동의 없이 조작된 이미지를 생성하는 데 반복적으로 악용된 데 따른 것"이라고 밝혔다.

MCMC는 앞서 이달 초순 그록의 딥페이크 우려와 관련해 xIA에 공문을 보내 기술적 보호 조치 등을 요구했지만, xAI 측이 "AI 도구의 설계·운영으로 인해 발생하는 내재적 위험을 해결하지 못하고 주로 사용자 신고 메커니즘에 의존했다"고 지적했다.

이어 "(관련) 입법·규제 절차가 진행되는 동안 합리적인 예방 조치로 이번 일시적 접속 차단을 시행한다"면서 "여성·아동 관련 (딥페이크) 콘텐츠를 방지하는 효과적인 안전장치가 마련될 때까지 그록 접속 제한을 유지할 것"이라고 설명했다.

xAI는 최근 엑스에서 그록을 통해 간편히 딥페이크 이미지를 생성하는 서비스를 선보였다.

이에 따라 엑스에 올라온 여성·미성년자 등의 이미지를 갖고 다른 사용자가 동의 없이 비키니 수영복 착용 등 노출이 심한 딥페이크 이미지를 만들어 올리는 사례가 속출하면서 각국에서 비난 여론이 커지고 있다.

앞서 지난 10일 인도네시아 통신디지털부는 딥페이크 콘텐츠와 관련해 세계 최초로 그록 접속 차단 조치를 내렸다.

무티아 하피드 인도네시아 통신디지털부 장관은 성명에서 "AI 기술로 생성한 가짜 음란물 콘텐츠의 위험으로부터 여성과 아동 등을 보호하기 위해 정부는 그록 애플리케이션 접근을 일시적으로 차단했다"고 설명했다.

그러면서 "(인도네시아) 정부는 디지털 공간에서 동의 없이 벌어지는 딥페이크는 인권과 존엄성을 침해하는 중대 행위로 간주한다"고 강조했다.

xAI는 인도네시아 정부의 그록 차단 조치와 관련해 엑스(X·옛 트위터)에 "불편을 드려 죄송하다"며 "이번 문제를 해결하기 위해 노력하고 있다"고 입장을 밝혔다.

미국에서는 민주당 소속 론 와이든 상원의원(오리건)과 에드 마키 상원의원(매사추세츠), 벤 레이 루한 상원의원(뉴멕시코) 등 3명이 지난 9일 애플과 구글 최고경영자(CEO)에게 서한을 보내 그록과 엑스 앱을 앱스토어에서 퇴출하라고 요구했다.

이 상원의원들은 "일론 머스크가 이 충격적이고 불법일 가능성이 큰 행위들을 해결할 때까지 엑스와 그록을 앱스토어에서 즉시 제거해야 한다"며 "엑스의 끔찍한 행위에 눈감는 것은 귀사(애플·구글)의 콘텐츠 관리 관행을 조롱거리로 만들 것"이라고 지적했다.

영국도 리즈 켄덜 기술부 장관이 방송미디어 규제기관 오프콤(OfCom)이 그록 문제와 관련해 엑스를 차단하겠다고 결정하면 오프콤을 지지하겠다고 말했다.

인도 정부도 그록에 대해 우려를 나타낸 가운데 xAI 측이 그록 딥페이크 콘텐츠 문제와 관련해 인도 법률을 준수하기로 당국에 약속했다고 현지 PTI 통신이 전했다.

이처럼 논란이 커지자 엑스와 xAI 측은 지난 전날부터 엑스에서 그록의 이미지 생성·편집 기능을 프리미엄(유료) 구독자만 할 수 있게 제한하는 방침을 적용했다.

하지만 머스크는 지난 10일 자신의 엑스 계정에서 영국 정부를 겨냥해 "영국 정부는 왜 이렇게 파시스트적인가?"라면서 "그들은 검열을 위한 온갖 핑계를 찾고 있다"고 반발했다.

머스크는 AI가 생성한 비키니 차림의 스타머 영국 총리의 합성 이미지를 리트윗하기도 했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지