[이코노미스트 박세진 기자] 김창욱 스노우 대표가 8일 정부세종청사에서 열린 국회 과학기술정보방송통신위원회(과방위) 국정감사에 증인으로 올랐다. 이해민 의원(조국혁신당)은 이날 국감장에 오른 김 대표를 상대로 스노우에서 연속해서 발생한 ‘인공지능(AI) 합성 사진 논란’에 대해 질의했다. 이와 관련된 현황과 문제점을 중심으로 비판을 이어 나갔다.

본지는 앞서 카메라 애플리케이션(앱) ‘소다’(SODA)와 ‘스노우’(SNOW)에서 AI가 ‘외설 이미지’를 원본에 합성한 사실을 단독 보도한 바 있다. 두 앱은 네이버 자회사 스노우가 운영 중이다. 

먼저 소다 앱에서는 ‘AI 배경 편집’ 기능에서 오류가 발생했다. 피해자 A씨는 본인의 증명사진 배경을 확장하기 위해 해당 기능을 사용했다. 결과는 참혹했다. 본인의 증명사진에 양손으로 가슴을 움켜쥐는 듯한 모습이 합성된 결과물을 받게 된 것. 단순히 배경만 확장하려던 A씨의 목적과 달리 전혀 다른 모습의 결과물을 받았다. A씨가 사용한 기능은 유료다.

스노우 앱에서는 ‘AI 헤어샵’ 기능에서 문제가 나타났다. 피해자 B씨는 본인의 긴 머리 스타일을 단발로 합성하기 위해 해당 기능을 사용했다. B씨가 받게 된 결과물은 ‘단발 머리’를 한 본인의 얼굴에 상반신이 나체로 합성된 모습이었다. 해당 기능 역시 유료다.

이 의원은 이날 “결국 스노우 앱의 유료 서비스를 통해 돈을 버는 만큼, 이 서비스를 만든 책임이 스노우에게 있다”며 “만약 아이 사진에 선정적인 이미지가 나올 경우 (사회적으로) 큰 물의를 일으킬 것”이라고 지적했다.

실적 이끌던 스노우 AI...‘논란의 중심’에 서다

스노우는 자사 핵심 앱인 ‘소다’와 ‘스노우’에서 이같은 사례가 반복돼 발생하자, 앱 공지를 통해 사과문을 게재했다. 기술적 한계를 인정하면서도 추후 기능 고도화를 통해 재발을 막겠다는 내용이 담겼다.

스노우 측은 사과문을 통해 “현재 AI 기술상의 한계로 이미지 생성 엔진에서 불완전한 결과물이 산출될 가능성이 일부 존재한다”며 “해당 문제를 해결하기 위해 억제 기술과 모델을 지속적으로 개선해 나가며 필터링 시스템을 더욱 고도화하고 강화할 것을 약속드린다”고 고개 숙인 바 있다.

스노우가 본격적으로 AI 기능을 도입한 것은 지난해 1월부터다. 글로벌 AI 열풍 속 스노우도 ‘AI 아바타’ 기능을 도입했다. 단순 필터 효과 제공을 넘어 AI 시스템을 도입한 것. AI 아바타 기능은 사용자의 사진을 3차원(3D) 아바타로 바꿔주는 기능이다.

이어 스노우는 ▲AI 프로필 기능(2023년 5월) ▲AI 베이비(2023년 7월) ▲AI 하이틴(2023년 10월) 등 다양한 AI 기반 기능을 연달아 출시하며 본격적으로 AI에 집중하기 시작했다. AI 자체를 하나의 상품으로 제공한 스노우의 선택은 성공적이었다. 

글로벌 앱마켓 분석 회사 센서타워에 따르면 지난해 5월 100만 달러(약 13억5000만원)였던 스노우의 전세계 월매출은 6월에 750만 달러(약 101억6000만원)으로 집계됐다. 전월 대비 무려 7배 이상 성장한 셈이다.

김남선 네이버 최고재무책임자(CFO) 또한 지난 2월 2일 열린 네이버 4분기 실적발표 컨퍼런스콜에서 “스노우 4분기 매출액은 에픽 앱, 이어북 등 AI 상품 글로벌 인기에 힘입어 전년 동기 대비 28.7% 성장했다”며 “해외 유저들과 유료 구독자 수가 늘었다”고 했다.

문제의 ‘스테이블 디퓨전’...‘하이클로바X’ 왜 안쓰나

소다 앱과 스노우 앱의 AI 편집 기능은 오픈소스 모델인 스테이블 디퓨전(Stable Diffusion)을 기반으로 구축됐다. 스노우가 AI 기능을 본격적으로 도입하던 당시 네이버의 생성형 AI 모델 ‘하이퍼클로바X’는 ‘텍스트 기반’ 질의응답 기능을 목적으로 개발돼 세상에 공개됐다. 네이버는 검색이나 대화 형태의 ‘텍스트 위주’ 서비스에 하이퍼클로바X를 접목했다.

하이퍼클로바X에는 이미지 생성 AI 모델이 없다. 이미지 생성이 아닌 ‘이미지 이해’ 기능이 상용화된 상태다. 네이버 자회사 스노우 입장에선 외설적 이미지 생성 위험이 있는 ‘스테이블 디퓨전’을 쓸 수밖에 없던 구조다.

다만 ‘외설 이미지’ 합성 문제가 연이어 발생하자 스노우도 대응책을 마련했다. 기존 스테이블 디퓨전 모델을 교체하는 결단을 내린 것. 스노우는 스테이블 디퓨전의 여러 버전 가운데 보수적인 엔진을 사용하기로 결정했다.

그럼에도 불구하고 스노우가 자체 AI를 통해 서비스를 구축하지 않고, 여전히 오픈소스에 의존하고 있다는 점을 근거로 ‘외설 이미지’ 합성과 같은 문제가 언제든 재발할 수 있다는 지적은 여전하다.

이 의원은 “네이버가 하이퍼클로바 X를 열심히 홍보하고 있는데, 네이버의 자회사인 스노우는 왜 네이버 AI를 쓰지 않는 것이냐”며 “해외 오픈소스 모델을 사용한다는 이유로 문제를 외부로 돌리는 일은 없었으면 좋겠다”고 비판했다.

스노우 관계자는 기자와의 통화에서 이에 대해 “하이퍼클로바X는 텍스트뿐만 아니라 음성 및 이미지도 처리하는 멀티모달 AI를 지향하고 있다”며 “이미지 생성도 마찬가지로 이미지 생성학회에 관련 논문을 제출하는 등 관련 기술 연구가 진행중에 있으며, 사업성 및 안전성 등을 고려해 서비스에 적용해 나갈 계획”이라고 설명했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지