[이코노미스트 라예진 기자] “서비스 이용과정에서 보안상 우려가 지속 제기되는 상황을 고려해 신중한 이용을 당부드린다”

올해 시작과 함께 세계를 깜짝 놀래킨 중국의 인공지능(AI), 딥시크에 대한 반응이 바뀌고 있다. 첫 등장에는 기술력에 대한 감탄과 놀라움이 컸다면 이제는 미흡한 보안력으로 인해 사용을 조심해야하고 경계해야하는 기술로 치부되고 있다. 지난 달 우리나라 개인정보보호위원회 역시 브리핑을 열고 딥시크 이용에 대한 주의성을 설명했다. 딥시크가 이용자 기기 정보와 IP, 키보드 입력 패턴 등을 전방위적으로 과도하게 수집해 중국 내 서버에 저장하는 등 보안 문제가 일면서다. 

아무리 뛰어난 기능의 AI 기술이어도 자신의 정보가 유출될 수 있는 보안의 위험성 앞에서는 무용지물(無用之物)인 셈이다. 이 같은 상황에 국내 기업과 정부는 지난달부터 딥시크 이용 금지령을 앞다퉈 내고 있다. 

실제 LG유플러스 딥시크 사용 금지에 대한 정보보안 안내문을 사내망에 공지했다. 이 공지에 따르면 사측은 사내망에서 딥시크를 업무용으로 활용하는 것을 금지하고, 딥시크의 보안 안정성이 확인될 때까지 개인 정보 보호를 위해 직원 개인 PC를 이용해서도 딥시크 사용을 자제하는 것을 권고했다.

카카오는 국내 IT 기업 중 처음으로 딥시키 사용을 공식적으로 금지했다. 카카오 사측은 ‘딥시크의 사내 업무 목적 이용을 금지한다’고 직원들에게 공지했다. 

국가적 정보를 다루는 공공기관에서도 금지 사례가 이어졌다. 한국수력원자력은 공식 업무망을 통해 ‘중국 AI 서비스 딥시크 사용 금지’라는 내용의 공문을 공개했다. 한수원 공문에 따르면 “회사 자료 및 개인 정보 유출 방지를 위한 회사 보안 정책에 따라 업무 목적으로 생성형 AI 서비스를 사용하는 것을 금지한다”며 “사적 사용을 금지하는 것이 아니라 업무 환경에서의 사용을 금지하는 것”이라고 딥시크 사용 금지안에 대해 설명했다. 

세계적으로 딥시크 보안에 대한 우려 목소리가 커지자, 딥시크 측은 개인정보 처리방침은 일부 개정하기도 했다. 딥시크는 ‘사용자로부터 수집한 데이터가 더는 필요하지 않을 때, 데이터를 삭제하고 익명 형태로 전환한다’는 문구를 추구하고 기존에 중국 딥시크 항저우 본사와 베이징 거점 등 정보 저장·관리국을 두 군데로 지정한 이전과 달리, 지금은 항저우 본사로만 통합했다. 하지만  ‘법적 의무 준수, 공익을 위한 업무 수행, 사용자나 타인의 중요한 이익을 보호하는데 필요한 경우에는 수집된 데이터를 활용할 수 있다’는 문구는 바뀌지 않아 전문가들은 아직까지 딥시크 정보 보안성에 대해서 우려사항이 완전히 사라지지 않은 것으로 분석한다. 

세계 IT업계를 들썩였던 딥시크는 보안 이슈로 사용자 수가 급격하게 줄어들고 있다. 국내 사용자만 봐도 3/1로 줄었다. 모바일앱 통계 분석 플랫폼 아이지에이웍스 모바일인덱스에 따르면 딥시크 앱의 일간 사용자 수는 지난 1월 말 기준으로 19만1556명에서 2월 초에는 6만1184명으로 급격히 줄었다. 

삼성, LG도 앞다퉈 보안기술 자체 개발  
이 같은 흐름에 IT업계는 AI기술에서 이용자가 안심할 수 있는 강력한 보안력을 강조하기 시작했다. 카카오는 오픈AI와의 협력을 대대적으로 알리면서 가장 중요한 강점으로 전 국민이 사용하는 카카오톡 채팅에 대한 정보가 외부로 절대 유출되지 않는 보안력을 강조했다. 

AI기술이 가전에도 들어가면서 삼성전자와 LG전자도 앞다퉈 자사만의 보안 기술력을 개발하고 접목하기 나섰다. 삼성전자는 갤럭시 기기에 도입하던 보안 솔루션 ‘삼성 녹스’를 고도화한 ‘삼성 녹스 매트릭스’를 내놓으며 AI기술 제품에 대한 안전성을 자랑하고 있다. 올해 초 진행된 ‘CES 2025 삼성 프레스 콘퍼런스’ 행사 무대에 선 한종희 삼성전자 대표이사 부회장은 “홈 AI를 구현하는데 있어 보안을 최우선으로 고려한다”며 삼성 녹스 매트릭스 기술력을 설명하기도 했다. 

LG전자는 자체 데이터 보안 시스템 ‘LG쉴드’를 구축해 AI 가전의 안전성을 갖추고 있다. 앞서 조주완 LG전자 사장은 “자체 데이터 보안시스템인 LG 쉴드를 고객 데이터의 수집·저장·활용 등 전 과정에 적용함으로써 모든 데이터를 안전하게 보호할 것이다”라고 말하는 등 삼성과 LG전자 양사간의 데이터 보안력에 대한 중요성은 더욱 커지고 있는 모습이다. 

특히 지난달부터는 국내 로봇청소기 시장 1위인 중국 가전기업 로보락이 백도어(backdoor) 형태로 정보를 유출하는 것 아니냐는 논란이 일면서 로보락이 공식 입장문을 내며 ‘로봇청소기가 자체적으로 수집하는 영상 데이터, 오디오 데이터 등의 정보는 서버에 저장되지 않고, 제 3자에게도 데이터를 제공하지 않는다’고 반박하기도 했다. 그만큼 AI 기술이 더해지는 모든 업계에서는 정보 보안력이 중요하게 여겨지고, 이제는 부수적인 조건이 아닌 필수 조건이 됐다.  

AI 안전연구소 신설...정부차원서도 대응 
이 같은 흐름에 AI 보안력은 국가적 차원의 대응책으로도 확대되고 있다. 지난해 11월에는 한국전자통신연구원(ETRI) 산하로 AI 안전연구소가 설립됐다. 이 연구소는 미국·영국·일본 등 10개국이 참여하는 ‘국제 AI 안전연구소 네트워크’에 합류해 글로벌 협력을 병행하며, AI 활용으로 발생할 수 있는 제반 위험을 평가하고 이를 최소화할 수 있도록 정책과 기술을 연구 개발한다. 

전문가들은 AI 보안력은 기업과 정부 모두가 힘써야하는 기술력이라고 강조한다. 권태경 AI보안연구회 위원장이자 연세대 정보대학원 교수는 “생성형 AI의 등장으로 AI 보안 문제는 더 중요해졌다. 기존 AI는 정해진 명령을 입력하고 이에 대한 출력 결과가 예상과 다르게 나오면 보안에 문제가 있다고 판단했다. 하지만 생성형 AI는 정해지지 않는 명령 외에도 다양한 지시가 가능하기에 기존 AI의 문제에 더해, 외부로부터 프롬프트 인젝션(삽입) 공격을 받아 기기를 악용하는 사례가 발생할 수 있다”라며 “이 때문에 기업에서는 레드팀과 블루팀을 모두 운영하는 등 이중으로 움직여서 보안력을 확실히 해야 하고, 정부는 AI 기술이 갖는 특수성에 맞춘 규제를 마련하며 안전한 AI 시대를 조성할 수 있어야 한다”고 말했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지