[한세희 IT 칼럼니스트] 4월 7일(현지시간) 스콧 베센트 미국 재무부 장관과 제롬 파월 연방준비제도 의장이 ▲시티그룹 ▲모건스탠리 ▲뱅크오브아메리카 ▲웰스파고 ▲골드만삭스 등 회사 최고경영자와 함께 워싱턴DC 재무부 청사에 모였다. 

세계 금융을 좌지우지하는 사람들이 한 자리에 모인 것이다. 베센트 장관과 파월 의장이 주요 금융사 CEO들을 소집한 것은 새롭게 등장한 인공지능(AI) 모델이 불러올 영향을 따져보기 위해서였다. AI 개발사 앤트로픽의 최신 모델 ‘클로드 미토스’(Claude Mythos)다.  

이날은 클로드 미토스가 프리뷰를 시작한 날이었다. 특히 소프트웨어에서 취약점을 찾아내는데 탁월한 성능을 보인다는 사실이 알려졌다. 앞서 직원 실수로 일부 앤트로픽 내부 자료가 유출됐다. 여기서 앤트로픽이 ‘미토스‘라는 최신 모델을 작업 중이고, 회사 내부에서 이 모델이 높은 수준의 사이버보안 위험을 내포하고 있다고 평가한다는 사실이 드러났다.  

유출된 문서에는 “이 모델이 사이버 능력 측면에서 다른 어떤 AI 모델보다 앞서 있다“며 “방어자의 노력을 능가하는 방식으로 소프트웨어 취약점을 악용하는 다음 세대 모델의 도래를 예고한다“는 우려가 담겼다.  

AI 보안 악몽 현실로?  

생성형 AI의 주된 기능이 소프트웨어 코딩 지원이다. 원하는 기능을 제시하면 코드를 상당 부분 대신 짜 주는 기능으로 개발 생산성을 높인다. 초거대언어모델(LLM)에 기반한 AI가 기계의 언어인 코드를 잘 하는 것이 놀랄 일은 아니다. 소프트웨어를 잘 다룬다면 소프트웨어 구조의 문제나 허점도 잘 찾아낼 터다.  

AI 모델 성능이 발달하고, 절차가 복잡한 작업을 해결해 나가는 역량이 향상되면서 이제 AI가 소프트웨어 보안 취약점을 찾아내 대응하는 능력 역시 함께 높아졌다.  

문제는 이런 뛰어난 성능이 양날의 검이라는 점이다. 소프트웨어를 더 안전하게 만드는데 사용할 수 있지만, 악의적 해커들이 시스템 취약점을 찾아내 공격하는데 쓸 수도 있다. 빠르게 취약점을 찾고 악성코드를 만들어 대규모로 공격을 퍼붓는 일이 일상화될 수 있다.  

금융 정책과 산업의 최고 책임자들이 한 자리에 모인 이유다. 금융권을 지탱하는 디지털 시스템이 전례 없는 위협에 노출될 가능성을 우려한 것이다.  

이 회의에 앞서 밴스 부통령과 베센트 재무부 장관은 ▲앤트로픽 ▲오픈AI ▲구글 ▲마이크로소프트 CEO 등과 미토스 등 새로운 AI 모델로 인한 위협을 논의하는 자리를 가졌다. 여기엔 크라우드스트라이크와 팔로알토네트웍스 등 사이버보안 기업 대표도 함께 했다.  

그만큼 미토스 등 AI로 인한 보안 위협을 심각하게 보고 있다는 얘기다. 미토스는 유닉스 계열 오픈소스 운영체계 오픈BSD에서 27년된 취약점을 찾아냈다. 오픈BSD는 보안에 초점을 맞춰 개발되는 프로젝트다. 30년 가까이 묻혀 있던 취약점을 발굴한 셈이다. 영상 소프트웨어 ‘FFmpeg’에서 16년 동안 숨어있던 취약점도 발견했다. 

취약점을 엮어 공격을 실행하는 능력까지 갖췄다. 4개의 다른 취약점을 결합해 운영체계 권한을 획득하는 악성코드를 만들었다. 영국 AI보안연구소(AISI) 조사에 따르면, 미토스는 IT 시스템에 숨겨 놓은 취약점을 찾는 해킹 테스트 ‘깃발잡기‘(CTF, Catch the Flag)에서 70% 이상의 성공률을 보였다. CTF는 해커 실력을 겨루는 용도로 쓰이며, 그간 전문가 수준 CTF에 성공한 AI 모델은 없었다.   

세계로 퍼진 미토스 충격  

다른 나라들도 대책 마련에 나섰다. 캐나다에선 중앙은행과 6대 시중 은행, 금융감독청, 토론토 증권거래소 등이 모여 AI 모델이 가져올  보안 위협을 논의했다. 영국도 중앙은행과 금융행동감독청, 재무부와 국가사이버보안센터, 대형 은행들이 미토스의 영향을 평가하고 있다.  

우리나라도 대통령실이 직접 대응을 주문하는 등 분주히 움직이고 있다. 금융감독원은 금융기관을 소집해 대책을 논의했다. 과학기술정보통신부 역시 통신 3사와 네이버, 카카오 등 주요 플랫폼 기업, 정보보호 산업계, 주요 기업 정보보호최고책임자(CISO) 등을 소집해 잇달아 간담회를 열었다.  

미리 대비하는 자세는 필요하지만, 이런 긴급 대응이 사실 공허한 면이 있다. 대부분 클로드 미토스를 실제 접해보지 않은 상태에서 대책만 논의한다는 것이다.  

미토스는 현재 일반 대중이 아니라 적은 수의 글로벌 빅테크와 정부 기관에만 선별적으로 공개됐다. 앤트로픽은 ‘프로젝트 글래스윙’(Project Glasswing)을 출범하고, 여기에 참여하는 ▲마이크로소프트 ▲아마존 ▲애플 ▲브로드컴 ▲시스코 ▲크라우드스트라이크 ▲팔로알토 네트웍스 ▲리눅스 재단 등 40개 조직에 미토스를 공개했다.  

해커가 위험한 기술을 접하기 전에 방어자들이 대비할 시간이 있어야 한다는 이유다. 하지만 AI 기술 패권을 지키려는 행보로도 풀이된다. 최근 오픈AI도 사이버 보안에 특화된 최신 모델 ‘GPT-5.4 사이버’를 공개하며, ‘신뢰할 수 있는 사이버 접근’(TAC)이란 자사 프로젝트 참여 기관에만 제한적으로 공개했다.   

미토스를 미리 접한 곳은 대부분 미국 기업과 기관들이다. 영국을 제외한 유럽 대부분 국가 보안 관련 정부 기관이나 기업은 미토스에 접근하지 못한 상태에서 대책부터 따지는 셈이다. 우리나라 역시 사정은 마찬가지다.  

금융 시스템 자체를 무너뜨릴 기술이라면서 미국 및 미국의 친한 친구들 외엔 접근을 못 한다. 나머지 국가들은 최신 AI 기술에 의한 사이버 위협에 노출될 수 있다. 이는 심각한 디지털 주권 침해로 이어질 수 있다. 더구나 이런 민감한 기술의 공개 여부가 민간 기업의 판단에 맡겨져 있다는 점도 논란이다. 빅테크 기업의 결정이 사회의 민주적 통제를 능가하는 세상은 아직 우리가 접해보지 못한 상황이다.  

물론, 미토스 접근을 제한하는 것은 컴퓨팅 자원을 아끼고 기술력을 자랑하고 싶은 앤트로픽의 노이즈 마케팅일 가능성도 있으니 걱정은 잠시 미루는 것이 현명한 일일지도 모르겠다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지