[한세희 IT 칼럼니스트] 현대의 거의 모든 활동은 디지털 공간에서 이뤄지고, 디지털 형태로 처리·저장된다. 우리는 전산망에 의존해 신용카드 결제를 하며, 은행 애플리케이션(앱)으로 전세금을 보낸다. 기업은 연구 결과를 서버에 저장하고, 정부는 교통과 전기 같은 국가 인프라를 디지털 방식으로 관리한다. 해외 파견 블랙 요원 명단도 군 정보 부대 컴퓨터에 저장된다.

디지털 인프라는 정보가 외부 침입이나 해킹에서 안전하게 보호받는다는 전제 없이는 성립할 수 없다. 현재 디지털 정보보안이 완벽하다고 할 수는 없어 수시로 해킹 사건도 일어난다. 그래도 현대 사회를 운영할 수준의 보안 시스템은 만들어진 상태다.

이를 가능하게 한 것이 공개키 암호 알고리즘이다. 공인인증서와 같이 인터넷에서 자격 있는 사용자임을 인증하는 전자 서명 등에 많이 쓰인다.

현대 인터넷 지탱하는 보안 시스템 ‘위기’

이 암호화 방식은 매우 큰 수의 소인수분해는 어렵다는 점을 활용한다. 임의의 큰 소수 2개를 곱하는 것은 간단한 일이다. 하지만 이렇게 만들어진 큰 숫자만 놓고 이것이 애초에 어느 두 소수의 곱이었는지 알아내기는 매우 어렵다. 소인수분해에 필요한 수들을 열쇠 삼아 몇 가지 과정을 거쳐 정보를 보내는 사람에게 주어지는 공개 키와 정보를 받는 사람만 가진 개인 키를 나눈다. 공개 키값을 이용해 암호화된 정보는 좀처럼 풀기 어렵다. 현재 컴퓨터로는 개인 키값을 알아내는 연산을 하는데 수천 년의 시간도 걸릴 수 있기 때문이다.

하지만 큰 수의 소인수분해에 필요한 연산을 빠르게 해 낼 수 있을 정도로 컴퓨터 성능이 발달하거나, 이 같은 연산에 적합한 새로운 방식의 컴퓨터 기술이 개발된다면 이야기가 달라진다.

큰 수의 소인수분해를 빠르게 푸는 기술은 이미 나와 있다. 피터 쇼어 MIT 교수가 1994년 제안한 ‘쇼어 알고리즘’이다. 쇼어 알고리즘을 양자 컴퓨터에서 돌리면 일반 컴퓨터에 비해 훨씬 빠른 시간에 큰 수의 소인수분해를 할 수 있음이 알려져 있다.

양자 컴퓨터는 양자 얽힘과 중첩 등 물질의 양자적 성질을 이용한 컴퓨터를 말한다. 양자 세계에서 물질은 모든 가능한 상태가 중첩돼 있다가 실제 관측이 이뤄지는 순간에 어느 하나로 확정된다. 현재 쓰이는 ‘고전’ 컴퓨터는 ‘0’과 ‘1’이라는 두 가지 상태 중 하나로 모든 정보를 처리한다. 비트를 이용한다는 의미다. 반면 양자 컴퓨터는 ‘0’과 ‘1’ 사이의 가능성이 중첩된 상태인 양자비트(큐비트)를 이용한다. 중첩된 상태들을 한 번에 연산할 수 있어 고전 컴퓨터에 비해 복잡한 최적화나 시뮬레이션 처리에 훨씬 효율적이다.

쇼어 알고리즘은 현대 세계를 지탱하는 디지털 정보보호 시스템이 무력화될 가능성이 있음을 보여줬다. 이는 ▲국가 안보나 국방을 책임지는 정부 기관 ▲영업 비밀을 지켜야 하는 기업 ▲거래 안전성을 지켜야 하는 금융사 ▲개인정보 노출 위협에 놓인 개인 등 모두에 큰 영향을 미친다.

현실화 가까워지는 양자 기술…“위기이자 기회”

쇼어 알고리즘이 공개된 지 30년이 지났다. 왜 우리의 디지털 정보는 아직 대대적으로 뚫리지 않았나? 그것은 쇼어 알고리즘을 통해 현대 암호 체계를 무력화할 수준의 복잡한 연산을 돌릴 강력한 양자 컴퓨터가 아직 나오지 않았기 때문이다. 원자 수준에서 일어나는 양자 현상을 이용하는 컴퓨터 큐비트는 외부 자극에 극히 민감하다. 충분히 많은 수의 큐비트를 오류 없이 제어하며 연산을 수행하기 어렵다. 대부분 양자 컴퓨터는 외부 영향을 최대한 없애기 위해 절대 0도에 가까운 극저온 환경에서 가동해야 한다.

하지만 양자 컴퓨터는 이미 조금씩 현실화에 가까워지고 있다. 2019년 구글이 슈퍼컴퓨터가 푸는 데 1만 년 걸리는 문제를 200초 안에 풀며 ‘양자 우위’를 달성했다고 주장했다. IBM도 지난해 1000개 이상의 큐비트를 가진 양자 컴퓨터 ‘콘도르’를 공개했다. 미국·유럽·중국 등 세계 각국의 대학·연구소·스타트업 등이 양자 컴퓨터의 실용화를 앞당길 기술들을 연구하고 있다. 언제 상용 수준의 양자 컴퓨터를 가능케 할 혁신이 일어날지 모른다.

이런 상황에 대비해 미국은 진작부터 양자 컴퓨터의 공격에도 안전한 ‘양자내성암호’(PQC) 알고리즘들을 찾고 있다. 미국 표준기술연구원(NIST)은 2016년 세계 연구자를 대상으로 일종의 PQC 알고리즘 공모 대회를 열었다. 82건의 후보가 접수됐다. 8년간 여러 단계에 걸친 심사와 연구를 거쳐 최근 최종적으로 3종의 알고리즘이 양자 컴퓨터 공격에 대비할 수 있는 암호 표준으로 최종 선정했다.

이번에 선정된 ▲모듈-격자 기반 키 캡슐화 메커니즘(ML-KEM) ▲모듈-격자 기반 디지털 서명 알고리즘(ML-DSA) ▲불확실 해시 기반 디지털 서명 알고리즘(SLH-DSA) 등 3개 알고리즘은 격자 문제 등 양자 컴퓨터로도 푸는 데 매우 오랜 시간이 걸릴 것으로 보이는 문제들을 활용한다.

PQC 알고리즘 3종이 표준으로 발표됨에 따라 미국 정부 기관들은 앞으로 일정 기간을 두고 이들 기술을 적용한 보안 시스템을 도입해야 한다. 민간 기업도 PQC 시스템 도입을 권장한다. 주요 기관 및 기업의 IT 및 정보보호 책임자들은 아직 현실화하지 않은 위협에 대비해 시스템을 정비해야 하는 과제를 안았다. 해킹으로 일단 데이터를 확보하고, 양자 컴퓨터가 충분히 발전한 후 확보한 데이터를 해독하는 공격도 가능하기에 안심할 수 없다. 유럽도 양자내성암호 보안 시스템 구축을 추진 중이다.

양자 컴퓨터는 아직 상용화 단계는 아니다. 하지만 양자 컴퓨터 시대에 대비한 변화는 이미 시작됐다. 자칫 PQC 대비가 안 되어 정보를 털리고, 양자 컴퓨터를 활용한 혁신에도 뒤처지는 결과로 이어지지 않도록 준비가 필요하다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지