[이코노미스트 정두용·원태영 기자] KT그룹이 총 665억원을 투자한 국내 반도체 설계 전문(팹리스) 스타트업 ‘리벨리온’과 협력 사업을 본격화한다. KT클라우드(KT cloud)는 신경망처리장치(NPU·Neural Processing Unit) 인프라를 이용한 기업 간 거래(B2B) 상품 출시의 막바지 절차를 진행 중인 것으로 확인됐다.

17일 통신 업계에 따르면 KT클라우드는 공공을 대상으로 제공하던 NPU 인프라 서비스를 민간 시장으로 확대한다. 이르면 5월 초, 늦어도 올 상반기 내에는 B2B 상품을 출시하고 본격적인 시장 공략에 나설 방침이다. NPU는 인공지능(AI) 분야에 최적화해 설계된 반도체를 말한다. 같은 등급의 그래픽처리장치(GPU) 대비 연산 속도가 빠르고 전력 소모는 낮아 통상 ‘AI 반도체’로 불린다.

KT클라우드는 레벨리온의 AI 반도체 ‘아톰’(ATOM)을 다수 공급받아 고객사에 임대·운용할 NPU 인프라를 이미 구축한 상태다. 양사가 추진해 오던 AI 인프라 관련 사업이 본궤도에 오르면서 본격적인 수익 창출이 이뤄질 전망이다. KT클라우드는 KT 100% 자회사로 2022년 4월 설립된 인터넷데이터센터(IDC)·클라우드 전문기업이다.

KT클라우드는 리벨리온 ‘아톰’을 적용해 2023년 5월 클라우드 기반 NPU 인프라 서비스를 국내 최초로 상용화해 공공 시장에 선보인 바 있다. 과학기술정보통신부가 주관하는 정부 지원사업인 ‘K-클라우드 프로젝트’를 통해 일부 기업(AI 바우처·고성능컴퓨팅 지원사업 대상)에 순차적으로 서비스를 공급하기도 했다.

KT클라우드는 이번 신규 상품 출시를 통해 NPU 인프라 서비스 사업을 엔터프라이즈(일정 규모 이상의 IT 인프라를 구축한 기업) 등 다양한 기업으로 확장할 방침이다. AI 서비스를 고도화하려는 고객사를 대상으로 NPU 인프라 임대·운용하면서 수익을 창출하는 구조다. 공공 시장에서 1년간 NPU 인프라 서비스 사업을 영위하며 쌓은 노하우는 고객사 확보에 긍정적인 요인으로 작용할 수 있다. KT클라우드 관계자는 “기업 고객 대상 NPU 상품을 이른 시일 내 출시할 수 있도록 서비스를 준비 중”이라고 밝혔다.

NPU 인프라 서비스, 강점은?

KT클라우드 NPU 인프라에 적용된 아톰은 리벨리온이 개발한 데이터센터향 AI 반도체다. 2023년 2월 출시돼 KT클라우드 데이터센터에 같은 해 5월 적용되면서 상용화에 성공했다. KT 초대규모 AI 서비스 ‘믿음’의 경량화 모델에도 아톰이 일부 적용되기도 했다.

아톰은 소규모언어모델(SLM)과 부동 소수점 연산(Floating Point Operations)을 지원하는 유일한 국산 NPU다. 현재 삼성전자 반도체 위탁생산(파운드리) 사업부의 극자외선(EUV) 기반 5나노(nm) 공정으로 제작되고 있다.

아톰은 특히 AI 반도체 기술력 검증 대회인 ‘엠엘퍼프’(MLPerf·글로벌 벤치마크)에서 글로벌 경쟁사 제품 대비 우수한 성능을 보인다는 평가를 받은 바 있다. 엔비디아의 A2·T4 제품과 퀄컴의 추론 가속기 ‘클라우드 AI 100’를 대상으로 성능 비교 결과 영상처리(ResNet)는 1.4~3.4배, 언어 모델(BERT-Large)은 1.4~2배 빠른 것으로 나타났다.

아톰 반도체가 탑재된 ‘아톰 카드’(IDC 서버 등에 장착할 수 있는 제품)는 최근 표준화 단체 ‘PCI-SIG’가 주관하는 PCIe 5.0 컴플라이언스 테스트를 통과하기도 했다. PCIe는 컴퓨터 내부에서 다양한 부품들이 빠르고 정확하게 데이터를 주고받을 수 있도록 하는 기술 규격을 말한다. 아톰 카드가 PCIe 5.0 컴플라이언스 테스트를 통과했다는 건 5세대 규격 조건을 충족한다는 의미다. 회사 측은 “아톰이 다양한 서버·플랫폼에 대한 호환성은 물론 안정적인 데이터 통신 성능도 갖췄기에 테스트를 통과한 것”이라고 전했다.

KT클라우드는 이런 성능을 지닌 아톰을 토대로 클라우드 기반 NPU 인프라를 구축했다. 고객사가 직접 자원을 생성하고 관리·모니터링 등을 할 수 있어 구축형 대비 사용 편의성이 높다. NPU 특성을 활용해 AI 추론을 진행하고자 하는 기업에 맞춤형으로 이번 B2B 상품을 꾸린 것으로 전해진다. KT클라우드는 이를 차별화 지점으로 삼아 언어·비전 모델을 활용코자 하는 관제·의료 영역과 자연어 처리 기반 산업 분야에 진출한 기업을 대상으로 상품 확대를 노릴 계획이다.

KT클라우드가 아톰을 자사 IDC에 적용할 수 있었던 건 그룹 차원에서 이뤄진 대규모 투자를 바탕으로 한다. 리벨리온은 지난 1월 시리즈B 투자유치를 통해 1650억원의 자금을 확보하고, 기업가치는 8800억원으로 평가받았다. 누적 투자유치 금액은 총 2800억원이다. 이 중 665억원이 KT그룹에서 나왔다.

KT그룹은 지난 2022년 335억원(KT 300억원·KT인베스트먼트 35억원)을 리벨리온에 투자한 바 있다. 시리즈B를 통해선 ▲KT 200억원 ▲KT클라우드 100억원 ▲KT인베스트먼트 30억원을 추가로 투자했다. KT그룹은 리벨리온의 전략적 투자자(SI)이자, 10% 이상의 지분을 확보한 주요 주주사로 이름을 올리고 있다.

KT ‘AI 풀스택’ 전략 가속

KT그룹은 반도체·클라우드 등 인프라부터 응용 서비스까지 모두를 아우르는 ‘AI 풀스택’(AI Full-Stack) 구축을 목표로 사업을 꾸리고 있다. 저비용·고성능·고효율의 인프라 혁신을 선도하고, 초대규모 AI 모델을 기반으로 이용자에게 다양한 서비스를 제공하겠단 취지다. ▲국산 반도체 ▲소프트웨어(SW) 스택 ▲클라우드 플랫폼 등 다양한 AI 영역의 핵심 기술을 확보하면서 점차 성과가 나타나고 있다.

KT클라우드는 이 중에서도 AI 인프라 사업 확장을 주도하고 있다. 지난 2021년 12월 종량제 AI 인프라 서비스 ‘핵’(HAC·Hyperscale AI Computing) 출시를 시작으로 점차 사업 영역을 다각화하는 모습이다. 핵은 대규모 GPU 클러스터를 가상화해 AI 연산∙개발 과정에 필요한 대규모 자원을 동적으로 할당∙반납할 수 있는 서비스다. KT의 독자적인 기술을 바탕으로 ‘필요할 때 필요한 만큼만 사용하는’ 종량제 방식으로 운영된다는 게 차별화 지점이다.

2023년 10월에는 AI 추론에 특화된 GPU 인프라를 고객사가 필요한 만큼만 사용할 수 있는 ‘AI 서브’(AI SERV) 서비스를 내놓기도 했다. AI 학습 과정은 단기간 집중적으로 진행돼 대용량·고사양 GPU가 필요하다. 학습을 마친 AI를 기반으로 진행되는 추론은 적은 양의 GPU를 끊김이 없이 지속해 사용하는 구조다. AI 서브는 AI 모델에 대한 개발·학습을 마친 기업이 GPU 인프라를 각 서비스에 필요한 만큼만 분할해 사용할 수 있어 경제적이다. KT클라우드는 슬라이싱(Slicing) 기술을 AI 서브에 적용해 이 같은 기능을 구현했다. 한 장으로 제공되던 GPU 서비스를 5분할 해 0.2장 단위로 제공한다는 점이 특징이다.

▲핵 ▲AI 서브에 이어 이번에 ‘NPU 인프라 B2B 상품’을 출시하면서 점차 ‘AI 풀스택’ 전략이 인프라 영역에서도 구현되고 있는 모습이다. KT클라우드의 실적은 사업 영역 확장에 따라 우상향하는 추세다. 회사의 2023년 연간 매출은 분사 전 당시 KT 사업부 매출(4559억원) 대비 48% 이상 성장한 6783억원을 기록한 바 있다. 향후 리벨리온·모레 등 파트너사와 협력을 강화, 대규모 GPU·NPU·팜(Farm)·클라우드 플랫폼을 설계∙구축할 방침이다. 차세대 PIM(Processor in Memory) 적용도 추진 중이다.

리벨리온은 2020년 9월 설립된 국내 팹리스 스타트업으로, 아톰뿐 아니라 파이낸스향 AI 반도체 ‘아이온’(ION)을 2021년 내놓으며 업계 주목을 받기 시작했다. 2024년 2월 국제고체회로학회(ISSCC)에서 리벨리온의 아톰 핵심 설계에 대한 논문이 채택되는 등 기술 역량을 다양한 방식으로 입증하고 있다. 리벨리온은 이번 KT클라우드 NPU 인프라 B2B 상품 출시를 기점으로 아톰 양산품을 기반으로 한 사업 확장에 속도를 낼 계획이다. 이와 함께 SLM 기반 상용서비스를 기획하는 사업실증(PoC)도 본격화한다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지