[이코노미스트 정길준 기자] 세계 인공지능(AI) 반도체 시장을 장악한 엔비디아가 먼저 기술력을 알아본 한국 스타트업이 있다. 남들이 엔비디아의 기존 소프트웨어 틀 위에서 서비스를 만들 때, 엔비디아조차 시도하지 않았던 밑단의 인프라 기술을 파고든 ‘래블업’이 그 주인공이다.

2019년 글로벌 AI 학술 행사 ‘엔비디아 GTC’ 현장. 래블업 부스를 찾은 엔비디아의 핵심 조직 ‘쿠다(CUDA)’ 팀은 래블업의 기술에 주목했다. 당시 쿠다 팀은 GPU(그래픽처리장치) 가상화 과정에서 여러 사용자가 하나의 GPU를 시간을 나눠 쓰는 ‘시분할’ 방식만 생각하고 있었다.

반면 신정규 래블업 대표는 수만 개의 GPU 연산 장치와 메모리를 물리적 공간으로 정교하게 나눠 여러 사용자가 동시에 활용할 수 있는 ‘분할 가상화(fGPU)’ 기술의 비즈니스 모델을 개발했다. 관련 특허도 한국과 미국, 일본에서 선점했다. 스위트룸 하나를 여러 투숙객이 시간차를 두고 돌려쓰는 대신, 가벽을 세워 독립된 방으로 나눈 뒤 동시에 빌려주는 방식을 고안한 셈이다.

기술력을 확인한 쿠다 팀은 래블업을 엔비디아 최상위 파트너 프로그램인 ‘DGX 레디’에 국내 최초이자 아홉 번째 공식 파트너사로 직접 추천했다. 제대로 된 수익 모델이 없다는 사실을 확인한 엔비디아 임원은 신 대표에게 한 시간 동안 ‘1대 1 과외’까지 해줬다. 고객이 절감하는 비용의 20%를 가격으로 책정하라는 비즈니스 룰도 이때 전수했다.

이렇게 탄생한 래블업의 AI 인프라 운영체제(OS) ‘백엔드닷에이아이(Backend.AI)’는 글로벌 최대 스마트폰 제조사 핵심 애플리케이션의 AI 모델을 학습시키는 훈련 플랫폼으로 활용되고 있다.

래블업은 특정 제조사나 플랫폼에 매이지 않는 개방형 기술을 앞세워 삼성전자·현대모비스·KT 등 국내외 120개 이상 기업을 고객사로 확보했다. 2020년 이후 6년 연속 흑자를 기록하며 미국·태국·영국 등 해외 시장으로도 영역을 넓히고 있다.

신정규 래블업 대표는 “우리는 남들보다 4~5년 일찍 시작해 실패의 노하우를 축적해 온 인프라 기업”이라며 “특정 빅테크 독점에 갇히지 않고 누구나 AI 자원에 손쉽게 접근할 수 있도록 기술 주권의 버팀목이 되겠다”고 말했다.

1. 영감을 준 ‘인물’(WHO)은 누구입니까?

“소련의 핵융합 이론 선구자이자 소신을 지킨 반체제 학자 안드레이 사하로프입니다.”

사하로프는 인류의 에너지 문제를 풀기 위해 핵융합 토카막 장치를 제안했던 세기의 학자이지만, 본인이 만든 기술이 위험할 수 있음을 직시하자 정부 탄압과 감옥행을 무릅쓰고 소신을 굽히지 않았습니다. 제가 하는 AI 일도 어느 순간 사회에 해가 되거나 제어할 수 없다는 판단이 들 때, 잘나가는 사업이라도 스위치를 내릴 수 있는 결단력과 용기를 가슴에 새기게 해 준 인물입니다.

2. 빅테크가 대체할 수 없는 당신만의 ‘독자적 가치’(WHAT)는 무엇입니까?

“10년 가깝게 인프라 바닥에서 쌓아 올린 ‘실패와 대응 노하우의 축적’입니다.”

AI 코딩 보조 도구로 단순 프로그래밍 장벽은 낮아졌지만, 수천 대의 GPU가 멈추거나 최신 반도체 부품 및 장비 업데이트 과정에서 충돌이 일어날 때 해결하는 노하우는 문서화되지 않아 AI도 알지 못합니다. 하드웨어 드라이버(제어 프로그램) 바로 위 계층부터 최상위 애플리케이션까지 풀스택으로 통합 최적화해 빅테크와 겨뤄도 밀리지 않는 엔드투엔드 AI 플랫폼을 공급하는 것이 래블업의 가치입니다.

3. 자본과 인프라 한계를 ‘어떤 방식’(HOW)으로 돌파하고 있습니까?

“기술력을 바탕으로 글로벌 빅테크 기업들과 수평적 파트너십을 맺는 전략입니다.”

빅테크에 직접 맞서기보다 ▲엔비디아 ▲인텔 ▲AMD 같은 글로벌 반도체 및 스토리지 기업들이 먼저 찾아오게 만드는 기술력을 확보했습니다. 자사 기술을 오픈소스로 내놓아 글로벌 생태계에서 검증받았고, 이를 바탕으로 인수 제안에 흔들리지 않고 독자적인 생태계를 확장하고 있습니다.

4. 기술을 걸고 승부를 보겠다고 확신한 ‘결정적 계기’(WHY)는 무엇입니까?

“‘비공개 소스로 만들면 회사를 떠나고 5년 안에 흔적도 없이 사라진다’는 유명 오픈소스 개발자의 유언입니다.”

정보와 기술이 한곳에 독점될 때 생기는 불균형을 막는 유일한 방법은 오픈소스입니다. 회사가 망하고 개인이 떠나도 코드는 남아 인류에 기여한다는 믿음으로, 특정 반도체나 클라우드에 종속되지 않는 개방형 AI 인프라 OS를 끝까지 지켜내겠다고 확신했습니다.

5. 기술력을 마침내 인정받게 될 ‘결정적 시점’(WHEN)은 언제입니까?

“기업과 대중이 온전한 AI 자원 통제권을 행사하는 순간입니다.”

이미 삼성전자와 KT 등 대기업 인프라를 통해 검증을 마쳤습니다. 이제는 기업 내부의 토큰 비용과 보안을 자동 관제하는 ‘컨티넘’과 개인 PC용 ‘AI고(AIgo)’ 솔루션으로 대중과 기업이 래블업 인프라 위에서 직접 AI 서비스를 누릴 때 기술력이 완성될 것입니다.

6. 가장 먼저 파고들 ‘핵심 타깃 영역’(WHERE)은 어디입니까?

“자체 AI 인프라를 구축하려는 엔터프라이즈 및 공공·금융·의료 시장입니다.”

보안과 비용 문제로 민감한 데이터를 외부 클라우드에 온전히 위탁하지 못하는 대기업과 기관들이 주요 타깃입니다. 이들이 거대 클라우드 기업에 의존하지 않고도 이종 가속기(GPU·NPU)를 효율적으로 통합 운영하며 맞춤형 AI 서비스를 상용화할 수 있도록 AI OS 시장을 적극 공략하고 있습니다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지