[이코노미스트 최영진 기자] 포항공과대(포스텍)에서 석·박사 과정을 밟은 약 6년 동안 그와 공동창업자들이 발표하거나 참여한 국제 논문만 70여 편이다. 딥러닝 가속기 하드웨어를 연구하는 연구실에서 연구원으로 일하면서 그의 관심은 연구하고 좋은 논문을 쓰는 데에 집중했다. “연구가 가장 재미있었다”던 대학원생이었다. 박사 과정을 마치고 대기업이나 해외 취업 대신 2022년 3월 연구실 동기 2명과 함께 창업에 도전했다. “포스텍에 다닐 때 딱히 창업에 관심이 많은 게 아니었는데, 미래를 생각할 때 ‘가장 도전적인 일이 무엇일까’라는 생각을 했다. 결론은 대기업에 가는 대신 창업 하는 것으로 생각했다”고 설명했다. 인공지능(AI) 시대에 주목받는 AI 모델 경량화에 도전하는 스타트업 스퀴즈비츠(SqueezeBits)를 창업한 김형준 대표 이야기다. 김 대표는 “사명은 데이터를 표현하는 기본적인 단위인 비트 단위까지 AI를 열심히 쥐어짜서(스퀴즈) 무게를 줄인다는 의미가 있다”고 설명했다. 

2022년 11월 미국 스타트업 오픈AI가 개발한 생성형 AI ‘챗GPT’의 등장은 본격적으로 AI 시대가 열렸음을 알리는 신호탄이다. 이를 계기로 기업들은 거대 언어 모델(LLM)을 도입해 고객 지원이나 데이터 분석, 콘텐츠 생성 등에 활용하려고 한다. AI 시대에 대응하기 위해서다. 

다만 기업이 해결해야 할 게 있다. 바로 비용 문제다. 기업이 기업이 LLM 연산을 위해서 사용하는 게 엔비디아의 그래픽처리장치(GPU) 서버를 구축하고 운영하려면 비용 부담이 상당히 큰 것으로 알려져 있다. 

기업의 비용 고민을 해결하기 위해서는 AI 모델의 경량화가 필수다. 스퀴즈비츠가 업계에서 주목받는 이유다. 스퀴즈비츠가 업계에서 주목받는 이유다. 한 고객사는 애플리케이션(앱) 서비스에 사용되는 10종 이상의 AI 모델을 클라우드 기반으로 서비스를 제공했다. 스퀴즈비츠의 도움을 받아 AI 모델의 경량화에 성공해 앱 서비스를 클라우드 대신 온 디바이스(On-device)로 구동하는 데 성공해 클라우드 비용을 절감했다. 한 스마트 CCTV 기업은 고성능 AI 지원을 위해 고사양 하드웨어를 사용했는데, 경량화를 통해 더 저렴한 하드웨어로 같은 성능을 유지하는 데 성공했다. 이를 통해 제품 원가를 크게 줄일 수 있었다고 한다. 김 대표는 “창업 후 20여 곳의 기업과 손을 잡고 AI 모델 경량화에 도전했고 대부분 좋은 결과를 얻었다”면서 “대학원에서 하드웨어에 대해 깊이 이해했고, 그 바탕 위에 AI 모델을 어떻게 최적화하고 효율적으로 운용할 수 있는 솔루션을 제공하고 있다”고 설명했다. 

스퀴즈비츠가 네이버와 손잡고 인텔의 차세대 AI반도체 ‘가우디3’ 관련 협력을 진행하는 것은 이런 성과를 보여줬기 때문에 가능하다. 인텔과의 협업은 스퀴즈비츠의 글로벌 진출 도전을 가능하게 한 중요한 사례다. 김 대표는 “인텔의 하드웨어와 우리의 AI 모델 경량화 기술을 접목하고, 네이버는 이 위에 자신들의 서비스를 탑재하는 것을 목표로 협업하고 있다”면서 “인텔과의 협업 성과를 바탕으로 글로벌 진출을 할 것이다”라고 자신했다. 또한 “이 협업을 계기로 다음 투자 유치는 해외에서 받으려고 한다”고 덧붙였다. 

스퀴즈비츠가 도전하는 AI 모델 경량화의 기술을 일반인이 이해하기는 어렵다. 김 대표에게 “챗GPT나 제미나이, 스테이블 디퓨전 같은 AI 모델을 어떻게 가볍게 만든다는 것인가”라는 질문에 “만약 10만1891 X 50만1746을 계산하는 것은 어렵지만 10만 단위 밑을 모두 반올림해 10만 곱하기 50만을 계산하는 것은 좀 더 빨라지고 쉬워진다. 이런 식으로 하드웨어 칩이 더 빠르고 효율적으로 연산을 할 수 있게 하는 것”이라며 “오차가 발생할 수 있지만 큰 틀에서 AI의 추론 결과가 크게 바뀌지는 않으며, 그런 오차를 최대한 줄이면서 연산을 효율적으로 만드는 기술이 우리가 가지고 있는 경쟁력이다”고 설명했다. 이 과정에서 분석 데이터의 양을 줄이는 것은 아니라고 한다. LLM을 비롯한 AI를 열심히 개발하는 기업이 서비스 과정에서 비용과 시간을 줄일 수 있도록 도움을 주는 게 스퀴즈비츠의 경쟁력이다 

SaaS형 오울라이트 3월 출시…기업 스스로 AI 모델 경량화 가능

지난 3월 스퀴즈비츠는 서비스형 소프트웨어(SaaS) ‘아울라이트’(OwLite)를 출시했다. 기업에서 사용하는 AI 모델의 개발 환경을 그대로 사용할 수 있고, 기존 코드 변경을 하지 않아도 사용이 가능한 개발 친화적 소프트웨어다. AI 모델 경량화에 필요한 기능을 경험할 수 있고, 적용 및 분석이 가능한 시스템 구성을 갖췄다. 김 대표는 “보통 기업이 의뢰하면 우리가 기업의 AI 모델을 경량화·최적화를 하는 데 기업 내부의 데이터를 공유하지 못하는 경우가 종종 있다. 그런 기업을 대상으로 스퀴즈비츠의 기술을 패키징으로 제공하면 기업 내부에서 알아서 적용할 수 있게 하는 게 아울라이트다”라고 설명했다. 또한 “아울라이트는 AI 모델을 운용하고 있는 기업을 대상으로 하고 있다. 우리가 AI 모델을 처음부터 개발하지는 않는다”고 덧붙였다. 구독료 형태의 비용을 지불하는 아울라이트의 클라이언트는 계속 늘어나고 있다고 한다.

스퀴즈비츠의 기술력은 업계에서 인정을 받고 있다. 지난 1월 포스텍홀딩스·삼성넥스트·포스코기술투자·카카오벤처스로부터 25억원 규모의 프리 A 투자 유치에 성공했다. 지난해 6월에는 ‘팁테크 팁스(TIPS)’에 처음 선정된 스타트업이라는 기록을 남겼고, 15억원의 투자도 받았다. ‘2022 인공지능 온라인 경진대회’ 자연어 분야 2위, 중소벤처기업부장관상 등의 수상은 이들의 기술력을 알릴 수 있는 계기가 됐다. 

김 대표의 목표는 명확하다. “하드웨어 기업과 그 하드웨어를 사용해 서비스를 제공하는 기업 사시에 간극은 생각보다 크다. 그 간극을 채워줄 수 있는 징검다리 역할을 계속할 것이다”라고 말했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지