[이코노미스트 정길준 기자] 인공지능(AI) 모델 경량화 및 최적화 기술 기업 노타가 정부의 국가대표 AI 육성 사업에서 업스테이지 컨소시엄의 3차수 진출을 뒷받침하며 국산 파운데이션 모델의 구동 비용 절감과 산업 현장 확산에 속도를 낸다.

노타는 정부의 ‘독자 AI 파운데이션 모델’(이하 독파모) 프로젝트 3차수에 진출한 업스테이지 컨소시엄의 국산 AI 모델이 다양한 서비스 환경에서 효율적으로 활용될 수 있도록 기술 지원을 이어갈 계획이라고 20일 밝혔다.

정부의 독파모 사업은 글로벌 수준의 독자 파운데이션 모델을 개발해 ‘국가대표 AI’를 육성하는 프로젝트다. 지난 8월 18일 발표된 2차 평가에서는 ▲성능 ▲자원 효율성 ▲실용성 ▲확장성 등을 종합 평가한 결과 업스테이지를 포함해 SK텔레콤, LG AI연구원 등 3개 컨소시엄이 3차수 진출 확정표를 받았다. 업스테이지 컨소시엄은 국민 체감형 서비스 연계와 퓨리오사AI NPU(신경망처리장치) 활용으로 국산 AI 소프트웨어·하드웨어 생태계의 결합 가능성을 증명해 높은 점수를 받았다.

노타는 이번 컨소시엄에서 파운데이션 모델 ‘솔라’ 계열이 국내 인프라에서 효율적으로 작동하도록 연산 자원과 메모리 사용량을 줄이는 경량화·최적화를 책임지고 있다. AI 도입 부담과 운영비를 낮추고 산업 현장으로의 저변 확대를 돕는다.

앞서 노타는 2차 평가 결과 발표에 맞춰 업스테이지의 ‘솔라 오픈 2’ 경량화 버전을 글로벌 AI 플랫폼 허깅페이스에 선보였다. 가중치를 INT4 또는 NVFP4 기반 4비트 형식을 적용하고 불필요한 연산 모듈을 솎아내는 방식을 활용했다.

그 결과 2500억개 매개변수를 가진 솔라 오픈 2의 가중치 저장 메모리를 기존 500.6GB에서 117.8GB로 76.5% 감축했다. 당초 엔비디아 H100 GPU(그래픽처리장치) 8장이 필요했던 원본 모델을 성능 저하 없이 2장만으로 작동하게 만든 셈이다. 이 경량화 모델은 누적 다운로드 8만건을 돌파했다.

채명수 노타 대표는 “국가대표 AI 모델이 다양한 산업 현장에서 비용 효율적으로 활용될 수 있도록 최적화 기술을 지속적으로 고도화할 것”이라며 “업스테이지와 함께 독파모 3차수 평가에서도 좋은 성과를 거둘 수 있도록 최선을 다하겠다”고 말했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지