[이코노미스트 정길준 기자] 인공지능(AI) 모델 경량화 및 최적화 솔루션 기업 노타가 멀티모달 AI의 구동 효율을 개선하는 기술로 글로벌 학술 무대에서 인정받았다.

노타는 멀티모달 AI 모델의 성능 저하를 최소화하면서 그래픽처리장치(GPU) 메모리 사용량을 절반 가까이 낮추는 연구 논문이 세계적인 AI 학술대회 ‘NeurIPS(신경정보처리기시스템학회) 2026’ 메인트랙에 채택됐다고 1일 밝혔다.

이번에 채택된 논문은 ‘MoE(전문가 혼합) 기반 멀티모달 대형 언어 모델을 위한 모달리티 인지형 전문가 프루닝’이다. 텍스트와 이미지를 동시에 처리하는 멀티모달 AI에 맞춰 MoE 모델의 전문가 프루닝 기술을 고도화했다.

기존 언어모델용 프루닝 방식을 멀티모달 AI에 그대로 적용할 경우, 시각 정보 처리에 필요한 핵심 전문가 모듈까지 제거돼 차트 분석 등 이미지 이해 과제에서 성능이 급격히 떨어지는 문제가 있었다.

노타 연구진은 이를 해결하기 위해 텍스트와 이미지에 대한 전문가의 중요도를 각각 독립적으로 평가하는 방식을 고안했다. 텍스트 기준 중요도는 유지할 전문가를, 이미지 기준 중요도는 제거할 전문가를 선별하는 데 활용해 두 가지 처리 능력을 균형 있게 보존하도록 설계했다. 또 각 층별로 동일한 수의 전문가를 제거하는 대신 모델 전체를 비교 평가해 중요 층의 핵심 모듈이 유지되도록 했다.

약 310억 파라미터 규모의 멀티모달 모델을 대상으로 진행한 성능 평가에서 전문가 모듈의 25%를 제거했을 때 원본 성능의 98%를 유지했다. 전문가 모듈을 절반(50%)까지 제거했을 때도 원본 성능의 91%를 보존했다.

특히 GPU 메모리 사용량은 기존 58GB에서 31GB로 약 47% 감소해 고가의 대형 인프라 없이 40GB 메모리를 갖춘 단일 GPU 1장만으로 초거대 멀티모달 모델을 안정적으로 구동할 수 있는 환경을 확보했다.

노타는 해당 기술을 자사의 AI 최적화 플랫폼인 ‘넷츠프레소’에 탑재해 멀티모달 및 MoE 최적화 역량을 강화할 계획이다. 아울러 입력 정보별 중요도 평가 원리를 향후 영상과 음성 등 다종 모달리티 영역으로 확대 적용할 방침이다.

채명수 노타 대표는 “AI 모델이 대형 언어 모델에서 이미지, 영상, 음성을 함께 다루는 멀티모달 AI로 진화함에 따라 모델 규모와 GPU 메모리 부담이 급증하고 있다”며 “이번 연구는 모델 성능을 유지하면서 필요한 컴퓨팅 자원을 대폭 줄여 실제 AI 인프라 운영 효율을 높이는 데 큰 의미가 있다”고 말했다. 이어 “AI 모델이 복잡해질수록 보유한 GPU 인프라를 효율적으로 활용하게 돕는 최적화 기술의 가치가 더욱 커질 것”이라고 덧붙였다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지