[이코노미스트 정길준 기자] 인공지능(AI) 모델 경량화·최적화 기술 기업 노타가 AMD의 최신 AI 플랫폼 환경에서 그래픽처리장치(GPU)와 신경망처리장치(NPU)의 연산 효율을 개선한 이기종 컴퓨팅 최적화 기술 성과를 선보였다.

노타는 AMD의 AI 기술 행사 ‘AMD 어드밴싱 AI 월드 투어 서울 2026’에서 GPU와 NPU 이기종 컴퓨팅 환경의 AI 추론 성능과 에너지 효율을 개선한 기술 성과를 발표했다고 9일 밝혔다.

노타는 ‘AMD 라이젠 AI 맥스+ 395’를 기반으로 한 자체 테스트를 진행했다. 그 결과 전체 응답 시간이 최대 52% 단축되고 토큰당 에너지 소비가 31% 감소한 것으로 나타났다.

노타는 AMD의 AI 프로세서를 기반으로 GPU와 NPU의 연산 작업을 효율적으로 분담하는 추론 최적화 기술을 소개했다. AI 모델의 입력 정보를 처리하는 프리필은 NPU가, 답변을 생성하는 디코드는 GPU가 담당하도록 추론 과정을 분리했다. 특히 두 연산 장치가 동일한 AI 모델 가중치를 공유하도록 최적화해 중복 메모리 사용을 줄이고 실행 효율을 높였다. 이를 통해 큐웬 모델 기준으로 기존 하이브리드 실행 환경 대비 답변 완료 시간을 28~52% 단축하고 토큰당 에너지 소비를 31% 줄였다.

이와 함께 노타는 AI 모델 최적화 플랫폼인 ‘넷츠프레소’에 AI 에이전트 기반 최적화 프로세스를 적용한 검증 결과도 공개했다. AI 에이전트가 모델과 하드웨어 특성을 분석해 최적화 전략을 수립하고 실제 장치에서 성능을 검증하며 개선하는 과정을 자동화한 것이 특징이다. AMD 라이젠 AI 환경에서 라마·큐웬·파이·미스트랄 등 언어모델을 검증한 결과, 기존 하이브리드 실행 환경 대비 메모리 사용량을 11~32% 줄였으며 NPU 단독 실행 대비 답변 생성 속도를 2.5~3.8배 높였다.

노타는 기존 모델 경량화에서 추론 런타임과 이기종 컴퓨팅 환경 전반으로 사업 영역을 넓히고 있다. 삼성전자·Arm·퓨리오사AI·모빌린트 등 국내외 반도체 기업들과 협력해온 노타는 이번 플랫폼 성능 검증을 계기로 AI PC와 로보틱스 등 다양한 분야에서 신규 고객을 확보할 방침이다.

김태호 노타 CTO는 “에이전틱 AI와 피지컬 AI 시대에는 AI 모델 자체의 성능뿐 아니라 GPU와 NPU 등 다양한 컴퓨팅 자원을 얼마나 효율적으로 활용하느냐가 실제 서비스의 성능과 운영 효율을 결정한다”며 “글로벌 반도체 생태계와의 협력을 기반으로 AI 실행과 운영 최적화 기술의 적용 범위를 넓히고 고객의 컴퓨팅 효율을 높이는 사업을 확대해 나가겠다”고 말했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지