[이코노미스트 정길준 기자] 인공지능(AI) 추론 최적화 기업 노타가 AI 반도체 스타트업 하이퍼엑셀로부터 대규모언어모델(LLM) 최적화 기술을 추가 수주했다.

노타는 하이퍼엑셀과 LLM 모델 및 연산 최적화 기술 공급 계약을 체결했다고 12일 밝혔다. 지난해 9월 첫 계약을 맺은 데 이은 두 번째 수주다. 이번 계약에 따라 노타는 하이퍼엑셀이 개발한 LLM 추론 전용 반도체 ‘베르다 LPU’에서 주요 LLM을 효율적으로 실행할 수 있도록 최적화 기술을 제공한다.

이번 협력은 베르다의 모델 지원 범위를 넓히고 다양한 고객사의 AI 서비스 수요에 대응하기 위해 추진됐다. 양사는 LPU에 맞춰 최신 LLM을 최적화해 고객이 용도에 따라 다양한 모델을 활용할 수 있도록 지원할 방침이다.

노타는 하이퍼엑셀의 소프트웨어 개발도구(SDK)인 ‘하이퍼엑셀 SDK’와 자체 개발 임베디드 도메인 특화 언어(eDSL) ‘레가토’를 활용한다. 여기에 자체 AI 최적화 플랫폼 ‘넷츠프레소’를 결합해 베르다의 하드웨어 구조에 적합하도록 모델을 조정한다.

구체적으로 LLM의 핵심 연산을 담당하는 커널을 LPU 아키텍처에 맞춰 최적화하고, 모델별 특성에 따라 양자화 기술을 적용해 메모리 사용 효율을 높일 계획이다. 모델 크기를 줄이는 수준을 넘어 반도체의 연산 구조와 실행 환경에 맞춰 소프트웨어를 최적화하는 방식이다.

노타는 이번 계약으로 기술 적용 범위가 그래픽처리장치(GPU)·중앙처리장치(CPU)·신경망처리장치(NPU)에 이어 LLM처리장치(LPU)까지 확대됐다고 전했다.

채명수 노타 대표는 “AI 반도체 기업의 경쟁력은 우수한 하드웨어뿐 아니라 고객이 원하는 AI 모델을 빠르고 효율적으로 실행할 수 있도록 지원하는 소프트웨어 생태계에서도 결정된다”며 “앞으로도 글로벌 AI 반도체 기업들과의 협력을 확대하고, 모델 최적화부터 연산 커널까지 아우르는 소프트웨어 기술 공급 사업을 성장시키겠다”고 말했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지