[이코노미스트 정길준 기자] 인공지능(AI) 인프라 솔루션 기업 모레가 데이터센터를 효율화하는 ‘토큰 팩토리 OS’와 이기종 가속기 분산 추론 기술을 공개했다.

모레는 15일부터 17일까지(현지시간) 미국 산타클라라 컨벤션센터에서 열리는 ‘AI 인프라 서밋 2026’에 참가해 AI 데이터센터의 운영 패러다임으로 토큰 팩토리 개념을 제시했다고 16일 밝혔다.

행사 첫날 기조발표에 나선 조강원 모레 대표는 AI 데이터센터의 경쟁력이 단순 GPU(그래픽처리장치) 용량 확보에서 API(응용프로그램 인터페이스) 기반 토큰을 저비용·고효율로 생산하는 체제로 전환하고 있다고 짚었다. 엔비디아·AMD·텐스토렌트 등 서로 다른 아키텍처와 세대의 가속기가 공존하는 환경에서 개별 장비 성능을 넘어 인프라 전체의 추론 경로를 최적화하는 소프트웨어가 핵심이라는 설명이다.

모레가 선보인 토큰 팩토리 OS는 특정 GPU나 추론 엔진에 종속되지 않고 다양한 가속기를 하나의 자원 풀로 통합해 토큰 생산 효율을 높이는 소프트웨어다. 모레는 이를 구현하는 핵심 기술로 ‘MoAI 추론 프레임워크’를 제시했다.

현장에서는 엔비디아 H100과 AMD MI300X를 결합한 이기종 가속기 추론 실증 결과도 공개됐다. 프롬프트 처리는 H100이, 응답 생성은 MI300X가 담당하도록 연산을 분리하고 이를 소프트웨어로 연결한 결과, 단일 벤더 기반 구성 대비 최대 1.67배의 처리량 향상을 입증했다.

조강원 모레 대표는 “AI 데이터센터는 GPU 제공 공간에서 토큰을 생산·판매하는 팩토리로 진화하고 있다”며 “다양한 가속기를 하나의 인프라처럼 활용하는 분산 추론 기술을 바탕으로 글로벌 AI 인프라 시장의 새로운 표준을 만들어 가겠다”고 말했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지