[이코노미스트 정길준 기자] KT가 국산 인공지능(AI) 반도체와 독자 개발 언어모델(LLM)을 결합한 기업용 완제품형 장치(어플라이언스)를 선보이며 소버린(주권) AI 시장 공략에 나선다.

KT는 국산 AI 반도체와 국산 언어모델을 하나의 서버에 통합한 기업용 소버린 AI 어플라이언스 ‘KT NPU LLM 스테이션’을 출시했다고 19일 밝혔다.

KT NPU LLM 스테이션은 국내 AI 반도체 기업 리벨리온의 추론 특화 NPU(신경망처리장치)인 ‘아톰-맥스’와 KT가 독자 개발한 LLM ‘믿음 K 2.5 프로’, 운영 API(응용프로그램 인터페이스) 플랫폼을 하나로 묶은 완제품형 제품이다. 아톰-맥스는 동급 GPU(그래픽처리장치) 대비 우수한 처리 성능과 전력 효율을 검증받았다는 설명이다. 믿음 K 2.5 프로는 고난도 추론과 에이전트 활용에 강점을 지녔다.

KT는 이 제품의 가장 큰 장점으로 강력한 보안성을 꼽았다. 제품이 고객사 내부에 직접 설치돼 모든 연산과 데이터 처리가 사내에서만 이뤄진다. 보안 규제나 망분리 문제로 해외 생성형 AI 도입이 불가능했던 공공·국방·제약·제조·금융 등 규제 산업군에 최적화된 해법을 제공한다.

기업의 도입 부담도 최소화했다. 서버·모델·플랫폼이 통합 제공돼 별도 구축 기간 없이 설치 당일부터 사내 문서 기반 질의응답(RAG) 등의 AI 기능을 활용할 수 있다. 동급 GPU 서버 대비 전력 효율이 높고 업계 표준 API를 지원해 기존에 사용하던 AI 서비스의 접속 정보만 변경하면 코드 수정 없이 바로 호환된다.

KT는 향후 회의록 작성·코딩 지원·업무 자동화 에이전트 ‘K-클로’ 등 자체 개발한 AI 에이전트를 순차적으로 탑재할 예정이다.

이진형 KT AX사업본부장은 “KT NPU LLM 스테이션은 KT의 AX(AI 전환) 풀스택 역량과 국산 반도체를 결합해 소버린 AI를 산업 현장에서 즉시 사용할 수 있게 만든 제품”이라며 “데이터 주권을 지키며 AI 전환을 추진하려는 기업과 기관에 가장 현실적인 선택지가 될 것”이라고 말했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지