[이코노미스트 원태영 기자] 최근 국내 통신사 간 AI 경쟁이 치열한 상황이다. SK텔레콤·KT·LG유플러스 등 3사 모두 거대언어모델(LLM) 개발에 상당한 공을 들이고 있다.

이런 상황에서 KT는 초거대 AI ‘믿음’(Mi:dm)을 최근 선보였다. KT는 이번 믿음 출시를 계기로 ▲기업전용 LLM 사업화 ▲새로운 AI 혁신 사업 발굴 등 우선 B2B 시장에 집중할 계획이다. 이후 글로벌·제조·금융·공공·교육의 5대 영역으로 초거대 AI 사업 영역을 확장하고, 스타트업 개방 생태계를 통해 초거대 AI 기반 비즈니스 혁신에 나선다는 방침이다.

이코노미스트는 이진형 KT Large AI 사업담당 상무를 만나 초거대 AI '믿음'과 관련된 다양한 이야기를 나눴다.

Q. 초거대 AI ‘믿음’을 소개하자면.

A. 다양한 기업에 맞는 초거대 AI를 효율적으로 제공하고 특정 도메인에 특화된 LLM 제공을 목표로 초거대 AI ‘믿음’을 준비했다. KT는 B2B 시장에서 고객사 요구가 많은 한국어 문서에 대한 질의응답, 요약, 생성, 대화 등에 먼저 집중하고 있으며, 누구나 쉽게 LLM을 학습·배포·운영하고 추가로 필요한 기능에 대해서는 빠르게 반영할 수 있도록 스튜디오를 제공하고 있다. 또한 생성 결과에 대해 높은 신뢰도를 요구하는 고객들은 신뢰 패키지(Reliable Package)를 통해 AI의 환각 답변(Hallucination, 이하 할루시네이션)을 최소화할 수 있다. 마지막으로 이 모든 서비스를 하이퍼 스케일 AI 컴퓨팅(HAC) 인프라, 경량화 기술 등을 통해 경쟁력 있는 비용으로 제공하고 있다.

Q. 조(兆) 단위 데이터를 사전 학습할 수 있었던 비결은.

A. KT는 기존 다양한 AI 서비스를 개발한 노하우를 바탕으로, 다양한 사이즈와 목적별 라인업의 사전학습 모델을 지속 개발해 나가고 있다. 모델 성능은 학습에 사용하는 데이터양뿐만 아니라 잘 정제해 질 높은 데이터를 확보하는 것이 중요하다. 이에 자체 중복제거 알고리즘을 통해 데이터를 선별하고 비식별화 알고리즘 적용을 통한 개인정보 제거, 유해 표현 필터링을 통한 비속어 제거 등 학습 데이터 품질을 높이는 데 최선을 다했다.

Q. ‘믿음 스튜디오’에 대해 설명하자면.

A. KT 믿음 스튜디오는 크게 멀티 LLM 제공, 편리하고 자유도 높은 학습 환경, 합리적 과금 정책 등 3가지 특징을 가지고 있다. 우선 믿음 스튜디오는 믿음 사전학습 모델부터 파트너사들의 다양한 모델까지 자유롭게 원하는 모델을 선택할 수 있으며, 모델별 최적화된 HAC 인프라와 인스턴스 제공으로 단 몇 번의 클릭만으로 학습·서빙이 가능하다. 또한 기업의 특화된 요구사항을 수용하고자 PEFT부터 완전 맞춤형(Full Fine-Tuning)까지 자유도 높은 학습 환경을 제공하고 있다. 아울러 효율적인 비용의 인프라를 기반으로 초기에 큰 비용 투입 없이도 초거대 AI를 활용할 수 있다. 이에 더해 2차 고도화 시에는 지식 최적화 검색 솔루션과 기업 특화 요구사항을 반영하기 위한 플러그인(API·SQL·web 등) 기능도 지원할 예정이다.

Q. 경쟁사 대비 30%가량 저렴한 비용을 장점을 내세웠는데.
 
A. KT는 효율적인 비용의 AI 서비스를 제공하기 위해 국내 최고의 기술 파트너들과 오랫동안 한국형 AI 풀 스택(Full Stack)을 준비해 왔다. KT 클라우드에 국내 기술로 개발한 리벨리온 ATOM칩을 적용해 전력 효율이 6배 뛰어나면서도 추론 비용 50% 절감 효과를 이뤄냈고, AI 인프라 소프트웨어 파트너사 모레와 함께 27%의 비용 절감이 가능한 하이퍼스케일 AI 컴퓨팅(HAC) 서비스를 제공 중이다. 초거대 AI 적용을 희망하는 기업들은 이와 같은 한국형 AI 풀 스택을 통해 인프라 비용의 효율화를 가져올 수 있을 것으로 기대한다.

Q. ’범용 LLM’이 아닌 기업용 ‘프라이빗 LLM’ 시장을 우선 공략하는 이유는.

A. 초거대 AI의 비즈니스 모델에 대해서는 아직 정해진 게 없고 어느 영역에서 수익이 발생할 수 있을지는 글로벌 사업자들도 다양한 시도 중이다. LLM을 직접 만드는 국내 테크 기업들 중에 KT가 가장 큰 규모의 엔터프라이즈 조직과 사업 경험 및 역량을 보유하고 있다. LLM을 B2B 시장의 특성에 맞춰 적용하기 위해서는 LLM 자체를 잘 만드는 능력뿐만 아니라 B2B 사업 경험 및 역량이 필수이기 때문에 KT가 경쟁사 대비 B2B 시장에서 강점이 있다고 생각한다. 이것이 B2B 시장에 집중하고자 하는 이유이기도 하다. 향후 B2C 시장도 다양한 방면으로 검토하고 있으며 ‘기가지니’ 등 기존 고객 서비스에 적용할 계획을 하고 있다. 

Q. 다양한 AI 스타트업들과 ‘믿음’을 활용한 AI 사업모델을 공동으로 개발하기로 했는데.

A. LLM 시장은 특정 단일기업이 단독으로 사업할 수 있는 영역이 아닌 만큼 기술력 있는 AI 스타트업, 각 산업 영역의 전문가들과의 파트너십이 중요하다고 생각한다. 콴다·업스테이지·모레·리벨리온 등 인프라 영역부터 애플리케이션 영역에 이르기까지 강점 있는 스타트업들과 협력해 AI 생태계 활성 및  AI 관련 국가 경쟁력 강화를 목표로 하고 있다.

Q. 글로벌·제조·금융·공공·교육의 5대 영역으로 초거대 AI 사업 영역을 확장할 계획인데.
 
A. 최근 MOU 및 사업 협력을 논의 중인 자스민 그룹과 태국 시장 공략을 위한 태국어 전용 LLM 모델 구축을 시작으로 유사한 지역성 특성을 보유한 라오스, 캄보디아 등 동남아 시장을 중심으로 글로벌 사업을 추진하고자 하고 있다. 동남아 시장에서의 성공 사례를 기반으로 다른 지역 등 글로벌 진출도 고려해 볼 예정이며, 글로벌뿐만 아니라 제조·금융·공공·교육 등 5대 영역에서 특화된 모델을 제공하고 각 분야에서 KT 초거대 AI 믿음을 통해 맞춤화된 ‘당신만의 LLM’을 제공하는 것을 목표로 하고 있다.

Q. 향후 '믿음'을 통한 궁극적인 목표가 궁금하다.

KT LLM 사업의 기업가치 제고 효과는 고객사 전용 모델(Private LLM) 시장뿐만 아니라 내부 사업 적용을 통한 제품/서비스 강화와 생산성 향상 등 광범위하게 영향을 미칠 것으로 확신한다. 마치 통신 인프라에 기반해 통신서비스 매출만을 달성하고 끝나는 것이 아니라, 모바일 디바이스 시장부터 애플리케이션 시장까지 영향력을 확대하는 것과 유사하다. LLM의 경우, 당장 KT 매출에 기여할 수 있을 뿐만 아니라 LLM을 기반으로 KT가 진행하는 각 사업영역에서 KT의 근본적인 사업 경쟁력을 강화할 수 있다고 본다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지