[이코노미스트 원태영 기자]데이터 파운드리 기업 바운드포는 자사 AI 데이터 운영 플랫폼 '드로파이(DroPai)'에 AI 토큰 지출 관리 서비스 '파레토(Pareto)'를 새롭게 추가했다고 12일 밝혔다.

최근 생성형 AI와 AI 에이전트 도입이 확산되면서 기업들은 여러 AI 모델과 API를 동시에 활용하고 있다. 특히 미국 실리콘밸리에서는 고성능 AI 모델을 적극 활용해 토큰 사용량을 늘리는 ‘토큰맥싱(Tokenmaxxing)’이 확산될 만큼 AI 활용 자체를 확대하는 데 초점이 맞춰져 왔다. 그러나 AI 사용량이 빠르게 늘면서 기업의 비용 부담도 새로운 과제로 떠오르고 있다. 대부분의 기업은 월말 청구서를 받은 뒤에야 지출 규모를 확인할 수 있어 예산 초과나 비효율적인 사용을 사전에 관리하기 어려운 상황이다.

특히 AI 에이전트와 로봇, 각종 디바이스가 사람의 개입 없이 AI API를 지속적으로 호출하는 환경에서는 토큰 소비의 성격도 달라진다. 사람이 직접 사용하는 AI 서비스는 근무 시간이라는 자연스러운 사용 한계가 있지만, 자동화 시스템은 24시간 작동할 수 있어 예상하지 못한 비용이 빠르게 누적될 가능성이 크다.

파레토는 이러한 문제 해결을 위해 개발된 서비스다. 관리자가 설정한 예산 한도를 초과하는 AI API 요청을 실행 전에 차단하고, 팀별 사용 현황과 예상 지출을 실시간으로 제공해 비용 발생 이전부터 예산을 관리할 수 있도록 지원한다. 이로써 드로파이는 AI 데이터 운영부터 토큰 지출 관리까지 아우르는 플랫폼으로 기능을 확대했다.

파레토의 핵심은 사용 이후 비용을 확인하는 ‘사후 관측(Observability)’이 아니라, 한도 초과 자체를 예방하는 ‘사전 통제(Control)’에 있다. 기업이 정한 예산과 정책을 API 호출 과정에 적용해 불필요한 비용 발생을 사전에 차단하고, AI 에이전트와 자동화 시스템이 설정된 예산 범위 안에서 운영될 수 있도록 지원한다.

또한 월 단위 사용 데이터를 분석해 불필요한 지출이 발생하는 주요 패턴을 자동으로 파악한다. 실패한 호출이 반복되며 비용이 쌓이는 재시도 누적, 사실상 동일한 요청이 반복 처리되는 중복 요청, 더 가벼운 모델로 수행할 수 있는 작업에 고성능 모델을 사용하는 과사양 모델 사용 등을 탐지해 절감 가능한 영역을 리포트 형태로 제공한다.

서비스명인 '파레토'는 전체 결과의 대부분이 소수의 원인에서 비롯된다는 '파레토 법칙(Pareto Principle)'에서 착안했다. AI 토큰 비용 역시 소수의 호출 패턴에 비용이 집중되는 특성을 반영해 붙인 이름이다.

황인호 바운드포 대표는 "파레토는 피지컬 AI 현장에서 바운드포가 직접 겪은 문제를 해결하는 과정에서 탄생한 서비스"라며 "로봇과 디바이스가 24시간 AI를 호출하는 환경에서는 비용을 사후에 분석하는 방식만으로는 한계가 있었다"고 밝혔다. 이어 "앞으로도 현장에서 검증한 운영 경험을 서비스로 고도화해 AI 데이터 관리부터 비용 통제까지 기업의 AI 운영 전반을 지원해 나가겠다"고 말했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지