[이코노미스트 정두용 기자] “삼성전자가 ‘온 디바이스 인공지능’(On-Device AI) 개념을 현실에 구현해 냈다. 이는 오픈AI(Open AI)가 주도한 ‘생성형 인공지능’(Generative AI) 확산만큼의 변화를 만들어 낼 수 있다고 본다.”

IT업체 한 고위 임원은 최근 기자와 만난 자리에서 ‘세계 첫 인공지능(AI) 스마트폰’ 갤럭시 S24 시리즈 출시의 의미를 이렇게 설명했다. 삼성전자가 정보통신기술(ICT) 업계의 변화를 주도할 기회를 잡았다는 견해다.

삼성전자는 갤럭시 S24 시리즈 출시로 AI 서비스를 손안으로 끌고 들어왔다. 오랜 시간 기술적으로만 논의되던 ‘온 디바이스 AI’를 구현했다는 평가를 받는다. 회사는 온 디바이스 AI 전략을 스마트폰에 국한하지 않고 가전·PC 등 다양한 영역으로 확장하고 있다. 업계에선 오픈AI가 챗GPT 출시 후 최근 1년간 주도한 정도의 변화를 삼성전자가 만들어 낼 수 있다는 기대가 나온다. 인터넷 연결 없이도 다양한 성능을 구현할 수 있는 ‘온 디바이스 AI’ 영역을 선점했기 때문이다.

삼성전자가 애플·구글·화웨이·LG전자 등 세계 굴지의 경쟁사들을 제치고 ‘온 디바이스 AI’ 시대를 열 수 있었던 배경으로 ▲반도체 기술 역량 ▲IT 기기 제조 능력 등이 꼽힌다. 삼성전자는 세계 최대 가전·스마트폰 제조사인 동시에 종합반도체기업(IDM)이다. 메모리·설계 전문(팹리스)·위탁생산(파운드리) 등 반도체 모든 영역에서 유의미한 성과를 내는 건 삼성전자 유일하다.

‘온 디바이스 AI’ 주목받는 이유

AI가 유려한 문장을 생성해 내고 그림을 그리는 동시에 정보를 번역·요약하려면 대규모 데이터센터와 같은 컴퓨팅 자원이 필요하다. 개인 기기에서 수집된 정보를 클라우드 서버로 전송한 뒤, 막대한 컴퓨팅 자원을 이용해 처리·분석·연산하는 과정이 이뤄진다. 현재 대다수 AI 서비스는 대규모 컴퓨팅 자원을 통해 연산을 마친 정보를 다시 개인 기기로 보내는 방식이다.

생성형 AI 등장으로 처리가 필요한 데이터양이 급격하게 증가하면서 서비스 지연이 발생하는 등의 문제가 발생하고 있다. 비용도 만만찮다. 업계에선 챗GPT 하루 추론용 연산 비용이 약 70만 달러(약 9억원)에 달한다고 추산한다.

온 디바이스 AI는 기기 자체에 장착된 반도체 칩을 통해 연산·추론 한다는 특징을 지닌다. 이 때문에 저지연·보안성에서 강점을 지닌 데다 비용 측면에서도 유리하다. 클라우드 기반 AI 서비스의 한계를 보완할 수 있는 기술로 주목받는 이유다.

문제는 다양한 생성형 AI 서비스가 등장하면서 소비자의 기대치가 높아졌다는 점이다. IT업계 관계자는 “온 디바이스 AI 성능이 대규모 데이터센터를 기반으로 이뤄지는 온라인 서비스까지는 아니더라도, 일정 수준 이상의 퍼포먼스를 내야 소비자가 만족할 수 있는 게 현재 시장 분위기”라며 “삼성전자도 AI 반도체 칩 하나로 구현할 서비스의 성능을 어디까지로 설정할지를 두고 많은 고민이 있었던 것으로 안다”고 설명했다.

다니엘 아라우조 삼성전자 모바일경험(MX)사업부 기획그룹장(상무)도 최근 실적발표회에서 “단순히 AI 기술을 적용하는 게 아니라 실질적으로 소비자가 유용하게 사용할 수 있는 기능이 무엇인지 고민했다”며 “갤럭시 S24로 초기 AI 스마트폰 시장을 장악할 것”이라고 밝힌 바 있다.

화려한 귀한 ‘엑시노스’

삼성전자는 이를 위해 모바일 반도체 설계 영역에서 두각을 나타내는 팹리스 기업 ‘퀄컴’과 협력을 강화했다. 이와 동시에 자체 개발한 애플리케이션프로세서(AP) 칩 성능을 대폭 끌어올렸다. ‘스마트폰의 두뇌’로 불리는 AP는 중앙처리장치(CPU)·그래픽처리장치(GPU)·D램·이미지처리장치(ISP) 등을 모은 시스템온칩(SoC)을 말한다. 스마트폰 데이터 연산을 담당하는 AP 칩에 스마트폰 성능이 좌우된다고 해도 과언이 아니다.

삼성전자는 세계 첫 AI 스마트폰을 표방하는 이번 제품에 자체 개발 AP 칩 ‘엑시노스 2400’와 퀄컴의 ‘스냅드래곤8 3세대’를 병행 채택했다. 국내의 경우 갤럭시 S24 울트라엔 스냅드래곤이, S24+·S20엔 엑시노스가 장착됐다.

삼성전자가 갤럭시 S에 엑시노스를 채택한 건 2년 만이다. 엑시노스 2400의 전작인 ‘엑시노스 2200’은 지난 2022년 갤럭시 S22 시리즈에 쓰였다. 해당 모델은 발열·성능 저하 등의 문제를 일으켰고, 엑시노스 2200이 원인으로 지목됐다. 삼성전자는 갤럭시 S23 시리즈에선 엑시노스를 아예 빼버렸다. 그런 엑시노스가 ‘변곡점’으로 불리는 이번 제품에 장착되면서 화려한 귀환을 알렸다. 삼성전자 측은 “엑시노스 2400이 전작에 비해 CPU 성능은 1.7배, AI 성능은 14.7배 향상됐다”고 자신했다.

AP 칩 성능은 생성형 AI 기능이 갤럭시 S24 시리즈에 다수 구현될 수 있는 배경이기도 하다. 생성형 AI 성능은 통상 기반 모델의 매개변수(파라미터·Parameter) 수로 가늠한다. 오픈AI·구글·네이버 등은 2000억~3500억 개 규모의 파라미터 수를 지닌 초대규모 AI 모델을 기반으로 ‘생성형 AI 검색’이나 ‘챗봇’ 등의 서비스를 구현했다. 파라미터 규모가 클수록 생성형 AI 기능이 고도화되는 구조다. 클라우드 기반의 AI 서비스 구현·운영에 대형 데이터센터가 필요한 이유다.

퀄컴은 스냅드래곤8 3세대 칩이 100억 개의 파라미터 수를 갖췄다고 밝힌 바 있다. 온라인 기반의 초대규모 AI 모델과 비교할 바는 아니지만, 개인 기기에 장착되는 단 하나의 칩임을 고려하면 세계 최대 수준이다. 엑시노스 2400의 파라미터 규모는 공개되지 않았지만, 스냅드래곤8 3세대와 비슷한 수준을 갖췄으리란 게 IT업계 추정이다.

김영집 삼성전자 MX사업부 언어AI팀장(부사장)도 지난 1월 미국에서 열린 기자간담회를 통해 “스냅드래곤·엑시노스 신경망처리장치(NPU) 칩셋 구조는 다르지만, 초기 단계부터 수년간 같이 협의해 만들어 성능은 모두 동일하다”며 “AI 구동에는 2가지 칩 모두 전혀 문제가 없다”고 강조했다.

갤럭시 S24 시리즈 해외 출시 제품에선 여전히 스냅드래곤 3세대 채택 비중이 높다. 그러나 삼성전자의 설명처럼 각종 대외 평가에서 두 칩의 성능 차이는 크지 않다. 엑시노스 2400은 긱벤치6 벤치마크 테스트(성능테스트)에서 ▲S24 싱글코어 2131점·멀티코어 6785점 ▲S24+ 싱글코어 2139점·멀티코어 6634점을 기록했다. 스냅드래곤8 3세대를 장착한 S24 울트라는 싱글코어 2289점·멀티코어 7123점을 받았다. 두 칩의 CPU 성능 차이가 10%도 나지 않는다는 평가다. 그래픽 성능을 나타내는 오픈CL 점수에선 엑시노스가 되레 13.3% 우위를 점하기도 했다. AMD의 최신 아키텍처 RDNA3 기반 엑스클립스 940 GPU를 탑재하며 성능을 대폭 끌어올린 결과다.

노태문 삼성전자 MX 사업부장(사장)은 갤럭시 S24 시리즈 공개 직후 “올해 약 1억대의 갤럭시 모바일 기기에 갤럭시 AI 기능을 탑재할 것”이라며 “앞으로 삼성 AI를 스마트폰을 넘어 TV·가전·자동차 등 삼성의 다른 기기로 확대하는 동시에 다른 브랜드 기기로도 넓힐 계획”이라고 말했다.

삼성전자는 3월 말 ‘갤럭시 S23 시리즈’와 ‘갤럭시 S23 팬에디션(FE)’에 새 운영체제(OS) 버전인 ‘원(ONE) UI 6.1’ 업데이트를 배포한다. 갤럭시 S24 시리즈에 적용된 AI 기능을 전작에도 제공하겠단 취지다. 기존에 출시한 갤럭시 Z폴드5·Z플립5·탭S9 시리즈를 대상으로도 AI 기능을 순차 확대할 방침이다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지