[이코노미스트 최영진 기자] [김용석 가천대 반도체대학 석좌교수] 세상 변화의 중심에는 늘 기술이 있다. 기술의 변화는 세상을 바꾸어 놓곤 한다. 전기전자 분야 기술은 더욱더 변화의 속도가 빠른데, 필자가 대학을 졸업하고 기업에서 처음으로 경험했던 큰 기술 변화는 아날로그 기술에서 디지털 기술로의 변화이다. 

1980년대초에는 기존의 아날로그 방식의 TV·VTR·오디오 제품을 차별화하기 위해서 디지털 기술이 활용됐는데, 주문형반도체인 ASIC을 자체 개발하고 제품에 적용했다. 1996년 삼성의 명품플러스-1 TV라는 새로운 독자 규격 제품은 삼성이 화질을 좋게 하기 위해서 자체적으로 ASIC을 개발했기에 가능했다. 당시에 “한국은 아날로그 TV에서 30년 뒤진 기술로는 평생 가야 1등할 수 없다”는 일본기업들의 비아냥을 들어야 했다. 

그렇지만 디지털 시대로의 전환에 성공한 삼성전자가 1998년 10월 말 세계 최초로 디지털TV를 양산해 내었다. 당시 정부지원을 받아서 국내 가전기업들이 공동으로 디지털TV 시스템반도체도 세계 처음으로 개발했다. 반도체의 힘으로 디지털TV 시대를 열었다. 

두번째 경험하는 큰 변화는 디지털기술 기반에서 AI기술이 시작되고 있는 지금이다. 이 변화 역시 반도체가 견인하고 있다. 

인간의 뇌를 모방한 AI기술은 1960년대이후 오랜 시간 동안 연구되어 온 분야로서 1980년대 전후, 학습에 필요한 엄청난 계산량으로 현실성 없는 기술로 인식되었다. 2000년대에 접어들면서 딥러닝 학습 알고리즘의 개발과 더불어 그래픽 전용 처리장치인 GPU(Graphic Processing Unit) 시스템반도체, 메모리 용량 증가가 학습에 필요한 많은 계산량을 전담하면서 딥러닝 기반 인공지능 기술이 실제 산업에 활용되기 시작했다. 학습 및 추론의 두 단계에서의 복잡한 연산을 가능하게 해준 반도체의 도움으로 가능 했다. 반도체 없이는 AI는 없었을 것이다. 

지금 우리가 사용중인 스마트폰은 AI기술이 채용되면서 혁신이 진행중이다. 바로 온디바이스(On device)AI 반도체가 들어간 AI스마트폰이다. 개인비서로 더욱 진화하고 있다. 과거 아날로그 TV제품에 디지털 기술이 차별화의 방법으로 활용된 것처럼 자동차·로봇·홈·공장 등 여러 제품들에서 온디바이스AI 활용이 예상된다. 

인터넷 연결 없이 스스로 처리하는 온디바이스 AI

온디바이스AI는 말 그대로 인터넷을 통해 클라우드나 원격 서버를 거치지 않고 스마트폰·노트북·로봇 등의 디바이스 자체에서 작동하는 AI를 의미한다. 오픈 AI사에서 제공하는 챗GPT 서비스는 클라우드 기반이다. 사용자가 요청하면 클라우드에서 연산 처리를 통해 답변을 만들고, 이를 다시 사용자에게 전달해 준다. 데이터 처리와 AI 연산을 클라우드가 아닌 디바이스 내부에서 처리하므로 중요한 장점이 있다. 데이터가 디바이스 내에서 처리되므로, 사용자의 개인 정보가 외부 서버로 전송되지 않으므로 개인정보 보호와 보안을 지킬 수 있다. 또한 인터넷 연결이 없는 상황에서도 AI 기능을 사용할 수 있다. 

그렇지만 단점도 있다. 온디바이스 AI에는 한계는 있다. 바로 AI칩의 성능이 떨어지므로 디바이스의 성능이 제한적이기 때문이다. 디바이스의 메모리 용량에 따라 AI 모델의 크기가 제한되고, 정확도가 떨어질 수 있다.

이에 반해서 클라우드 AI는 AI 모델 실행 및 데이터 처리를 클라우드 환경에서 제공하는 방식의 기술을 말한다. 위에서 말한 온디바이스 AI와는 다르게 모든 연산 작업, 데이터 처리 등을 로컬 디바이스가 아닌 중앙 클라우드 서버에서 수행한다. 사용자의 로컬 디바이스 성능에 상관없이 고성능 서버에서 대규모 연산을 효율적으로 처리할 수 있다. 이미지 인식 AI 모델이나 복잡한 자연어 처리 작업 등도 클라우드 서버를 통해 병렬 연산을 진행하기 때문에 실시간으로 여러 사용자에게 서비스를 제공해 간편하게 수행이 가능하다. 

역시 단점이 존재한다. 모두 대규모 데이터 센터에서 운영되므로 인터넷 연결이 끊기거나 클라우드 자체가 마비되면 AI를 사용할 수 없다. 또한, 클라우드 AI는 사용자의 질문과 데이터가 모두 클라우드로 전송되기 때문에 보안 문제가 발생할 가능성이 있으며, 데이터 전송에 비용과 시간이 필요하다 

온디바이스AI는 AI반도체와 AI모델의 두축으로 나눌 수 있다. AI반도체는 NPU(Neural Processing Unit)를 사용하는데, 인간의 뇌처럼 복잡한 연산과 패턴 인식을 빠르고 효율적으로 처리하기 위해서, AI 연산 가속에 특화 설계된 AI 반도체이다. 개별 AI 모델에 최적화되어 있어 GPU로 처리할 때의 단점인 전류소모를 줄일 수 있다. AI모델은 특정목적을 수행하기 위해서 데이터를 학습하고 패턴을 인식하도록 설계된 알고리즘을 의미한다. 저전력의 성능이 높지 않은 NPU를 사용해야 하므로 경량화된 AI 모델 및 추론 기술개발이 매우 중요 하다.  

현재 온디바이스 AI는 학습 과정에서 엄청난 계산 능력이 필요하지는 않으므로 주로 추론에 초점을 맞추고 있다. 또한 추론 서비스는 항상 사용하는 것도 아니기 때문에 필요할 때만 추론을 활용하면서 전력 소모를 최소화할 수 있도록 개발한다. 

스마트폰에서 2017년부터 NPU가 활용되기 시작했다. 시스템반도체인 응용프로세서(AP:Application Processor)에는 NPU라는 AI코어가 들어 있어서 스마트폰의 화질개선에 주로 활용됐다. 그렇지만 본격적으로 생성형AI 모델이 올라간 온디바이스AI의 본격 활용은 2024년 출시된 삼성의 갤럭시 S24가 최초이다. 갤럭시S24에 탑재된 온디바이스AI 칩은 엑시노스(Exynos) 2400과 퀄컴(Qualcomm)의 스냅드래곤8 3세대가 있다. 두 칩 모두 45TOPS(TOPS는 컴퓨팅 성능을 나타내는 단위이고, 1 TOPS는 1초에 1조개의 연산을 처리한다는 의미임) 수준의 NPU 성능을 가지고 있다. AI모델은 구글의 제미나이(Geminai), 삼성 독자 모델인 가우스(Gauss)를 사용했다. 실시간 번역, AI기반 사진 편집, 음성인식 등이 가능 해졌다.

국내 제조업 이끄는 온디바이스AI에 집중해야 

온디바이스AI는 AI연산을 클라우드 서버가 아닌 디바이스 자체(스마트폰, 가전제품, 자동차, 공장 설비등)에서 수행하므로 제조업과 밀접한 관련이 있다. 제조 설비에 적용하면 실시간으로 데이터 분석이 가능하고 고장을 사전에 예측하고 품질검사도 수행할 수 있다. 또한 생산하는 제품(셋트)의 차별화된 성능, 서비스를 높일 수 있다. 많은 응용 사례들이 있다. 자동차, 휴머노이드 로봇은 외부 서버나 클라우드에 의존하지 않고 실시간으로 상황을 판단하고 반응해야 하기 때문에 빠르게 동작 되어야 하므로 온디바이스AI는 매우 중요 하다. 그외에 스마트TV·냉장고·에어컨·로봇청소기등 에 탑재된 AI가 스스로 사용자 행동을 학습하고 반응하게 해야 하므로 필수적이다. 또한 방산 무기체계에 활용 될 수 있다.

이렇듯 많은 응용분야를 대응해야 하므로, 전세계 시장의 1% 수준인 국내 팹리스를 본격 키우는 터닝포인트가 될 수 있다. 온디바이스 AI칩·AI 모델·소프트웨어 스택을 자체 개발해야 하기 때문이다. 온디바이스AI에 탑재될 수 있는 AI모델은 사이즈가 비교적 작기 때문에 중소기업과 스타트업들도 충분히 특화된 모델을 개발할 수 있다. 메타의 라마3 같은 오픈소스 언어모델을 활용하여 특정 산업 분야에 최적화된 모델을 개발하는 방법도 가능 할 것이다. 클라우드 AI와는 다르게 디바이스내의 자원(연산, 전력, 메모리)을 최소화하면서 개발할 수 있어야 한다.

현재 한국은 세계 6위의 제조업 강국이다. 강한 국내 대기업(제조업)과 AI 팹리스, 소프트웨어기업의 생태계를 조성할 수만 있다면, 온디바이스 AI 분야에서 글로벌 시장을 선도할 수 있을 것이다. 과거에 디지털 기술이 혁신을 만들어 내어 제조업이 성장 할 수 있었던 것처럼, AI기술이 또 다른 혁신을 해 낼수 있다. 제조업이 강한 우리나라가 집중해야 할 시스템반도체는 온디바이스AI칩 이다. 시장은 아직 지배적 강자가 존재하지 않는 초기 단계이다. 국가적으로 정부, 기업, 대학이 총력을 기울인다면 제조업 경쟁에서 우위를 점할 수 있을 것이다. 지금 시기가 절호의 기회이다. 국내 기업들이 총력을 기울여야 하는 AI전환은 바로 현재의 제조업에 온디바이스AI 기술을 입히는 일이다. 

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지