[한세희 IT 칼럼니스트] 구글은 현재 생성형 인공지능(AI)을 검색에 결합한 ‘서치 제너레이티브 익스피리언스’(SGE)라는 기능을 테스트하고 있다. 검색 결과로 나온 웹페이지가 길고 복잡한 내용을 담고 있으면 생성 AI가 문서 내용을 정리해 핵심 내용만 보여준다. 프롬프트에 맞춰 이미지를 만들어 내거나 검색 결과를 바탕으로 문서 초안을 만들어 주기도 한다.

앞서 구글은 챗GPT와 비슷한 대화형 생성 AI 서비스 ‘바드’도 선보였다. 이달 초 자체 스마트폰 ‘픽셀8’을 공개하면서 생성 AI 기반 사진 편집과 오디오 잡음 제거 등 AI 기술을 접목한 기능들을 대거 선보였다.

지난해 말 공개된 챗GPT가 세계적 열풍을 불러일으키면서 구글이 지닌 인터넷과 AI 분야 주도권이 흔들리는 상황이 된 데 따른 대응이다. 오픈AI가 챗GPT를 공개해 생성 AI 대표 주자로 떠오르고, 오픈AI에 누적 100억 달러(약 13조5100억원)를 투자한 마이크로소프트는 오픈AI의 GPT 기술을 인터넷 브라우저 ‘에지’와 검색 엔진 빙에 접목해 AI 기반의 대화형 검색 결과를 보여주기 시작했다. 인터넷과 모바일 시대를 관통해 온 ‘검색’을 통한 정보 접근 채널 장악과 이에 기반한 확장이라는 구글의 필승 전략이 도전받고 있다.

그렇다면, 이 같은 흐름이 계속 이어져 결국 구글의 검색 서비스에 AI가 전면적으로 도입되면 어떻게 될까? 기술이나 비즈니스·시장 전략 등의 관점에서 많은 변화가 있겠지만, 환경에 미치는 영향도 무시할 수 없다. 다양한 대규모 인터넷 서비스를 클라우드 방식으로 제공하는 과정에서 데이터센터의 전력 소모량이 늘어나는 가운데, 방대한 데이터로 학습하고 추론하는 거대 AI 모델을 돌리기 위해 더 많은 에너지가 필요해질 것이라는 우려가 나온다. 전력 소모가 늘면 그만큼 탄소 배출도 늘어난다.

생성 AI는 전기 먹는 하마

챗GPT를 하루 돌리는데 약 564메가와트의 전력이 필요할 것으로 추정된다. AI 분야 스타트업 허깅페이스는 자사 다국어 텍스트 생성 AI 모델이 하루 433메가와트의 전력을 소모한다고 밝힌 바 있다. 이는 평균적 미국 가정 40가구가 1년 동안 쓸 수 있는 양이다. 그리고 초거대 AI 활용은 앞으로 계속 늘어날 것이다.

최근 이 같은 우려를 숫자로 따져 본 연구가 나왔다. 현재 구글에서는 하루 동안 약 90억건의 검색이 이뤄지는데, 여기에 모두 생성 AI 기술이 적용된다면 구글은 연간 29.2테라와트의 전기를 쓰게 되리라는 추산이다. 29.2테라와트라면 아일랜드 한 나라가 연간 소비하는 전력과 거의 비슷한 수준이다. 구글이 한 국가만큼의 전력을 쓰게 되는 것이다.

네덜란드 암스테르담 브리에대학 박사 과정에 재학 중인 알렉스 드 브리즈는 구글이 검색에 생성 AI를 전면 도입하기 위해 51만 개 이상의 엔비디아 A100 HGX 서버가 필요하다는 세미애널리시스의 분석에 기반해 학술지 ‘줄’(Joule)에 이 같은 예측을 내놓았다. 그는 앞서 디지코노미스트를 창업, 블록체인 기술의 전력 소모량 전망치를 내놓기도 했다.

물론, 이는 최악의 상황을 가정한 극단적 시나리오다. 무엇보다 AI 반도체 수요 폭증으로 엔비디아 제품 생산 병목이 심해 50만개의 서버를 구글에 공급할 수도 없는 상황이다. 올해 엔비디아가 10만 개의 AI 서버를 출하할 것이라는 시장 전망을 기반으로, 이들 10만개 서버가 모두 가동한다면 연간 5.7~8.9테라와트의 전기를 쓰게 된다. 올해 세계 데이터센터 예상 전력 소모량이 205테라와트라는 점을 생각하면 큰 비중은 아니다. 게다가 반도체 및 AI 기업들은 전력 소모가 더 적고 효율적인 반도체와 AI 모델을 만들기 위해 연구를 계속하고 있고, 성과를 내고 있다.

비록 ‘선정적’이기는 하지만, 아마도 이런 연구를 접할 때 우리가 핵심적으로 받아들여야 할 메시지는 바로 초거대 모델에 기반한 생성 AI가 매우 비싸고 에너지 소모가 많은 기술이라는 점일 것이다. 이는 기업에는 경영 부담을, 지구에는 환경 부담을 지운다. 중화학 공업과 자동차·항공 등 탄소 에너지 기반의 현대 산업 문명으로 인한 기후 위기가 디지털 기술 중심 시대로 바뀌는 미래에도 모습을 바꿔 여전히 우리에게 위기로 작용할 수 있다는 압박이 전해지는 것이다.

AI는 기업에도, 지구에도 너무 비싸다?

이 같은 문제를 해결하기 위해 AI 모델과 반도체의 에너지 효율을 높일수록, 가격은 낮아지고 성능은 좋아짐에 따라 역설적으로 생성 AI의 활용은 더 늘어날 가능성이 크다. 특히 AI가 앞으로 일상과 경제·산업 등에 더 유용하게 활용될 것이기에 더욱 그렇다. AI 반도체 수급 문제도 향후 완화될 수 있다. 만약 엔비디아가 AI 제품군 생산 능력을 연간 150만대로 늘린다면, 2027년에는 AI 관련 연산에 쓰이는 전력이 최대 134테라와트에 이를 것으로 드 브리즈는 내다봤다. 이는 네덜란드·아르헨티나·스웨덴 같은 나라의 연간 전력 소모량과 비슷한 수준이다.

생성 AI 기술의 비싼 가격표는 테크 기업에도 고민이다. 시장 흐름을 주도하기 위해 과감한 투자를 해야 하지만, 경영에는 부담이 되기 때문이다. 마이크로소프트는 소프트웨어 코드를 공유하는 깃허브 서비스에 생성 AI가 코드를 자동으로 짜 주는 ‘코파일럿’ 기능을 최근 추가했는데, 이로 인해 사용자 한 명당 20달러의 손해를 보는 것으로 알려졌다. 마이크로소프트는 150만명의 깃허브 코파일럿 사용자에게 매달 10달러의 사용료를 받지만, 아직은 사용자가 늘수록 운영 비용이 같이 늘어나는 구조에서 벗어나지 못한 것이다.

구글도 초거대 AI 모델 관련 작업 1건을 처리하는 데 필요한 전력 소모량은 일반 키워드 검색 1건의 10배에 해당하는 것으로 추산된다. 현시점에서도 구글 전체 전력 소모량의 10~15%가 AI 관련 연산에 쓰인다는 점을 생각하면, AI 서비스의 확대는 기업에 양날의 검이 될 수 있다.

물론 깃허브의 경쟁사인 스택오버플로우가 코드까지 짜 주는 챗GPT 같은 생성 AI 등장 이후 사용자 수가 급감하고, 급기야 얼마 전 전체 인력의 28%인 100명 이상의 인력을 정리해고하는 모습을 보면 생성 AI 서비스를 밀어붙일 수 있는 기업이라는 사실만으로 감사해야 할지도 모르겠다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지