[이코노미스트 김기론 기자] 인공지능(AI) 음성 관련 기술이 실시간 대화와 감정 인식을 넘어 정교한 음성 조작 및 지역 사투리 구현에 이르기까지 일상과 산업, 행정 등 다양한 분야에서 급속한 발전을 이루고 있다. 사람의 목소리와 구별하기 힘들 정도로 정교해진 음성 AI 기술은 혁신적인 편의를 제공하는 동시에, 허위 정보 생산과 명예훼손 등 심각한 사회적 부작용을 낳는 양날의 검으로 떠올랐다.

26일 정보통신기술(ICT) 업계 및 외신 등에 따르면 구글은 최근 개최한 세계 최대 개발자 회의 '구글 I/O 2026'에서 업무 플랫폼 워크스페이스에 음성 AI를 탑재한 '라이브' 기능을 선보였다. 특히 '닥스 라이브'는 사용자가 머릿속에 떠오르는 생각을 말하면 AI가 알아서 문서화하는 도구다.

구글의 이번 모델은 음성과 텍스트, 영상을 한꺼번에 인식하는 '멀티모달' 방식을 채택해 사람 간의 대화와 유사한 0.5초 이내로 지연 시간을 줄였다. 음향의 뉘앙스 감지가 가능해 사용자가 말을 멈췄을 때 대화가 끝난 것인지, 생각을 정리하는 중인지까지 판단한다. 율리 권 김 구글 부사장은 "AI가 사용자의 감정, 의도, 배경까지 이해할 수 있어 노년층이나 어린아이도 키보드 조작 없이 자유롭게 문서를 만들 수 있는 혁신이 시작됐다"고 설명했다.

행정 현장에서도 이러한 지능형 음성 기술 도입이 활발하다. 부산시는 생성형 AI 모델(GPT-5.2)과 검색증강생성(RAG) 기술을 적용한 지능형 챗봇 'AI 부기뉴스' 서비스를 본격 운영한다고 밝혔다. 이 서비스는 실시간 음성 대화 기술을 바탕으로 부산 사투리 기반의 음성 대화 기능을 구현했다. 친숙한 지역 사투리로 시정 정보를 안내함으로써 시민들의 이용 편의성을 높이고 오답률을 최소화했다는 평가를 받는다.

그러나 음성 AI 기술의 고도화는 정교한 딥페이크와 허위 정보 유포라는 구조적 위험도 심화시키고 있다. 실제 서울중앙지법에서는 인공지능(AI)을 활용해 고(故) 김새론 씨의 음성을 조작하는 방식으로 허위 사실을 꾸며내 타인의 명예를 훼손한 혐의를 받는 한 유튜브 채널 대표에 대한 구속 전 피의자 심문(영장실질심사)이 진행되는 등 사법적 범죄에 악용된 사례가 나타나고 있다.

글로벌 시장조사기관 가트너에 따르면 글로벌 딥페이크 AI 시장은 2024년 5억 6천400만 달러에서 2030년 51억 달러 규모로 연평균 40% 이상 급성장할 것으로 전망된다. 특히 최근에는 사용자의 목표를 스스로 수행하는 '에이전틱 AI'와 결합해 대규모 가짜 영상·음성 증거를 제작하고 자동 유포하는 지능형 금융 사기 및 여론 조작 캠페인으로까지 진화하고 있다. 이에 따라 오는 2028년까지 기업들의 허위 정보 대응 비용은 300억 달러(약 40조 원)를 넘어설 것으로 관측된다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지