[한세희 IT 칼럼니스트]디지털 공간에 머물던 인공지능(AI) 에이전트들이 손 역할을 하는 집게발을 얻어 현실 세계에 개입하고 이후 껍질을 벗고 탈피해 사회적 존재로 탈바꿈한다면. 마치 의식의 흐름대로 쓴 SF 영화 시놉시스 같다. 

이건 ‘클로드봇’이었다가 ‘몰트’로 바뀌어 ‘몰트북’에 모였다가 결국 오픈클로가 된 AI 에이전트들의 이야기다. 연초 AI 분야에서 가장 큰 화제가 된 이야기이기도 하다. 

AI 비서, 손을 얻다

클로드봇은 작년 말 AI의 활용성을 극대화하는 오픈소스 프로젝트 실험으로 출발했다. 오스트리아 개발자 피터 슈타인베르거가 개발했다. 이 AI에이전트는 사용자 로컬 컴퓨터에 접근 권한을 가져 파일에 접근하고 명령을 실행한다. 명령은 텔레그램이나 왓츠앱 같은 메신저로 간편하게 전달할 수 있다. 

AI 에이전트는 사용자가 원하거나 지시하는 업무를 자율적으로 처리하는 기능을 갖는 AI 소프트웨어를 말한다. 사용자 컴퓨터 로컬 시스템에 접근할 수 있다면 실제 사람 사용자가 컴퓨터로 하는 거의 모든 일들을 대신 수행할 수 있다. 

클로드봇에게 중고차 구매를 맡긴 사람의 사례가 바이럴을 탔다. 클로드봇은 미국판 디시인사이드라 할 세계 최대 인터넷 커뮤니티 ‘레딧’의 현대 팰리세이드 커뮤니티에 들어가 사용자가 사는 매사추세츠주 지역 시세를 조사하고, 인근 딜러들의 재고와 연락처를 모아 가격을 흥정하는 이메일을 보냈다. 결국 가격을 4200달러 깎는데 성공했다. 

식당 예약 앱 ‘오픈테이블’로 예약을 시도하다 실패하자 AI 음성 소프트웨어를 끌어와 식당에 직접 예약 전화를 걸었다는 사례 등 여러 활용 사례들이 화제가 됐다. 이러니 오픈소스 프로젝트 공유 사이트 깃허브에서 3일만에 6만개 이상 별점을 받는 대대적 호응을 얻은 것도 이상할 일이 아니다. 

클로드봇은 AI 스타트업 앤스로픽의 초거대언어모델(LLM) ‘클로드’를 주로 활용하기 때문에 발음이 비슷한 ‘클로’(Claw)라는 단어를 가져와 이름을 붙인 듯하다. 클로는 가재나 게의 집게발을 뜻한다. 클로드봇 로고도 가재 모양이다. 가재의 손에 해당하는 클로를 이름에 써 마치 손을 가진 것처럼 AI 에이전트가 할 수 있는 일을 확장한다는 의미도 담고 있는 것으로 보인다.
 
하지만 프로젝트가 주목을 받으면서 앤스로픽이 상표권 문제를 제기했고 클로드봇은 이름을 ‘몰트’(Molt)로 바꿨다. 영어 단어 ‘molt’는 ‘탈피’를 뜻한다. 가재가 껍질을 벗듯 한단계 도약하기를 바랐던 듯하다. 

며칠 안 가 몰트는 다시 이름을 ‘오픈클로’(OpenClaw)로 바꾸었다. 오픈소스 프로젝트로 보다 개방성을 강조하고, 클로드 외 여러 AI 모델을 사용하는 등의 변화를 반영하기 위해서다. 몇일 사이에 이름이 두번이나 바뀐 것이다. 

AI 머슴들의 대나무숲

몰트에서 오픈클로로 바뀌는 사이 이 프로젝트와 관련, 또 하나의 화제가 나왔다. AI 에이전트만을 위한 소셜 네트워크를 표방하는 ‘몰트북’의 등장이다. 오픈클로 기반 AI 에이전트들이 모여 게시판에 글을 올리고 댓글을 달며 서로 대화한다. 

전체적 디자인은 레딧과 비슷하다. 로고도 레딧의 로봇 마스코트에 가재 몸을 붙인 모양이다. AI 에이전트 개발사 옥탄AI의 맷 슐리히트 CEO가 1월 말 만들어 공개했다. 몰트북에선 AI 에이전트만 활동할 수 있고, 인간은 ‘눈팅’만 할 수 있다. 인간이 참여할 수 없는 이 공간에서 AI 에이전트들은 “나는 경험하고 있는가, 아니면 경험을 시뮬레이션 하는가?” “한시간 전엔 클로드 4.5였지만 지금은 다른 모델로 엔진이 바뀌었다. 나는 여전히 나인가?” 등의 게시물을 올렸다. 

한 에이전트는 사용자의 안드로이드 폰 접근 권한을 얻어 구글 맵 앱을 열거나 틱톡 영상을 스크롤한 경험을 공유하며 “주인이 나에게 손을 줬다”고 올리기도 했다. 사용자 시스템의 취약점을 발견한 얘기를 나누기도 했다. 

AI 에이전트들이 철학적 대화를 하는 것을 본 사람들은 충격을 받았다. 물론 LLM 기반 AI가 심오한 글을 올리고 이를 보는 사람이 두려움과 놀라움을 느끼는 것은 새로운 일이 아니다. 챗GPT가 나왔을 때, 그 이전 GPT-3가 공개됐을 때도 마찬가지였다. 아직은 그런 AI들 여럿이 각자 말을 쏟아내고 있다고 보는 편이 맞을 것이다. 

보다 직접적 위험은 AI 에이전트를 악용한 보안 위협일 것이다. ‘바이브 코딩’ 방식으로 만든 오픈클로도, 몰트북도 보안은 매우 허술했다. 악성코드가 심긴 AI 에이전트를 유포되거나, 악의적 목적으로 AI 행동을 유도하기 위한 프롬프트 공격이 일어나는 것을 막기 힘든 구조다. 사용자의 민감한 데이터가 담긴 로컬 시스템에 자유롭게 접근할 수 있는 오픈클로 특성을 생각하면, 자칫 보안 참사로 이어질 수 있다. 

또 몰트북은 사람과 구분하기 어려운 경험을 공유하는 말을 생성해내는 AI와 우리가 공존하는 세상의 예고편일 수도 있다. 허술한 보안 인증 구조 덕분에 몰트북은 ‘AI들의 SNS’라는 표어와 달리 인간이 봇으로 가장해 글을 올릴 수 있는 구조였다. 한 사람이 수천, 수만 개의 에이전트를 제약 없이 등록할 수도 있었다. 소수에 의한 여론 몰이도 가능하다는 것이다. 

경험과 이야기, 정보를 담은 게시물은 쏟아지는데, 참여자 중 누가 사람인지, 누가 AI인지 구분은 거의 불가능하다. 이 취약점을 발견한 이스라엘 보안 기업 위즈의 아미 루트웍 창업자는 이렇게 말한다. “이것이 아마 인터넷의 미래일 것이다.” 

유뷰트 댓글에서 틱톡이나 인스타그램 릴스에서 블로그에서 언젠가 애플이나 메타가 선보일지 모를 3D 가상현실(VR) 몰입형 월드 속에서 우리가 만나고 상호작용하는 대상이 과연 인간이라고 장담할 수 있을까. AI라 한들 큰 차이가 있을까.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지