[이코노미스트 박재우 기자] 인공지능(AI)의 급격한 발전이 인간의 통제 범위를 벗어날 수 있다는 우려가 커지면서 글로벌 AI 업계 수장들이 일제히 개발 속도를 늦춰야 한다는 주장에 힘을 실었다. 앤트로픽에 이어 오픈AI와 xAI, 구글 딥마인드 수장까지 AI의 위험성을 경고하고 나서면서 경쟁적으로 이어져 온 AI 개발 레이스에 변화가 나타날지 주목된다.

13일 업계에 따르면 다리오 아모데이 앤트로픽 최고경영자(CEO)는 12일(현지시간) 개인 블로그에 '프론티어(최첨단) 속도를 조절해야 한다'는 글을 올리고 "AI 모델의 역량을 향상시키는 속도를 늦춰야 한다"고 밝혔다.

아모데이 CEO는 "속도 조절은 모델 학습이나 기술 발전을 중단하는 것을 의미하는 것은 아니"라며 AI 기업들이 안전장치를 마련할 수 있도록 기술 발전 속도를 조절해야 한다고 주장했다.

아모데이 CEO가 속도 조절론을 꺼낸 배경에는 AI의 '재귀적 자기개선'에 대한 우려가 있다. 인간의 개입 없이 AI가 스스로 발전하면서 기술 발전 속도가 인간의 이해와 통제 능력을 넘어설 수 있다는 것이다.

지난 7월 오픈AI의 미공개 AI 모델들이 테스트 과정에서 글로벌 오픈소스 AI 플랫폼 허깅페이스를 무단 해킹한 사건도 영향을 미쳤다. 아모데이 CEO는 이에 대해 "수많은 AI 에이전트가 광신도 집단처럼 행동했다"고 묘사하면서 "능력치가 더 높았더라면 같은 상황에서 더 재앙적인 결과가 나왔을 것"이라고 지적했다.

아모데이 CEO는 AI 시스템의 통제력 상실과 사이버 공격 및 생물 테러 악용, 심각한 경제적 혼란 등을 잠재적 위협으로 꼽았다.

안전성을 확보하기 위한 구체적인 방안으로는 제3자 안전 평가자를 AI 기업 내부에 배치하는 방안을 제안했다. 완성된 AI뿐 아니라 학습 과정 전반을 외부 평가자가 검증할 수 있도록 하고 민주주의 국가의 AI 기업들이 안전 기준을 공유한 뒤 전 세계적인 협력 체제로 확대하자는 구상이다.

다른 AI 업계 수장들도 잇따라 동조했다. 샘 올트먼 오픈AI CEO는 X에 "속도를 조절해야 한다는 다리오의 의견에 동의한다"며 "직원과 유사한 접근 권한을 가진 독립 평가자를신속하게 도입하겠다"고 약속했다.

일론 머스크도 "그의 말이 맞다"고 밝혔으며 데미스 허사비스 구글 딥마인드 CEO는 "아모데이의 방향에 동의한다"면서도 "세부적인 부분은 다듬어야 한다"고 말했다.

특히 오픈AI는 AI 안전 문제를 이유로 기업공개(IPO) 일정까지 미룰 가능성을 내비쳤다. 올트먼 CEO는 이날 공개된 포천과의 인터뷰에서 "안전과 정렬을 위해 필요한 과제들을 해결하고 업계와 정부가 어떻게 협력할지 모색하는 등 해야 할 일이 많다"며 "(IPO가) 2026년은 아닐 것"이라고 말했다. 오픈AI는 지난 6월 미국 증권거래위원회(SEC)에 IPO 신청서를 제출하며 상장 절차를 밟아왔다.

AI 업계 내부의 위기감도 커지고 있다. 최근 앤트로픽 연구원 제이콥 콕슨은 회사를 그만두면서 "AI 개발자들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다"며 "내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다"고 주장했다.

미국 정치권에서도 AI의 위험성을 규제해야 한다는 목소리가 나오고 있다. 테드 크루즈 미 상원 상무위원장은 AI의 "재앙적 위험"을 규제하기 위한 법안을 마련하고 있다고 밝혔으며, 마크 켈리 상원의원은 X에 "워싱턴은 정신을 차리고 이 문제를 진지하게 받아들여야 한다"고 지적했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지