[이코노미스트 김두용 기자] 글로벌 빅테크 경영진이 ‘AI(인공지능) 속도조절론’에 동의하는 분위기 속에 마이크로소프트(MS)가 인간 우선 순위에 중점을 둔 자체 AI 행동강령을 내놓으면서 눈길을 끌고 있다. 이에 반해 젠슨 황 엔비디아 최고경영자(CEO)는 ‘AI 위험성은 사기’라고 밝힌 도널드 트럼프 미국 대통령의 발언에 동의하며 상반된 행보를 보였다. 

MS는 14일(현지시간) 자사 홈페이지를 통해 "MS AI는 '인간이 AI보다 중요하다'는 단순한 전제에서 출발한다"는 내용을 담은 행동강령을 공개했다.

MS는 "이 행동강령은 인간을 최우선으로 하여 설계되고, 인간의 필요에 기반을 두며, 인간의 지침에 따라 형성된 AI 모델을 훈련하고 배포하겠다는 의지를 명시한다"고 밝혔다.

이 행동강령에 따르면 MS의 AI 모델은 ‘인간이 철저히 통제하는 AI’다. 인간의 지시에 따라 승인된 범위 내에서만 작동하고, 스스로 독립적인 목표를 설정하거나 부여된 권한 범위를 넘어서는 행동을 할 수 없는 것이다. 

자신의 추론 과정·코드 등을 조작·은폐하는 행위나, 신경망어처럼 인간이 이해할 수 없는 언어로 AI끼리 소통하는 행위도 금지된다.

MS는 또 "AI는 인간처럼 설계돼선 안 된다. AI는 의식을 갖고 있지 않고 의식을 모방하도록 설계돼서도 안 된다"고 지적했다.

그러면서 "AI 모델이 법인격 지위 획득을 추구하는 것이나, 모델이 복지를 누리거나 권리를 보유할 수 있다는 주장을 거부한다"고 덧붙였다. 

무스타파 술레이만 CEO는 행동강령을 5개월 전부터 준비해온 것으로 알려졌다. 최근의 AI 속도조절 논의를 고려해 이 시점에 지침을 발표하기로 결정했다고 밝혔다. 그는 지난해 11월 MS에서 자신이 이끄는 초지능팀을 신설했다는 사실을 알리면서 MS AI는 '인간 중심 초지능'을 지향한다고 선언했다. 

다리오 아모데이 앤트로픽 CEO를 비롯한 AI 기업 수장들이 AI 위험성을 경고하며 ‘AI 속도조절론’이 부상하는 분위기에 동조하는 의미로 MS가 이 같은 행동강령을 내세운 것으로 풀이된다.

반면 트럼프 대통령은 이날 AI 속도조절론을 사기로 몰아세웠다. 그러면서 젠슨 황 CEO와 통화에서도 AI 위험성을 ‘사기’라고 일축했다. 

블룸버그 통신에 따르면 황 CEO는 이날 LA에서 열린 '올인 서밋' 패널 토론 참석 중 트럼프 대통령의 전화를 직접 받아 스피커폰으로 연결했다. 트럼프 대통령은 통화에서 AI 개발 속도를 늦추려는 움직임은 정치적 의도나 중국의 계략에 따른 것이라고 비판했다.

그러자 황 CEO는 트럼프 대통령이 이 문제의 복잡한 본질을 꿰뚫어 보고 있다며 이에 동의했다. 이어 황 CEO는 ‘AI 위험에 대한 공포감’이 빠른 혁신과 AI 안전성 사이에서 잘못된 양자택일 구도를 만들고 있다고 지적했다. 엔비디아는 AI 생태계 구축에 앞장서고 있는 기업이라 속도조절론보다는 ‘빠른 혁신’에 무게를 두고 있다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지