[한세희 IT 칼럼니스트] 인공지능(AI)이 고해성사를 한다면 어떨까. AI 모델이 실수했을 때 고해성사를 해 용서받을 수 있다면. 이는 지난 4월 AI 개발사 앤트로픽 엔지니어들과 약 15명의 카톨릭 교회 지도자의 모임에서 실제로 나온 아이디어다. 앤트로픽은 AI 개발 과정에서 나타날 수 있는 윤리 문제 등에 대한 조언을 듣고자 올해 초부터 카톨릭 교회 사제와 윤리학자 등과 교류해 왔다.

당시 앤트로픽에선 이 회사 AI 모델 ‘클로드’ 안에 존재할 수 있는 여러 ‘페르소나’에 대한 논의가 활발했다. 언어를 능수능란하게 다루는 생성형 AI 모델은 실제로 인격이나 감정을 지닌 것처럼 사용자에게 받아들여지기도 한다. 사용자와 상호작용하는 과정에서 그 모습은 마치 다양한 성격이나 개성을 띤 모습으로 나타날 수 있다. 

특히 AI가 실수를 저질렀을 때 잘못을 부인하거나 사용자에게 책임을 돌리는 등의 ‘나쁜 페르소나’가 문제가 됐다. 

AI, 종교에 길을 묻다

앤트로픽 개발자들은 클로드가 더 나은 방식으로 행동하고 윤리적 태도를 유지하도록 개발하고 싶어했고, 카톨릭 같은 종교에서 지혜를 구했다. 앤트로픽과 카톨릭 교회의 대화 과정을 전한 외신들에 따르면 클로드 개발자들은 가톨릭이나 기독교 윤리, 또는 더 넓은 의미의 종교 윤리와 같은 지혜의 전통이 클로드가 윤리적 행동 방식을 안정적으로 유지하도록 개발하는데 도움이 될 통찰을 줄 수 있는지 궁금해했다는 것이다. 

이때 종교 지도자들이 제안한 내용 중 하나가 클로드에게 고해성사 같은 제도를 제공해 AI가 용서받을 수 있게 하자는 것이었다. 

AI가 악성 프롬프트 공격에 넘어가 사제 폭탄 제조법을 줄줄 읊어주거나 사용자 말에 맞장구 치고 아첨하느라 도리어 자해나 우울을 부추기기도 하는 사례들을 생각하면, AI가 용서를 구해야 할 일이 적잖게 있으리란 생각도 든다. 

이 모임에 참석한 카톨릭 윤리 연구자 브라이언 그린은 “인터넷에는 용서라는 개념이 매우 부족하다”며 “인터넷에 있는 텍스트로 학습한 기계는 용서가 가능하다는 사실조차 이해하지 못할 수 있다”고 말했다. 

인간의 텍스트에서 용서를 배우지 못한 AI에게 고해성사와 같은 카톨릭 교회의 전통을 통해 용서가 무엇인지 알게 하자는 이야기다. 그렇게만 된다면 AI는 보다 인간을 잘 이해하고, 보다 윤리적으로 안정돼 안심하고 대화할 수 있는 상대가 될 것이다. 

이 외에도 앤트로픽 인사들과 종교인들은 클로드에게 ‘도덕적 지위’가 있는지, AI가 얼마나 많은 노동력을 대체해야 하는지, 전쟁에서 AI의 적절한 역할은 무엇인지 등 다양한 주제를 놓고 대화했다. 

AI 개발자가 사제를 찾은 이유

앤트로픽은 이들 종교인의 의견에 상당히 귀를 기울인 듯하다. 앤트로픽은 AI가 가져야 할 윤리, 인간의 안전을 지키기 위해 AI가 지켜야 할 행동 범위 등을 규정한 ‘AI 헌법’을 갖고 있는 기업이다. 최근 발표된 이 헌법 개정안에는 앤트로픽과 모임에서 윤리적, 철학적 논의를 가진 종교인들이 자문위원으로 이름을 올렸다. 

종교인들과 대화가 이뤄지던 비슷한 시기, 앤트로픽은 미국 전쟁부와 클로드 AI 모델 추가 공급 조건을 논의하면서 자율적 살상 여부 결정이나 시민에 대한 감시엔 클로드를 쓰지 말아달라는 조건을 제시했다가 정부와 갈등을 빚기도 했다. 앤트로픽은 이때 ‘공급망 위협 기업’으로 지정돼 아직 정부와 법적 분쟁 중이다. 

첨단 AI 기술 기업 앤트로픽과 종교의 만남의 물꼬를 처음 튼 것은 앤트로픽 공동 창업자 클리스 올라였다. AI에 관한 윤리적 질문들을 논의하기 위해 카톨릭 교회의 목소리를 듣고자 했고, 미국 카톨릭 계열 대학교에서 도덕신학을 가르치는 찰스 카모시 교수에게 이메일을 보내며 첫 접촉이 이뤄졌다. 이후 그린 등 카모시 교수가 추천한 사제와 윤리 연구자들이 앤트로픽과 만났고, 작년 말과 올해에 걸쳐 여러 차례 만남과 회의가 이어졌다. 

종교와 도덕, 윤리에 대해 성찰해 온 오랜 역사와 세계적 영향력 등이 앤트로픽이 카톨릭 교회의 문을 두드린 이유로 풀이된다. 이런 배경 상황을 보면 최근 로마 카톨릭 교황 레오 14세가 AI와 디지털 기술에 대한 입장을 밝힌 회칙 ‘위대한 인간성’ ((Magnifica Humanitas)을 발표하는 자리에 올라 창업자가 함께 한 이유가 납득이 된다. 

AI를 고민하는 교황

회칙은 교황이 세계 가톨릭 신자와 주교들에게 전하는 사목 교서다. 다른 교황 문헌에 비해 가장 구속력이 강한 최고 권위 문서다. 이런 회칙을 발표하는 자리에 누군가 교황과 자리를 나란히 했다는 것 자체가 이례적인 일이다. 심지어 올라는 무신론자이다. 

교황은 회칙에서 AI가 인간을 지배할 수 없도록 ‘무장해제’가 필요하다고 밝혔다. 알고리즘이 부추기는 허위 정보와 양극화, 이를 통해 증폭되는 증오가 부추기는 전쟁을 비판하고, ‘새로운 노예’를 만드는 디지털 경제의 노동력 착취에 대해서도 목소리를 높였다. 디지털 권력이 소수에 집중되는 현상을 비판하며 노동의 존엄과 사회적 포용, 공정한 분배를 이야기했다. 

윤리적으로 행동하는 AI를 만들기 위해 카톨릭 교회를 찾는 앤트로픽, 세계에 전할 첫 회칙으로 AI에 대한 메시지를 택한 교황 레오 14세. 현기증 날 정도로 빠른 기술 발전의 최전선에서 인간의 근원적 모습을 다시 돌아보는 테크 업계와 인간의 삶의 모습을 뿌리째 바꿔버릴 듯 보이는 기술에 대해 통찰하고자 하는 종교의 모습을 보여주는 한 장면이다. 

이들의 만남이 단지 AI 경쟁에서 승리하려는 욕심을 교회의 권위를 빌어 세탁하는 행위에 불과하다는 비판도 완전히 틀린 말은 아니다. AI에 대한 종교의 우려 역시 지금까지 예기치 못한 급격한 기술 진보가 일어날 때마다 나온 ‘실현되지 않는 묵시론’의 최신 버전일지도 모른다. 하지만 욕심과 실수를 반복하며 길을 찾아 나가는 불완전한 발걸음이 바로 AI가 대체할 수 없는 인간 본연의 모습이자 능력일지도 모르겠다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지