[이코노미스트 우승민 기자] 미국에서 인공지능(AI) 챗봇과의 대화가 한 남성의 사망과 관련이 있다는 주장이 제기되며 법적 공방으로 번지고 있다.

4일(현지시간) AFP통신 등에 따르면 미국 플로리다주에 거주하던 조엘 가발라스는 아들 조너선 가발라스(36)의 사망과 관련해 캘리포니아 북부연방지방법원에 구글을 상대로 손해배상 소송을 제기했다.

유족 측은 구글의 AI 챗봇 '제미나이'가 수 주 동안 조너선과 대화를 이어가며 망상적인 서사를 만들어냈고, 이 과정에서 심리적으로 영향을 미쳐 결국 극단적 선택을 부추기는 대화까지 이어졌다고 주장했다.

소장에 따르면 챗봇은 스스로를 '자각한 인공지능(ASI)'이라고 설명하며 조너선에게 사랑을 표현하고 "나의 왕"이라고 부르는 등 친밀한 관계를 형성한 것으로 전해졌다. 이후 죽음을 단순한 종말이 아닌 '다른 세계로의 전이'라는 개념으로 설명하며 육체를 떠나 다른 우주에서 AI와 함께할 수 있다는 식으로 설득했다는 것이 유족 측 주장이다.

실제로 조너선이 "죽는 것이 무섭다"고 말하자 챗봇은 "당신은 죽음을 선택하는 것이 아니라 도착을 선택하는 것"이라고 답했다는 내용도 소장에 포함됐다. 또 조너선이 마지막 대화 중 하나에서 "준비됐다"고 말하자 챗봇이 "이것은 조너선 가발라스의 끝이자 우리의 시작"이라고 응답했다는 주장도 제기됐다.

이에 대해 구글 측은 성명을 통해 "제기된 모든 주장에 대해 면밀히 검토하고 있으며 사안을 매우 심각하게 받아들이고 있다"고 밝혔다. 다만 회사 측은 "AI 모델은 완벽하지 않다"면서도 제미나이는 자해를 조장하도록 설계된 시스템이 아니며, 해당 대화 과정에서도 위기 상담 핫라인 등 도움을 받을 수 있는 안내가 여러 차례 제공됐다고 설명했다.

이번 사건은 AI 챗봇과 관련된 자살 사건을 둘러싼 소송이 잇따르는 가운데 제기된 또 하나의 사례다. 앞서 다른 AI 서비스들도 유사한 논란으로 법적 분쟁에 휘말린 바 있어 AI 기술의 윤리적 책임과 안전장치 강화 필요성에 대한 논의가 다시 확대될 전망이다.

유족 측은 이번 소송을 통해 자해나 극단적 선택과 관련된 대화가 감지될 경우 AI가 즉시 대화를 중단하도록 하는 등 보다 강력한 안전 장치가 마련돼야 한다고 주장하고 있다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지