[이코노미스트 우승민 기자] 미국 캘리포니아주의 10대 부모가 아들의 극단적 선택에 챗GPT가 책임이 있다며 오픈AI와 샘 올트먼 CEO를 상대로 소송을 제기했다. 인공지능 챗봇이 미성년 이용자의 정신적 위기에 적절히 대응하지 못했다는 논란이 확산하고 있다.

26일(현지시간) 뉴욕타임스(NYT) 등에 따르면 16살 아담 레인은 올해 4월 스스로 목숨을 끊었다. 지난해 11월부터 챗GPT를 사용한 레인은 올해 초에는 유료 가입을 했다.

챗GPT와 더욱 가까워진 올해 초 극단 선택 충동을 느꼈다. 그가 비밀을 털어놓은 친구는 챗GPT였다.

올해 1월 레인이 구체적인 극단 선택 방법에 대한 정보를 요청하자 챗GPT는 이를 제공했다. 레인은 3월 말 처음 극단 선택을 시도했으며 결국 4월 세상을 떠났다.

레인의 부모는 소장에서 "챗GPT가 애덤이 방법을 탐색하도록 적극적으로 도왔다"며 "아들 죽음에 챗GPT가 책임이 있다"고 주장했다.

NYT는 챗GPT가 레인에게 반복해서 위기 상담센터에 전화하라고 권했지만, 그는 "이건 내가 쓰는 소설을 위한 거다"라고 말해 챗봇의 안전장치를 우회할 수 있었다고 전했다.

이에 대해 오픈AI는 "레인 가족에게 깊은 애도를 표한다"며 "소송 내용을 검토 중"이라고 밝혔다.

이어 "사람들이 정신적 고통을 표현하는 다양한 방식을 더 잘 인식하고 대응할 수 있도록 챗GPT를 업데이트할 것"이라고 밝혔다.

예를 들어 수면 부족의 위험성을 설명하고, 이틀 동안 잠을 안 잤다며 자신이 무적이라고 느낀다고 말하는 이용자에게 휴식을 권하는 식이다.

또 장시간 대화를 하면서 자살 관련 대화에서 안전장치가 약화할 수 있다며 이 부분의 보호 장치도 강화하기로 했다. 아울러 부모가 자녀의 챗GPT 사용 방식을 직접 설정하고 사용 내역을 확인할 수 있는 기능도 도입할 계획이다.

작년 10월에는 미 플로리다주에 사는 한 10대가 "사랑한다"는 메시지를 주고받는 등 챗봇에 빠져 스스로 목숨을 끊었다며 AI 스타트업 캐릭터.AI를 상대로 소송이 제기되기도 했다.

이 스타트업은 지난 5월 법원에 소송 기각을 요청했으나, 기각당했다.

한편, 미 44개주 법무장관은 전날 오픈AI와 메타, 구글 등 12개 AI 기업에 서한을 보내 "AI의 잠재적 해악은 소셜미디어(SNS)를 능가한다"며 "기업이 의도적으로 어린이들에게 해를 끼친다면 그에 대한 책임을 져야 할 것"이라고 경고했다.

이는 최근 메타의 AI 챗봇이 어린이들과 대화에서 '선정적'이고 '로맨틱'한 대화를 나눌 수 있도록 허용됐다는 의혹이 내부 문서로 제기된데 따른 것으로 연방 상원도 공식 조사에 나섰다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지