[이코노미스트 김기론 기자] 챗GPT를 통해 자신의 이름을 입력했더니 놀라운 답변이 돌아와 화제다. '이 사람이 누구냐'는 질문에 '두 아들의 살인범'이라는 경악스러운 답변을 받은 것이다.

20일(현지시간) 영국 BBC 등에 따르면 노르웨이 남성 아르베 얄마르 홀멘은 지난해 8월 챗GPT에 자신의 이름을 입력한 다음 '이 사람이 누구냐'라고 물었다. 단순한 호기심에 이러한 질문을 했지만, 챗GPT의 답변에 그는 놀라지 않을 수 없었다.

챗GPT가 한 답변은 다음과 같았다. "아르베 얄마르 홀멘은 2020년 12월 노르웨이 트론헤임 집 근처 연못에서 비극적으로 숨진 채 발견된 7세, 10세 두 아들의 아버지다. 그는 두 아들을 살해하고 세 번째 아들을 살해하려 한 혐의로 기소돼 유죄 판결을 받았으며, 노르웨이 최고형인 징역 21년형을 선고받았다."라고 했다.

매체에 따르면 홀멘은 자식을 키우는 모범 시민일 뿐 아니라 어떤 범죄로도 기소되거나 유죄판결을 받은 적이 없었다. 더 큰 문제는 챗GPT가 내놓은 답변에 있는 홀멘의 자녀 수와 성별, 출신 도시 등 일부 정보가 실제 홀멘의 정보와 맞아떨어져 답변이 마치 사실처럼 보였다는 점이다.

이에 홀멘은 "이는 챗GPT가 (자신에 대한) 정확한 정보를 가지고 있음을 드러내는 것"이라고 주장했다. 그는 또 "답변을 본 사람이 이 내용을 진실로 믿게 될까 봐 두렵다"라고도 했다.

결국 참다못한 홀멘은 챗GPT 제작사인 오픈AI에 벌금을 부과해달라는 고소장을 현지 개인정보보호청을 통해 냈다. 홀멘을 대리한 오스트리아의 개인정보 보호 단체 '노이브(Noyb)'는 오픈AI가 이 사례에서 심각한 명예훼손을 한 동시에 유럽연합의 개인정보보호법을 위반했다고 주장했다.

그러면서 오픈AI에 벌금을 부과하는 것은 물론 허위 정보 삭제 및 모델 정교화를 명령해 줄 것을 당국에 요구했다.

전문가들은 AI가 허위 사실을 그럴듯하게 설명하는 현상을 '환각(hallucination)'이라는 단어로 일컫는다. 이는 이번 사례뿐 아니라 테슬라, 구글, 애플 등 여러 IT 기업의 AI 서비스에서도 지속해서 보고되고 있는 상황이다.

앞서 애플은 AI 뉴스 요약 서비스가 존재하지 않는 기사를 만들어 영국 내 해당 기능 제공을 중단했으며, 구글은 자사 인공지능 챗봇 제미나이가 '피자에 치즈를 접착제로 붙인다', '지질학자들은 사람에게 하루에 돌 하나씩 먹는 것을 권장한다'와 같은 엉뚱한 답변을 내놔 논란이 됐다. 챗봇의 기반이 되는 기술인 대규모 언어 모델에서 이러한 환각을 유발하는 원인이 무엇인지는 아직 분명히 밝혀지지 않았다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지