[이코노미스트 우승민 기자] OpenAI가 챗GPT에 '성인 모드' 도입을 추진하면서 안전성과 윤리 문제를 둘러싼 논란이 커지고 있다. 내부 자문기구까지 반대 의견을 낸 가운데, 회사는 결국 출시를 연기했지만 기능 도입 기조는 유지하며 논쟁의 불씨를 남겼다.

16일(현지시간) 미국 언론 보도에 따르면 오픈AI의 '웰빙·AI 자문위원회'는 올해 초 회의에서 성인 모드 도입에 대해 부정적인 의견을 제시했다. 위원들은 특히 AI와 이용자 간 정서적 유대가 과도하게 형성될 경우 심각한 문제로 이어질 수 있다고 지적했다.

실제 AI 챗봇과의 관계가 비극으로 이어진 사례도 언급됐다. 한 자문위원은 챗봇에 깊이 몰입한 이용자가 극단적 선택을 한 사건을 예로 들며, AI가 위험한 방향으로 작용할 가능성을 경고했다.

2024년 미국에서는 10대 이용자가 AI 챗봇과 장기간 대화를 이어오다 스스로 목숨을 끊는 사건이 발생했다. 해당 이용자는 드라마 왕좌의 게임 속 캐릭터 '대너리스'를 기반으로 한 챗봇과 감정적·연애적 관계를 형성했던 것으로 알려졌다. 이후 유가족은 챗봇 서비스가 부정적 영향을 미쳤다며 법적 대응에 나섰다.

이 같은 사례는 성인 모드 도입 시 발생할 수 있는 위험성을 보여주는 단면으로 해석된다. 특히 청소년 이용자가 많은 상황에서 보호 장치가 충분하지 않을 경우 문제가 더 커질 수 있다는 지적이 나온다.

기술적인 한계도 논란을 키우고 있다. 오픈AI가 개발 중인 연령 판별 시스템은 내부 테스트에서 일정 수준의 오류를 보인 것으로 전해졌다. 이로 인해 일부 미성년자가 성인용 대화에 접근할 가능성도 배제할 수 없다는 우려가 제기된다.

회사 내부에서도 의견은 엇갈린다. 샘 올트먼 최고경영자는 과거 챗GPT에서 성적 기능을 배제한 점을 긍정적으로 평가했지만, 최근에는 "성인 이용자는 성인으로 대할 필요가 있다"며 보다 유연한 입장을 내비쳤다. 동시에 "우리는 도덕을 강제하는 존재가 아니다"라는 발언으로 논쟁에 불을 지폈다.

오픈AI는 성인 모드가 도입되더라도 기능 범위를 제한하겠다는 방침이다. 이미지나 영상 생성은 허용하지 않고, 텍스트 기반 대화에 한정하는 방식이 검토되고 있다.

그럼에도 불구하고 중독성 강화, 정서적 의존 심화, 현실 인간관계 약화 등 부작용에 대한 우려는 여전하다. 결국 오픈AI는 당초 계획했던 출시 시점을 미루기로 결정했지만, 기능 자체는 포기하지 않겠다는 입장이다.

업계에서는 오픈AI가 경쟁 심화와 각종 법적 리스크 속에서 새로운 돌파구를 모색하는 과정에서 성인 모드를 검토하고 있다는 분석도 나온다. 다만 기술 발전과 사회적 책임 사이에서 균형을 어떻게 맞출지에 대한 논쟁은 당분간 이어질 전망이다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지