[이코노미스트 우승민 기자] 미국의 AI 챗봇 서비스 '캐릭터AI'가 미성년 이용자들의 성적 대화 논란 이후, 18세 미만 사용자에 대한 자유 채팅 기능을 전면 차단하기로 했다.

29일(현지시간) 캐릭터AI는 오는 11월 25일부터 18세 미만 이용자를 대상으로 플랫폼에서 AI와 자유로운 채팅을 할 수 있는 기능을 전면 차단하고, 그 전까지는 해당 이용자들에게 채팅 가능 시간을 점차 줄여나갈 예정이라고 밝혔다.

회사 측은 또 사용자가 연령에 맞는 적절한 서비스를 제공받을 수 있도록 새로운 연령 확인 기능을 도입한다고 덧붙였다.

아울러 차세대 AI 엔터테인먼트 기능의 안전성을 확인하는 독립 비영리 기관 'AI 안전 연구소'(AI Safety Lab)를 설립해 자금을 지원할 계획이라고 밝혔다.

앞서 캐릭터AI는 지난해 미국의 한 14세 소년이 이 플랫폼에서 챗봇 캐릭터와 성적인 대화를 나누다가 극단적인 선택을 하는 사건이 발생하면서 AI 안전성 관련 논란의 중심에 섰다. 이 소년의 부모는 캐릭터AI를 상대로 소송을 제기하기도 했다.

미 연방거래위원회(FTC)는 지난달 캐릭터AI를 비롯한 알파벳, 메타, 오픈AI, 스냅 등 7개 기업에 AI 서비스가 아동·청소년에게 미칠 잠재적 영향을 파악하라는 명령을 내렸다.

미 언론은 아동·청소년을 대상으로 한 AI 서비스와 관련해 사회적인 규제 목소리가 높아지는 가운데 캐릭터AI가 미성년 이용자의 개방형 서비스 중단 결정을 내리며 규제 압박을 완화하려는 시도를 한 것으로 해석했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지