[이코노미스트 김기론·김영서 기자] 인공지능(AI)을 활용해 사실을 왜곡하거나 여론을 선동하는 이른바 ‘AI 가짜 뉴스’가 정치·외교 현안은 물론 일상 영역까지 빠르게 확산되며 온라인 정보 신뢰를 흔들고 있다는 우려가 커지고 있다. 텍스트를 넘어 사진과 영상까지 조작 대상이 되면서, 사건 초기 형성되는 여론 자체가 왜곡될 수 있다는 지적이다.

5일(현지시간) 미국 뉴욕타임스(NYT)는 니콜라스 마두로 베네수엘라 대통령 체포 작전 이후 온라인에 유포된 이미지들을 자체 분석한 결과 “현재 퍼진 사진 대부분은 신뢰할 수 없다”고 평가했다. 무장한 미군이 마두로 대통령의 양팔을 붙잡고 이동하는 사진이나 구금시설에서 촬영된 것처럼 보이는 이미지 등이 대표적이다. NYT는 사진 화질이 지나치게 낮고 기울어져 있으며, 체포 당시 운동복 차림으로 알려진 정황과 달리 양복을 입고 있다는 점 등을 근거로 신빙성이 떨어진다고 분석했다.

이번 사건은 국제적으로 중대한 사안의 초기 국면에서 AI 생성 이미지가 대규모로 활용된 첫 사례로 기록될 가능성이 크다는 평가다. 정보가 충분히 확인되지 않은 상황에서 조작 이미지가 사회관계망서비스(SNS)를 통해 급속히 확산되며 여론 형성에 영향을 미쳤기 때문이다. 실제로 온라인 정보 신뢰도를 추적하는 뉴스가드에 따르면 마두로 대통령 체포와 관련된 조작 이미지와 허위 영상은 이틀도 안 돼 수천만 회에 가까운 조회수를 기록했다.

AI 조작 이미지는 국내에서도 잇따르고 있다. 최근 SNS에는 서울 도심 한강 위로 미군 항공모함이 항해하는 사진이 퍼지며 “언론이 숨기고 있다”는 주장까지 덧붙여졌지만, 해당 이미지는 물리적으로 성립하기 어려운 장면으로 AI 생성물로 의심된다. 항공모함이 한강을 항해할 수 있는 수로 조건이나 관리 이력이 없다는 점에서 실제 촬영물일 가능성은 낮다는 지적이다.

일상 영역에서도 부작용이 나타나고 있다. 영국에서는 AI 편집 기능으로 음식 사진에 가짜 곰팡이나 벌레를 합성해 배달 앱 환불을 요구하는 신종 사기 수법이 확산되고 있으며, 국내에서는 러브버그 확산 문제를 둘러싸고 동물권 운동가의 발언을 왜곡한 가짜 인터뷰 이미지가 퍼지기도 했다. 해당 이미지는 이후 AFP 팩트체크를 통해 AI로 만든 허위 콘텐츠로 확인됐다.

전문가들은 AI 기술 발전 속도에 비해 이미지·영상의 진위를 가려낼 사회적 장치와 이용자 인식은 여전히 부족하다고 지적한다. 플랫폼의 검증 책임 강화와 함께 이용자들의 비판적 정보 소비 역량을 높이지 않으면 ‘사진과 영상마저 의심해야 하는 불신의 시대’가 고착화될 수 있다는 우려가 나온다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지