'딥페이크' 검색결과

"연예인 딥페이크로 1억4000만원 꿀꺽"...30대 중국인 구속

여성 연예인들의 딥페이크 및 아동청소년 성착취물 영상 등을 유포한 중국인 남성이 경찰에 붙잡혔다.8일 업계에 따르면 서울경찰청 '딥페이크 등 허위영상물 집중 대응 TF(태스크포스)'가 청소년성보호법과 성폭력처벌법 위반 등의 혐의로 불법 성영상물 유포 사이트 운영자 30대 중국인 A씨를 구속한 것으로 알려졌다.경찰 조사에 따르면 A씨는 2023년 6월부터 지난달까지 불법

2024-10-08

‘딥페이크 범죄’ 취약한 韓…‘외설 이미지 합성’ 스노우, 반쪽 대응 [정두용의 인사이트]

이데일리TV 생방송 코너 ‘이데일리 인사이트’에서 다룬 내용을 다시 글로 풀어 전달합니다. 경제·산업계 소식에 인사이트 한 스푼을 얹을 수 있도록 노력하겠습니다. 다양한 관점에서 사안을 다룹니다. Q. ‘딥페이크 성 착취물’에 대한 피해가 확산하면서 최근 세간에서 큰 문제로 떠오르고 있는데요. 인공지능(AI) 기술이 발전하면서 편의성 증대와 같은

2024-10-03

EU ‘AI법 준수 협약’에 애플·메타 불참…삼성 등 115개 기업 참여

유럽연합(EU) 집행위원회가 25일(현지시간) 공식 발표한 ‘AI 협약’(AI Pact)에 115개 글로벌 기업이 참여한 가운데 애플과 메타는 이름을 올리지 않은 것으로 나타났다. 인공지능(AI)법 준수를 위한 자발적 준수 협약에 불참한 것이다. 메타 대변인은 전날 블룸버그 통신에 보낸 이메일을 통해 추후 AI 협약에 동참할 수 있다면서도 “현재로서는 AI법 시행전 규정을 준수하기

2024-09-25

‘딥페이크 공포’ 확산…‘외설 이미지 합성’ 스노우, AI엔 손도 못 대

‘딥페이크 성착취물’(인공지능 기반 이미지 편집 기술을 이용해 음란물에 다른 얼굴을 합성하는 식으로 제작·유포되는 영상·사진 등) 피해자에 한국인이 유독 많다는 충격적인 조사 결과가 나왔다. 미국의 사이버보안 업체 ‘시큐리티 히어로’가 발표한 ‘2023 딥페이크 현황’ 보고서에 따르면 세계에 유포된 딥페이크 성착취물에 피해를 본 이

2024-09-20

아동 성착취물 제작·유포자 4000명 검거했지만…구속률 고작 6%

지난 3년 7개월간 아동 성착취물 제작·유포 등 혐의로 경찰에 붙잡힌 인원이 4000여명에 달하는 것으로 나타났다.17일 더불어민주당 황정아 의원이 경찰청으로부터 받은 자료에 따르면 2021년부터 올해 7월까지 아동·청소년 성착취물의 제작과 배포 등을 금지한 청소년성보호법 11조 위반 혐의로 경찰에 적발된 건수는 모두 4763건이었다.연도별로는 2021년 1747건, 2022년과

2024-09-17

‘AI 제작 콘텐츠’ 식별 中 먼저 치고 나왔다…표시 의무화 규정 초안 발표

중국이 인공지능(AI)으로 제작된 콘텐츠에 이를 식별하는 표시를 의무화하는 규정 초안을 발표했다고 홍콩 사우스차이나모닝포스트(SCMP)가 15일 보도했다. 이 규정을 만들기 위해 중국 당국은 한 달간 의견 수렴에 들어간 것으로 알려졌다. 보도에 따르면 해당 초안은 AI로 만들어진 콘텐츠의 제작, 전시, 배포 기간에 ‘AI로 제작’한 사실을 분명히 밝혀야 한다고 규정한다.

2024-09-15

네이버 자회사 ‘기술 미비’…옷 벗기고 가슴 움켜쥐게 한 스노우 AI, 원인은?

헤어스타일을 바꿔 달라고 했더니 옷을 벗겼다. 배경을 편집해달라고 했더니 양손으로 가슴을 움켜쥐게 했다. 사용자들은 ‘성적 불쾌감’을 느꼈다. 돈을 내고 서비스를 이용한 고객이 한순간 회사의 ‘기술적 폭력’에 노출된 피해자가 됐다.9일 본지 취재를 종합하면 네이버 자회사 스노우가 운영하는 카메라 애플리케이션(앱)에서 연달아 인공지능(AI) 편집 과정

2024-09-09

프라이버시 포기보단 범죄 감내…텔레그램 창업자 체포와 ‘뉴 노멀’ [한세희 테크&라이프]

텔레그램 창업자 파벨 두로프가 최근 프랑스 파리에서 경찰에 체포됐다. 그는 텔레그램에서 이뤄지는 아동 성착취물 같은 불법 콘텐츠 공유와 거래를 방치 내지 공모한 혐의 등으로 조사받고 있다.텔레그램은 흔히 보안이 철저한 메신저로 알려져 있다. 몇 년 전 한국에서 카카오톡과 밴드 등에 대해 이른바 ‘검열’ 논란이 일었을 때, 많은 사람이 텔레그램으로 이동하

2024-09-07

텔레그램, 방심위 긴급 요청 성범죄 영상물 삭제

딥페이크 불법 합성물 유포의 온상으로 지목된 텔레그램이 디지털 성범죄 영상물을 삭제한 것으로 파악됐다.3일 방송통신심의위원회(방심위)는 "텔레그램 측이 지난 1일 긴급 삭제를 요청한 디지털 성범죄 영상물 25건을 모두 삭제했다고 밝혔다"며 "사과의 뜻과 함께 신뢰 관계를 구축하자는 의사도 전했다"고 했다.텔레그램은 이날 동아시아 지역 관계자의 공식 이메일 서한을

2024-09-03

‘딥페이크’ 범죄에 엔터社 발칵...“선처 없이 강력 대응”

아이돌 그룹을 육성하는 엔터테인먼트 회사들이 잇따라 ‘딥페이크’ 영상물에 강력하게 대응할 것이라고 밝혔다. 인공지능(AI) 기술로 영상물을 합성할 수 있는 이 기술을 활용한 성범죄가 최근 논란이 돼서다.31일 엔터테인먼트업계에 따르면 걸그룹 트와이스의 소속사 JYP엔터테인먼트는 트와이스 팬 커뮤니티를 통해 “최근 당사 아티스트를 대상으로 한 딥페이크

2024-08-31

많이 본 뉴스

1기아 노조, 임단협 장점 합의안 가결…4년 연속 무분규

2 대둔산 100m 절벽서 떨어진 30대 7시간만에 구조, 생명 지장 없어

3중학생들, 알몸사진 요구에 갈취, 폭행까지...학교에선 '사회봉사' 솜방망이 처벌?

4“쓰레기 아냐?” 정비공이 치운 ‘맥주캔’…알고 보니 ‘미술품’

5 산업은행

6‘국감 증인대’ 오른 스노우 대표...‘AI 외설 합성 논란’ 진땀

7 노벨 물리학상에 존 홉필드·제프리 힌튼

8탈모 치료제 '자살 충동유발 가능성' 제기...유럽당국 검토 착수

9국감서 배달앱 집중포화…오영주 장관 “상생 방안 마련할 것”

실시간 뉴스

1기아 노조, 임단협 장점 합의안 가결…4년 연속 무분규

2 대둔산 100m 절벽서 떨어진 30대 7시간만에 구조, 생명 지장 없어

3중학생들, 알몸사진 요구에 갈취, 폭행까지...학교에선 '사회봉사' 솜방망이 처벌?

4“쓰레기 아냐?” 정비공이 치운 ‘맥주캔’…알고 보니 ‘미술품’

5 산업은행