-
"피해 연예인 20명에 달해"…10대들, 딥페이크 성착취물 '발칵'
사회 사회일반 2024.09.20 06:19:42텔레그램에서 연예인들의 딥페이크 성착취물을 유포한 10대들이 경찰에 붙잡혔다. 피해 연예인 중에는 미성년자도 포함된 것으로 알려져 충격을 주고 있다. 19일 경기남부경찰청 사이버수사과는 아동·청소년의 성보호에 관한 법률 및 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 A씨 등 2명을 구속하고, 1명을 불구속 입건했다고 밝혔다. 이들은 지난해 11월부터 올 7월까지 텔레그램에 ‘합사방(합성사진방)’ 등의 채널을 개설해 연예인의 딥페이크 성착취물을 판매한 혐의를 받고 있다. 피해 연예인은 20여 명에 달하며 일부는 미성년자인 것으로 전해졌다. 경찰은 사이버 모니터링 중 지난 4월 해당 범죄를 포착하고 수사에 착수했다. A씨 등은 대학생이거나 무직인 성인으로 확인됐다. 또 이들에게 딥페이크 성착취물을 구매한 24명도 함께 검거됐다. 구매자들은 모두 10~20대로 24만원의 입장료를 지불하고 텔레그램 방에서 불법 콘텐츠를 시청한 것으로 조사됐다. 경찰은 80여 명의 추가 구매자도 확인해 추적 중이다. A씨 등은 해외 텔레그램 채널에서 한국 연예인들의 딥페이크 성착취물을 내려받아 재판매했다고 진술했다. 경찰은 이들이 직접 제작하지는 않은 것으로 추정하고 있다. 경찰 관계자는 "현재까지 2차 유포 정황은 확인되지 않았다"며 "아동·청소년 성착취물 구입·소지·시청자는 1년 이상의 징역형에 처한다"고 경고했다. 정부와 수사기관은 온라인 상의 불법 성착취물 단속을 강화하고 있지만, 빠르게 진화하는 범죄 수법에 대응하기 위해서는 더욱 체계적인 대책 마련이 시급한 상황이다. 이번 사건을 계기로 연예인 등 공인을 대상으로 한 딥페이크 범죄의 심각성이 재조명되고 있다. -
여야, '딥페이크 범죄' 처벌 강화 합의 처리… 여가위 소위 통과
정치 정치일반 2024.09.19 18:55:18국회 여성가족위원회가 19일 아동·청소년의 성착취물을 이용해 협박한 자에 대한 처벌을 강화하는 법안을 의결했다. 여가위는 이날 오후 법안심사소위를 열고 ‘아동·청소년의 성보호에 관한 법률 일부개정법률안’(청소년성보호법)과 ‘성폭력방지 및 피해자보호 등에 관한 법률 일부법률개정안’(성폭력방지법)을 가결했다. 현행법에 따르면 아동·청소년 성착취물을 통한 협박 행위는 1년, 권리행사 방해의 경우 3년에 불과하다. 청소년성보호법 개정안은 아동·청소년 성착취물을 통한 협박 행위에 대한 처벌 기준을 3년, 권리행사 방해는 5년으로 상향했다. 성폭력방지법 개정안은 국가에 불법촬영물에 대한 삭제 의무를 부과하고 피해자 일상 회복에 대한 의무를 명시했다. 디지털성범죄피해자지원센터에 불법촬영물을 삭제할 수 있도록 하는 권한 또한 부여했다. 여가위 여당 간사를 맡고 있는 김상욱 국민의힘 의원은 서울경제와의 통화에서 “이날 회의는 여야 정쟁이 계속되는 상황에서 ‘딥페이크 범죄’ 피해를 막기 위한 여야 의원들의 의지로 강행된 것”이라며 “여야 합의로 처리된 법안인만큼 하루 빨리 국회에서 통과시키겠다”고 밝혔다. 여가위는 해당 법안에 대한 국민들의 관심이 높은 만큼 26일 본회의에서 해당 법안을 처리하겠다는 입장이다. -
경찰청 2025년도 예산안 13조5000억 원… '딥페이크 탐지' 예산 확보
사회 사회일반 2024.09.19 13:06:52경찰이 최근 사회적 문제로 떠오르고 있는 ‘딥페이크 성착취물’을 탐지하기 위한 기술 개발에 나선 가운데, 경찰청의 내년도 예산안이 증액됐다. 19일 경찰청은 2025년도 경찰청 예산을 지난해 대비 4.2%(5457억 원) 증액한 13조 5364억 원 규모로 편성했다고 밝혔다. 이 중 주요 사업비는 2024년도 대비 1.9%(494억 원) 늘어난 2조6067억 원이다. 우선 경찰은 최근 텔레그램 등 보안 메신저를 통해 공급되고 있는 딥페이크 허위 영상물 등을 탐지하기 위한 소프트웨어 고도화에 5억 원의 예산을 편성했다. 이는 지난해보다 2억 원 늘어난 수준이다. 또한 딥페이크・딥보이스 등 진화하는 허위콘텐츠 범죄에 대응하기 위해 딥러닝에 기반한 허위조작 콘텐츠 복합 탐지 기술 개발에도 올해 27억 원을 투입하는 등 오는 2027년까지 총 91억 원을 투자할 예정이다. 경찰은 조직화・지능화되고 있는 투자리딩방이나 보이스피싱 등 악성사기와 온라인·홀덤펍 도박 등 민생침해범죄와 관련한 신고 및 제보를 활성화하기 위해 건당 지급액수를 최대 1억 원까지 상향한 ’조직범죄 특별신고보상금‘을 신설한다. 또한 마약범죄 추적 중 가상자산 믹싱 등 지능화된 수법에 대응하기 위한 가상자산 전문가 분석기술 지원을 위해 9억5000만 원을, 가상자산 추적을 위한 간편조회 시스템 도입을 위해 10억 원을 각각 투입한다. 지난해 8월 설립한 범정부 합동 '전기통신금융사기 통합신고대응센터' 플랫폼 고도화 및 피싱 이용 전화번호 차단 기능 등에는 55억4000만 원을 들여 2027년까지 고도화를 완료할 방침이다. 현재 3개 시·도에서만 운영하고 있는 스토킹・데이트폭력 등 피해자를 대상으로 한 보복범죄 방지를 위한 고위험 범죄피해자 민간경호서비스를 전국적으로 확대한다. 이를 위해 지난해 7억 원이었던 예산을 올해는 17억5000만 원 늘어난 24억5000만 원의 범죄피해자보호기금 예산을 편성했다. 운전자 스스로 운전능력을 확인할 수 있는 자가진단시스템(VR 테스트)을 전국 운전면허시험장 등에서 시범운영을 한다. 총 19대를 현장에 배치하기 위해 20억9000만 원을 투입했다. 또한 77억 원을 들여 경찰착용기록장치(바디캠) 8766대를 도입해 내년까지 현장 경찰관에게 보급할 예정이다. 내년 11월 예정된 ‘APEC 정상회의’에서 참가국 정상들의 신변보호 및 회의장・숙소 안전관리 지원에는 208억 원이 들어간다. 기동개를 위해 경량화 및 내구성이 강화된 신형방패를 개발해 총 3612대를 도입하는 데는 13억7000만 원이 투입된다. 인파 밀집지역 등에서도 경찰무선망을 운영하기 위한 근거리 무선 중계장비 구축에는 7억7000만 원이, 산업기술 유출 대응 강화를 위한 디지털증거분석실 구축 및 산업보안협의회 활성화에는 5억6000만 원이, 경찰특공대 대테러훈련 시뮬레이터 도입에는 13억1000만 원이 들어간다. 훈련 강화를 위한 신형장비 도입에도 예산이 투입된다. 실감형 가상훈련(VR) 확대 및 물리력 대응훈련을 위한 장비 보급에는 각각 4억8000만 원이 편성됐다. 차세대 외근조끼, 신형 버튼식 호신용 경봉, 신형 전자충격기 도입에는 각각 8억 원, 12억1000만 원, 56억1000만 원이 들어간다. 생성형 인공지능(AI)을 활용해 수사관에게 유사사건・수사쟁점 등을 제공하고 영장신청서 등 각종 수사서식의 초안을 만들어주는 AI 수사도우미 구축에 27억 원을 투자한다. 마찬가지로 AI를 활용해 아동학대 의심장면을 요약・분석해주는영상분석 프로그램 및 형사기능 영상분석 프로그램 도입에는 각각 6억 원과 8억6000만 원이 편성됐다. 원격화상조사시스템 및 음성인식 조서작성 시스템에는 14억7000만 원이 투입된다. 경찰청은 “확보된 예산을 통해 내년부터 수사전문성과 현장대응력을 더욱 강화해 책임을 다하는 국민의 경찰을 구현하겠다”고 밝혔다. -
텔레그램서 연예인 딥페이크 영상 판매한 10대들… 구매자들도 덜미
사회 사회일반 2024.09.19 10:48:09딥페이크 기술을 악용해 텔레그램에서 연예인의 합성 허위 음란 영상물을 판매한 10대들이 붙잡혔다. 19일 경기남부경찰청 사이버수사과는 아동·청소년의 성보호에 관한 법률 및 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의를 받는 10대 A 씨 등 2명을 구속하고 1명을 불구속 입건했다고 밝혔다. 이들은 지난해 11월부터 지난 7월까지 텔레그램에 합성사진을 유포하는 일명 ‘합사방’ 등 채널을 개설한 뒤 연예인의 얼굴을 음란물에 합성한 딥페이크 성 착취물을 판매한 혐의를 받고 있다. A 씨 등으로부터 피해를 입은 연예인은 20여 명이며, 이 중에는 미성년자 연예인도 포함된 것으로 알려졌다. 이들은 구매자에게 2만~4만 원 상당의 합사방 입장료를 받고 채팅방에 들어가 성 착취물을 다운로드하거나 시청한 것으로 파악됐다. 해당 채팅방은 경찰 수사 착수 후 폐쇄됐다. 경찰은 지난 4월 이들이 딥페이크 음란물을 유통하고 있다는 사실을 인지한 뒤 수사를 벌여 검거에 성공했다. 경찰에 따르면 이들은 대학교에 재학하거나 특별한 직업이 없는 성인이다. A 씨 등은 경찰 진술에서 해외의 다른 텔레그램 채널에서 영상을 내려받은 뒤 이를 재판매했다고 밝혔다. 경찰 또한 이들이 직접 영상물을 제작한 것은 아니라고 판단하고 있다. 경찰은 A 씨 등에게 영상물을 구매한 10~20대 24명을 아동·청소년의 성보호에 관한 법률 위반 혐의로 입건했다. 경찰은 이들 외에도 80여 명의 구매자를 추가로 확인해 추적하고 있다. -
"능욕방 운영자, 너지?"…미성년자 감금 폭행한 10대, 알고보니 '엉뚱한 사람'
사회 사회일반 2024.09.19 00:30:00엉뚱한 사람을 텔레그램 '능욕방'(불법합성물 공유) 채널 운영자라고 주장하며 감금한 뒤 폭력을 행사한 10대 2명이 구속기소됐다. 12일 수원지검 안산지청 형사3부(김영준 부장검사)는 특수중감금치상 혐의로 10대 A군 등 2명을 구속기소했다고 밝혔다. A군 등은 지난달 26일 텔레그램 능욕방 채널에서 알게 된 10대 B군을 감금하고 폭행한 혐의를 받고 있다. 이들은 "주소를 알고 있다"며 B군을 밖으로 유인한 뒤 A군의 거주지로 데려간 것으로 알려졌다. A군 등은 집에서 B군의 뒤통수를 때렸고, 머리카락을 자르거나 눈썹을 밀었다. 또 B군에게 옷을 벗고 춤을 추게 하는 등의 가혹행위를 한 것으로 조사됐다. 이들은 B군이 '능욕방' 채널에서 대화에 활발히 참여하는 등 눈에 띄자 그를 운영자라고 주장하며 응징을 명목으로 범행한 것으로 알려졌다. A군 일당은 B군을 폭행하는 모습을 텔레그램 보복방 채널에서 약 30분간 방송하며 후원금을 받은 것으로 나타났다. 이후 이를 본 시청자가 경찰에 신고했다. 수사 결과 피해자는 '능욕방' 운영자가 아니며, 딥페이크 성범죄에 연루된 정황도 나타나지 않았다. 경찰은 A군 일당에게 범행을 지시한 공범이 있는지 등에 대한 수사를 확대하고 있다. -
지난해 성매매·성폭력 걸려 잘린 공무원 몇명이길래?…"집안 단속부터 해야"
사회 사회일반 2024.09.18 16:56:37작년 한 해 동안 성매매, 성폭력, 성희롱 등 성 비위를 저지른 중앙부처 국가직 공무원 104명이 파면·해임 등의 징계를 받고 강제 퇴직한 것으로 나타났다. 18일 국회 행정안전위원회 소속 박정현 민주당 의원(대전 대덕구)이 인사혁신처로부터 제출받은 국가공무원 징계 현황에 대한 국감 자료에 따르면, 지난해 104명의 국가직 공무원이 성 비위 문제로 파면 또는 해임됐다. 파면과 해임은 공무원 신분을 강제 박탈하고 3∼5년간 공무원 임용을 제한하는 최고수위의 징계다. 지난해 부처 공무원 21명이 성매매를 하다가 적발됐으며, 여기에는 △교육부 공무원 7명 △소방청 4명 △과기정통부 3명 △경찰청 2명 등이 포함됐다. 징계 수위를 강등, 정직, 견책까지 확대하면 모두 316명이 성 비위 징계 명단에 올랐다. 산술적으로 지난해 성 비위로 징계를 받은 전체 국가직 공무원의 33%가량이 최고수위 징계를 받고 직장을 잃은 셈이다. 부처별로 보면 교육부(교사 포함)가 가장 심각했다. 지난해 모두 104명의 교육부 공무원이 성 비위로 징계를 받았다. 이어 △경찰청 72명 △소방청 36명 △과기정통부 17명 △해양경찰청·법무부 각각 13명 등의 순으로 나타났다. 성 비위 징계 범위를 지난 5년간으로 넓혀봐도 교육부에서 가장 많은 526명이 적발됐다. △경찰청(295명) △소방청(148명) △과기정통부(71명) △해양경찰청(43명) △법무부(29명) △대검철창·국세청(27명)이 뒤를 이었다. 이처럼 경찰청과 해양경찰 등 경찰조직에서만 5년간 338명이 성 비위를 저질렀다. 2019년 1명의 직원만 징계받았던 소방청은 지난 4년간 해마다 30∼40명이 성 비위로 처벌을 받았다. 조사 대상에 포함된 50여개 정부 기관 가운데 경찰청, 해양경찰청, 대검찰청, 국세청 등 사정기관들이 성 비위 징계 상위 기관에 자리 잡은 것이 눈에 띄는 대목이다. 박정현 의원은 "행안위 소관인 경찰청과 소방청을 비롯해 특정 부처에서 계속 성 비위 문제가 발생하는 경향을 보인다"며 "최근 늘어나는 교제폭력, 딥페이크 폭력과 같은 새로운 유형의 성범죄에 정부 부처의 대책 마련이 시급한 상황인데, 그보다 먼저 집안 단속부터 해야 하는 게 아닌지 우려된다"고 전했다. -
아동 성 착취물 제작·유포 4000여명 검거했는데…구속된 사람 '겨우'
사회 사회일반 2024.09.18 02:00:00지난 3년 7개월간 아동 성착취물 제작·유포 등 혐의로 경찰에 붙잡힌 인원이 4000여명에 달하는 것으로 나타났다. 17일 더불어민주당 황정아 의원이 경찰청으로부터 받은 자료에 따르면 2021년부터 올해 7월까지 아동·청소년 성착취물의 제작과 배포 등을 금지한 청소년성보호법 11조 위반 혐의로 경찰에 적발된 건수는 모두 4763건이었다. 연도별로는 2021년 1747건, 2022년과 지난해 각각 1052건, 올해 1∼7월 912건이다. 검거 인원은 2021년 1331명, 2022년 986명, 지난해 978명, 올해 1∼7월 762명이다. 3년 7개월간 검거된 전체 4057명 중 구속 상태로 검찰에 송치된 이는 261명(6.4%)에 불과했다. 피해 신고 접수와 단순 소지·시청 등 각 범죄 유형별 현황에 대해서는 따로 집계가 이뤄지지 않고 있는 것으로 파악됐다. 2020년 'n번방 사건'을 계기로 개정된 청소년성보호법은 아동·청소년 성착취물을 구입하거나 단순 소지·시청한 자에 대해서도 1년 이상의 징역을 처하도록 양형을 강화했다. 황 의원은 "n번방 사건 이후에도 수사 당국이 아동 성착취물 피해 정도를 여전히 경미하게 판단하는 경향을 보인다"며 "딥페이크 등 성착취물 처벌을 강화해야 한다는 지적이 많은 상황에서 아동 성착취물 범죄에 대해서도 명확한 현황 분석을 통해 제대로 된 대책을 마련해야 한다"고 지적했다. -
선생님이 보낸 '의문의 영상'…깜짝 놀란 여중생은 답변도 못했다
사회 사회일반 2024.09.15 06:20:00한 중학교 교사가 여학생에게 카카오톡으로 음란 동영상을 전송했다는 의혹이 제기됐다. 14일 경찰에 따르면 지난달 17일 경기북부 소재 A 중학교에 재학 중인 B 양은 C 교사로부터 의문의 동영상을 전송받았다. 해당 동영상 속에는 나체의 여성들이 있었다. 깜짝 놀란 B 양은 답변하지 않았다. B 양은 평소에 C 교사와 카카오톡으로 연락을 주고받은 적은 없었다고 한다. 이후 B 양은 지난달 말 학교전담경찰관(SPO)이 진행한 '딥페이크 범죄예방 교육'을 듣다가 자신이 받은 카카오톡 속 영상이 떠올라 용기를 내 경찰관에게 상담을 했다. 이에 경찰은 해당 영상을 확보해 수사를 진행 중이다. 다만 C 교사는 휴대전화 해킹을 당한 것이며 그런 영상을 보낸 적이 없다고 주장한 것으로 전해졌다. C 교사는 현재 학교에는 나오지 않고 있다. 경찰은 C 교사의 휴대전화도 압수했으며 디지털 포렌식 작업을 진행할 예정이다. -
"엄마가 입원까지 했어요" 사촌동생 얼굴로 '딥페이크 영상' 만든 30대
사회 사회일반 2024.09.14 17:46:40평소 친하게 지내던 사촌 여동생 사진으로 딥페이크 성범죄물을 만든 30대 남성이 구속됐다. MBC에 따르면 20대 여성 이 모 씨는 지난 4일 한 통의 문자를 받았다. 해당 문자는 '딥페이크 피해 사실이 확인됐으니 경찰에 연락해달라'는 내용이었다. 이 씨는 지난달 딥페이크 성범죄물 심각성이 알려진 후 소셜미디어(SNS)에 게재한 사진을 비공개로 바꿨지만 이 같은 연락에 크게 당황했다. 이 씨는 "별로 왕래가 없던 남자 지인이나 동창들이나 안 친한 사람들은 죄다 프로필 못 보게 차단하고 인스타그램도 정리하고 못 보게끔 했는데"라며 놀랐다. 경찰에서 확인한 가해자는 다름 아닌 사촌오빠 김 씨였다. 김 씨는 평소 이 씨에게 "취미생활 꼭 가져봐라. 좋은 영향이 많은 것 같다", "응원한다", "멋지다" 등의 조언을 할 정도로 친하게 지냈다. 가족끼리 여행도 종종 갈 정도로 왕래도 잦았다. 김 씨는 이 씨의 SNS에서 비공개 사진도 볼 수 있는 사이였다. 하지만 김 씨는 이 씨의 SNS에서 얻은 사진으로 딥페이크 성범죄물을 만들었다. 피해자 이 씨는 “친척 동생들이랑도 잘 놀러 다녀서 친절하고 속이 깊다고 생각했다”며 “할머니도 엄청 잘 챙겨서 전혀 이럴 줄은 예상도 못 했다”고 밝혔다. 그러면서 “얼떨떨하고 믿기지도 않고 배신감이 크고 소름 끼쳤다”고 토로했다. 이 씨는 "엄마가 그 얘길 듣고 처음엔 못 믿다가 (큰 충격을 받고) 대학병원 응급실에 입원까지 했다"고 덧붙였다. 이번 사건은 경찰이 지난달 딥페이크 집중 대응 TF를 가동한 뒤 가족이나 친척을 대상으로 한 가해자가 처음으로 확인된 사례다. 김 씨는 사촌 동생은 물론 미성년자까지 포함해 아는 여성 24명의 얼굴 사진으로 딥페이크 성범죄물 128개를 만든 혐의를 받는다. 그는 더 많은 성 착취물을 수집하기 위해 텔레그램에 교환방도 만들어 아동과 청소년 성 착취물 9000여 개를 수집한 것으로 드러났다. 경찰은 김 씨를 구속해 검찰로 넘겼다. -
텔레그램發 사진으로 허위영상물 1300개 만든 20대 남성 재판行
사회 사회일반 2024.09.13 17:22:39텔레그램에서 얻은 사진으로 다량의 딥페이크 영상물을 만들어 제작·유포한 20대 남성이 구속상태로 재판에 넘겨졌다. 아동·청소년 성착취물을 유통하는 음란물 사이트 운영자 30대 남성도 구속 기소됐다. 13일 법조계에 따르면 서울중앙지검 여성아동범죄조사1부(김지혜 부장검사)는 텔레그램 참여자들로부터 넘겨받은 피해자들의 사진, 이름 등 개인정보를 이용해 딥페이크 영상물을 제작하고 유포한 20대 A 씨를 아동·청소년의성보호에관한법률위반(성착취물제작등) 혐의 등으로 이날 구속 기소했다. 또한 약 4년 간 아동·청소년성착취물 등을 유통하는 음란물유포사이트 2개를 운영한 30대 B 씨도 아동·청소년의성보호에관한법률위반(영리목적성착취물판매등)혐의로 같은 날 구속 기소했다. 검찰에 따르면 A 씨는 아동·청소년 대상 허위영상물 92개 및 성인 대상 허위영상물 1275개를 제작하고 유포한 혐의를 받는다. 검찰 관계자는 “서울디지털성범죄안심지원센터 및 대검찰청 사이버·기술범죄수사과 등에 허위영상물 삭제 지원 및 유포모니터링을 의뢰하는 등 피해자 보호를 위해서도 노력했다”며 “앞으로도 딥페이크 등 허위영상물 제작 ‧ 유통사범에 대해 신속하고 엄정하게 대응하는 한편, 피해자 지원 ‧ 보호 업무에 만전을 기하겠다”고 밝혔다. -
AI기업들 "나체이미지 제거" 성적 딥페이크 확산 막는다
국제 국제일반 2024.09.13 16:25:34마이크로소프트(MS)와 오픈AI 등 주요 인공지능(AI) 기업들이 유해한 성적 딥페이크 이미지 확산을 막기 위해 AI 학습 데이터에서 나체(nude) 이미지를 제거하기로 서약했다. 12일(현지 시간) AP통신에 따르면 미국 정부가 중재하고 백악관이 발표한 서약에서 AI 기업들은 ‘적절한 경우에, (AI) 모델의 목적에 따라’ AI 학습 데이터 세트에서 누드 이미지를 자발적으로 제거하겠다고 밝혔다. 또한 해로운 성적 딥페이크 이미지 확산을 막기 위한 다른 안전장치들도 도입하기로 했다. 이번 서약에는 어도비와 앤스로픽·코히어도 동참했다. 미국 정부는 이미지를 기반으로 한 아동 성 학대와 동의 없는 성인 딥페이크 이미지 제작을 막기 위해 광범위한 캠페인을 벌이고 있다. 백악관 과학기술정책실은 성명을 통해 이런 이미지가 여성과 어린이·성소수자를 표적으로 삼아 급증했다고 지적한 뒤 “현재까지 가장 빠르게 증가하는 AI의 유해한 사용 사례 중 하나로 부상하고 있다”고 밝혔다. 공공 웹사이트에서 데이터를 수집하는 비영리단체 커먼크롤도 이번 서약에 부분적으로 참여했다. 커먼크롤은 AI 챗봇과 이미지 생성기 훈련에 사용되는 핵심적인 데이터 저장소로, 앞으로 책임감 있게 정보를 모으는 등 이미지 기반 성적 학대로부터 데이터를 보호하기 위해 광범위하게 노력하겠다고 약속했다. 이날 MS를 비롯해 메타·틱톡·범블·디스코드·매치그룹 등은 별도의 서약을 통해 이미지 기반 성 학대 방지를 위한 일련의 자발적 원칙을 발표했다. 이는 미국 여성폭력방지법 제정 30주년을 기념해 이뤄졌다. 한편 미 정부는 이날 백악관을 방문한 샘 올트먼 오픈AI 최고경영자(CEO), 젠슨 황 엔비디아 CEO, MS·구글·아마존의 기술책임자 등과 미국 내 데이터센터 개발 촉진을 위한 범정부 태스크포스(TF) 구성에 합의하고 관련 인프라 투자 및 지원에 대해 논의했다. -
10대 파고든 '딥페이크'…성폭력 상담 여학생 5명 중 1명은 '성착취물' 피해자
사회 사회일반 2024.09.13 15:38:39지난해 성폭력 상담소를 찾은 아동·청소년 다섯명 중 한 명은 딥페이크를 비롯한 성착취물 피해를 겪은 것으로 나타났다. 전체 유형 중 피해 규모가 가장 커 기존에 1·2위를 차지했던 강제추행·강간을 제쳤다. 13일 탁틴내일 아동청소년성폭력상담소가 최근 발간한 ‘2023년 상담통계’에 따르면 지난해 상담소가 지원한 398명의 피해자들이 경험한 대표피해 유형 가운데 성착취물 피해가 79건(19.8%)로 가장 많았다. 이어 강제추행 64건(16.1%), 강간 46건(11.6%), 의제추행·강간 37건(9.3%), 성희롱 32건(8.0%), 그루밍 20건(5.0%) 등 순이었다. 성착취물 피해는 대표피해는 물론 중복피해(여러 피해를 경험) 유형 중에서도 1순위를 차지했다. 69명의 중복피해자 중 성착취물 피해 경험자는 69명(17.3%)이었고 이어 그루밍 13건(18.8%), 강간 7건(10.2%), 성희롱 7건(10.2%), 강제추행 6건(8.7%) 등 순이었다. 불과 몇 년 전인 지난 2016~2020년 합산 성추행이 32.3%, 강간이 12.0%을 차지하고 사이버성폭력은 10.7%로 3위였던 것과는 대비되는 결과다. 피해자와 가해자의 관계를 살펴보면 채팅상대자가 87명(26.9%)으로 가장 많아 채팅 애플리케이션(앱) 등 인터넷 공간이 아동·청소년 성착취 도구로 악용되고 있는 것으로 나타났다. 가해자 연령대는 10대가 78명(19.6%)으로 가장 많았다. 최근 검거되고 있는 딥페이크 피의자 상당수가 청소년인 양상과 일치하는 결과다. 실제 경찰은 올해 검거된 딥페이크 피의자 318명 중 10대가 251명(80%)이라고 밝혔다. 만 14세 미만의 촉법소년도 63명(19.8%)에 달한다. 서울시가 운영하는 서울디지털성범죄안심지원센터에 접수된 딥페이크 범죄 통계를 보면 피해자와 가해자 모두 10대 비중이 각각 36.6%, 31.4%였다. 경찰이 집중 단속을 벌이고 청소년 사이에서 경각심이 높아지면서 딥페이크를 비롯한 성착취물 피해 상담은 올해 더 늘어날 것으로 보인다. 탁틴내일 관계자는 “n번방 사건이 터진 2020년부터 성착취물 관련 피해 상담은 꾸준히 늘어왔다”며 “딥페이크 관련 피해 상담 의뢰도 간간히 들어왔었는데 (딥페이크 성범죄 논란이 커진) 8월 이후로 확실히 많아진 추세”라고 설명했다. -
[단독] 10대 파고든 '딥페이크'…전국 교육청 개인정보보호는 ‘낙제점’
정치 국회·정당·정책 2024.09.13 07:00:00인공지능(AI)을 이용해 사람 이미지를 또다른 이미지나 영상으로 합성하는 딥페이크가 학교 등으로 광범위하게 확산하고 있지만 전국 교육청의 개인정보보호 수준은 매년 하락한 것으로 나타났다. 특히 서울시교육청은 최근 5년간 보안 수준이 전국 평균치를 밑돌며 많은 학생이 딥페이크 범죄에 노출됐다는 우려가 나온다. 13일 국회 교육위원회 소속 조정훈 국민의힘 의원실이 교육부에서 제출받은 자료에 따르면 전국 교육청의 개인정보보호 수준 진단 평균 점수는 2018년 96.65점에서 2023년 82.6점으로 하락했다. 특히 최근 AI 등 기술 고도화가 이뤄지고 있는 3년새 2021년 95.74점, 2022년 88.91점, 2023년 82.6점을 각각 기록하며 급격히 떨어졌다. 교육부는 교육청의 초·중·고교생 개인정보보호를 위해 매년 관리 수준을 평가해왔고, 올해부터는 개인정보보호위원회가 담당하고 있다. 경기도 다음으로 학생 수가 많은 서울시교육청의 경우 2019년부터 매년 개인정보보호 수준이 전국 평균치에 미치지 못했다. 특히 진단 점수가 2021년 93점, 2022년 86점, 2023년 80점을 기록하며 최근 3년간 하락세도 가팔랐다. 지난해 94점을 받으며 1위를 기록한 세종시교육청과의 점수 차는 14점에 달했다. 또 서울시교육청은 세부 항목 중 '개인정보 유노출 개선조치'에서 가장 낮은 ‘매우 미흡’을 받았다. 학생들의 정보 유출에도 후속 대응을 제대로 하지 않은 것이다. 교육청이 기본적 개인정보 보호 조치에 소홀한 사이 딥페이크 피해자 3명 중 1명이 미성년자일 정도로 아동·청소년 피해는 급속히 늘고 있다. 올 들어 8월 25일까지 여성가족부 산하 디지털 성범죄 피해자 지원센터에 딥페이크 피해 지원을 요청한 사람 781명 중 36.9%(288명)가 10대 이하였다. 특히 2022년 212명에서 올 1~8월 781명으로 3.7배 늘었는데 같은 기간 미성년자 수는 64명에서 288명으로 4.5배 뛰었다. 서울시교육청과 서울시, 서울중앙지검, 서울경찰청은 지난 10일 '아동·청소년 딥페이크 공동대응을 위한 업무협약'을 체결하며 딥페이크 ‘원스톱 지원’에 나서기로 했지만 뒤늦은 보여주기식 대응이라는 지적도 나온다. 조정훈 의원은 “딥페이크 영상물을 텔레그램에서 유포하는 성범죄가 학교 현장에 퍼지는 등 학생들이 범죄의 표적이 되고 있다"면서 “교육청은 교육의 질은 물론 학생들의 개인정보 보호에도 만전을 기해야 한다"고 말했다. -
‘딥페이크’ 영상 만들고 유포… ‘딥페이크 영상 교환방’ 운영자 구속 송치
사회 사회일반 2024.09.12 11:48:13지인들을 대상으로 딥페이크 기술을 사용해 허위 음란물을 만들고 이를 유포한 30대 남성이 경찰에 붙잡혔다. 12일 서울경찰청 사이버수사과 허위영상물 집중대응 TF는 이날 오전 10시에 브리핑을 진행하고 허위 영상물을 제작한 뒤 텔레그램에서 성착취물 교환방을 운영해 영상을 유포한 30대 남성 A 씨를 이달 4일 검거했다고 밝혔다. 경찰은 A 씨를 이달 6일 구속해 이날 청소년성보호법 위반 혐의 등으로 검찰에 송치했다. A 씨는 지난해 12월께부터 지난 7월 22일까지 텔레그램 AI 합성 봇을 이용해 직장동료 등 지인 피해자 24명의 얼굴 사진을 나체 여성의 몸과 합성하는 방식으로 허위영상물 128개를 제작했다. 피해자 중에는 미성년자도 1명 포함된 것으로 파악됐다. 이후 텔레그램에서 ‘성착취물 교환방’을 운영하며 자신이 제작한 허위영상물 중 3개와 아동·청소년 성착취물 151개를 교환방에 올려 유포했다. A 씨는 자신이 소유한 허위 영상물을 대화방 참여자들이 보유하고 있는 다른 성착취물과 교환하기 위한 목적을 가지고 있던 것으로 확인됐다. A 씨는 교환 및 수집을 통해 아동·청소년 성착취물 9789개와 불법 촬영물 22개를 소지하고 있던 것으로 알려졌다. A 씨가 운영한 교환방에는 100여 명의 참여자가 있던 것으로 파악됐다. 경찰은 해당 텔레그램 계정에 대해 추적을 진행하고 있다. 서울경찰청 관계자는 “딥페이크뿐만 아니라 사람의 얼굴과 신체를 어떠한 형태로든 성적 수치심이 유발되도록 편집·합성·가공하는 행위에 대해 엄정 대응하겠다”라며 “유사한 피해를 입은 피해자는 자신의 잘못이 아니기 때문에 즉시 수사기관에 신고해 도움을 받아야 한다”고 밝혔다. -
'딥페이크' 피의자 중 10대가 79%…"촉법소년은 20대보다 많았다"
사회 사회일반 2024.09.12 08:36:48경찰이 올 9월까지 검거한 ‘딥페이크(인공지능 기반 이미지 합성)’ 범죄 피의자 10명 중 8명은 10대인 것으로 나타났다. 이 중 촉법소년(만 14세 미만)은 63명에 달했다. 경찰청 전국수사본부는 11일 전날 기준으로 전국에서 딥페이크 성범죄 사건 513건을 수사 중이라고 밝혔다. 올해 1월부터 지난 10일까지 전국에서 불법합성물 성범죄로 검거된 피의자는 모두 318명으로 집계됐다. 피의자 중 10대는 251명(78.9%)이었다. 이 중 63명은 만 10세 이상 만 14세 미만이라 형사 처벌을 받지 않는 ‘촉법소년’이었다. 촉법소년은 소년법상 보호처분을 받아 최장 2년간 소년원 송치가 가능하다. 검거된 피의자는 연령대별로 20대 57명(17.9%), 30대 9명(2.8%), 40대 1명(0.3%)이었다. 한편 전국적으로 딥페이크 관련 성범죄 피해가 확산하자 경찰청은 지난달 28일부터 내년 3월31일까지 7개월간 ‘딥페이크 성범죄 관련 특별 집중단속’을 실시한다고 밝혔다.
이시간 주요 뉴스
영상 뉴스
서경스페셜
주소 : 서울특별시 종로구 율곡로 6 트윈트리타워 B동 14~16층 대표전화 : 02) 724-8600
상호 : 서울경제신문사업자번호 : 208-81-10310대표자 : 손동영등록번호 : 서울 가 00224등록일자 : 1988.05.13
인터넷신문 등록번호 : 서울 아04065 등록일자 : 2016.04.26발행일자 : 2016.04.01발행 ·편집인 : 손동영청소년보호책임자 : 신한수
서울경제의 모든 콘텐트는 저작권법의 보호를 받는 바, 무단 전재·복사·배포 등은 법적 제재를 받을 수 있습니다.
Copyright ⓒ Sedaily, All right reserved