-
국회 여가위, '딥페이크 성범죄' 관련 현안질의
정치 정치일반 2024.08.27 16:50:02국회 여성가족위원회가 27일 텔레그램 대화방을 통한 딥페이크 범죄 대응을 위한 긴급 현안질의를 열고 제도 정비에 나서기로 했다. 이인선 여가위원장과 여야 간사인 서범수 국민의힘·김한규 더불어민주당 의원은 이날 국회 소통관에서 기자회견을 열고 “딥페이크 문제의 심각성을 강력히 경고하고, 이에 대한 시급한 대책 마련을 촉구한다”며 이같이 밝혔다. 이 위원장은 “기존의 개인정보 보호법과 명예훼손 법률은 딥페이크 기술을 이용한 범죄의 특수성을 제대로 반영하지 못하고 있다”며 “딥페이크 기술의 악용을 방지하기 위해 법적 제도를 더욱 강화하고, 여성과 미성년자 보호를 위한 법률 개정을 추진하겠다”고 강조했다. 여가위는 다음달 4일 전체회의를 열고 딥페이크 성범죄 문제와 관련된 긴급 현안질의를 실시하기로 했다. 이 위원장은 “기술적 문제는 과학기술정보통신부가, 범죄자 처벌은 경찰청을 통해서 하는 등 전 부처가 나서야 한다”며 관련 부처의 적극적인 대응을 요구했다. 서 의원 또한 "현안질의에 여성가족부 관계자뿐 아니라 경찰청이나 관련 부처 관계자도 불러서 심도 있게 논의해보겠다"고 말했다. 딥페이크를 이용한 성범죄의 심각성이 큰 만큼 여야는 관련 규제에 속도를 낼 전망이다. 김 의원은 법안 발의 계획에 대해 “여러 의원님들이 관련 법안을 내고 있기 때문에, 현안질의 하고 난 다음주에 전체회의를 열어서 합의된 법안을 통과시킬 수 있을 것이라 예상한다”고 말했다. 그러면서 “21대 국회에서 딥페이크 관련 법안을 만들었는데 유포 목적으로 제작한 경우만 처벌하도록 돼있다”며 관련 제도를 보완할 필요성을 언급했다. 여야는 지난 2월 이후 공석인 여가부 장관 문제로 인해 주무부처의 대처가 미비한 것이 아니냐는 지적에 “주무부처에서 이 상황을 키웠다기보다는 터질 때가 돼서 터진 것이다. 꼭 주무 장관의 문제는 아니다”라고 말했다. 반면 김 의원은 “야당 입장에서 장관이 공석이라는 것은 중요한 의사결정을 내릴 분이 차관으로 제한되기 때문에 정상적인 업무 처리에 어려움이 있다”며 “대통령실도 이번 기회에 다시 한번 여가부 장관 임명을 신속하게 고민해주셨으면 한다”고 촉구했다. -
[기자의 눈] '범죄 놀이터'된 텔레그램
사회 사회일반 2024.08.27 16:42:03최근 한 달 새 신문의 헤드라인을 장식한 사건들 중 단연 눈길을 끈 것은 대학가 범죄들이었다. ‘인하대 딥페이크방’ ‘마약 연합동아리’ 등 음지의 범죄가 진리의 상아탑에서 행해졌다는 사실은 많은 이들을 경악하게 했다. 더 충격적인 것은 이 같은 범죄가 이제 중고등학생들까지 파고들었다는 것이다. 26일 서울경찰청이 7월까지 10명의 청소년을 딥페이크 제작·유통으로 입건했다고 밝힌 데 이어 27일에는 인터넷에 ‘피해 학교 명단’까지 돌며 논란이 일파만파 확산됐다. 대통령의 작심 발언을 시작으로 전국 교육청과 경찰도 즉각 피해 사례 접수에 나섰다. 어쩌다가 미래의 꿈나무들이 이 같은 음침한 범죄에 널리 가담하게 된 것일까. 바로 모바일 메신저 ‘텔레그램’ 채널(단체 채팅방)에서 그 실마리를 찾을 수 있다. 텔레그램 채널은 최대 수용 인원이 20만 명에 달해 성착취물 공유 등 ‘집단범죄’의 온상이 됐다. 범죄 행위가 발각될 위기에 처하면 채팅방 ‘폭파’ 기능을 활용해 증거를 쉽게 인멸할 수도 있다. 정보기술(IT)에 능숙한 젊은이들은 텔레그램의 특징들을 적극 활용해 ‘완전범죄’를 저지르고자 했다. 인하대 딥페이크 공유 채널에는 1000명이 넘는 참가자들이 가입해 있었고 ‘마약동아리’ 일당은 텔레그램에서 만난 딜러와 마약을 거래하다가 수사가 시작된 뒤에는 마약 수사 대처법을 알려주는 채널에 가입해 휴대폰 초기화 방법 등을 공유했다. 비록 이들은 붙잡혔지만 온라인 범죄를 놓고 보면 빙산의 일각일 뿐이다. 텔레그램 본사가 수사 협조 요청에 일절 응하지 않는 만큼 현재로서는 채널 잠입 정도가 범죄자 색출을 위해 할 수 있는 최선이기 때문이다. 정부가 2021년 성착취물 유포를 방치한 플랫폼 사업자도 처벌할 수 있는 ‘n번방 방지법’을 대응책으로 내놓았지만 정작 텔레그램은 ‘사적 채팅방’으로 분류해 아예 적용 대상에서 제외했다. 국가가 손을 놓고 있다는 지적이 이어지자 방송통신심의위원회는 이날 텔레그램과 핫라인을 구축하겠다는 등의 대책을 내놓았다. 늦었지만 최소한의 면목을 세우기 위한 좋은 시작이라고 본다. 프랑스처럼 텔레그램 대표를 체포하지는 못하더라도 적어도 독일과 브라질처럼 텔레그램을 앱스토어에서 삭제하는 정도의 강단은 보여주기를 바란다. -
‘딥페이크 성범죄’ 전국적 확산… 경찰, 특별 집중단속 실시
사회 사회일반 2024.08.27 16:01:11경찰청이 딥페이크 성범죄를 단속하기 위해 7개월간 특별 집중단속에 나선다. 27일 경찰청은 오는 28일부터 내년 3월 31일까지 ‘딥페이크 성범죄 관련 특별 집중단속’을 실시한다고 밝혔다. 최근 전국 곳곳의 초·중·고등학교 학생들이 여성의 얼굴에 음란물을 합성한 ‘딥페이크 영상물’을 텔레그램 등에서 유포하는 사태가 발생하면서 경찰이 대응에 나선 것이다. 과거에는 딥페이크 등 합성을 위해 고도의 기술이 필요했다면, 현재는 인공지능 기술이 발전하면서 누구나 인터넷 검색만으로 쉽게 허위 영상물 등을 제작할 수 있게 됐다. 이에 따라 지인이나 유명인의 일상사진이나 영상을 대상으로 나체사진을 합성하는 등 딥페이크 성범죄의 위협이 크게 증대되고 있다. 실제 허위영상물 등 범죄 관련 발생 건수는 해를 거듭할수록 늘어나고 있다. 지난 2021년 156건이었던 허위영상물 등 범죄는 2022년 160건, 2023년 180건으로 늘어났으며, 올해 상반기에만 297건이 적발됐다. 특히 10대 청소년 범행의 증가세가 가팔라지는 추세다. 2021년 전체 피의자 수 대비 10대 피의자의 비율은 65.4%였지만, 지난해에는 75.8%까지 치솟기도 했다. 일부 누리소통망에서는 참여자들끼리 특정 지역 및 학교의 공통 지인을 찾아 그 지인을 대상으로 허위영상물등을 공유하는 등 범행 수법이 구체화·체계화되고 있는 상황이다. 경찰은 시·도경찰청 사이버성폭력수사팀을 중심으로 적극적으로 단속해나갈 예정이며, 딥페이크 제작부터 유포까지 추적, 검거할 방침이다. 또한 경찰청은 시·도경찰청에 △딥페이크 탐지 소프트웨어를 활용한 분석 △국제공조 등 수사에 필요한 사항을 지원할 예정이다. 특히 딥페이크 대상이 아동·청소년일 경우 아동·청소년성착취물에 해당하므로, 청소년성보호법을 적용해 엄격하게 대응할 방침이다. 또한 10대 청소년들의 ‘딥페이크’ 등 디지털 성범죄를 예방하기 위해 학교전담경찰관(SPO)을 중심으로 △범죄첩보 수집 △경각심 제고를 위한 사례 중심 예방 교육 △홍보 등 예방 활동을 병행할 예정이다. 경찰청은 “딥페이크 성범죄는 피해자의 인격을 말살하는 중대한 범죄이다. 이를 발본색원하여 국민의 불안감을 불식시킬 수 있도록 최선을 다하겠다”라며 “국민의 적극적인 신고·제보를 당부드린다”라고 밝혔다. -
[속보] 서울경찰청, 청소년 딥페이크 관련 '긴급 스쿨벨' 발령
사회 사회일반 2024.08.27 15:27:24최근 청소년을 대상으로 한 ‘딥페이크(AI 기반 합성 이미지)’ 불법합성물 범죄 공포심이 확산하는 가운데 올해 두번째 ‘긴급 스쿨벨’이 발령됐다. 서울경찰청과 서울시 자치경찰위원회는 최근 딥페이크 성범죄가 증가하는 상황에서 특히 10대의 비율이 높다는 점을 감안해 이 같은 조치를 취했다고 27일 밝혔다. 서울청은 관계기관과 협력해 집중적인 예방 활동을 펼치기로 했다. 긴급 스쿨벨은 청소년과 관련한 중요 이슈가 발생하면 학교(1347개) 및 학부모(약 78만 명)에게 주의·대응 요령 등을 'E-알리미'를 통해 실시간으로 전파하는 것을 뜻한다. 긴급 스쿨벨 내용에는 딥페이크는 일상을 파괴하는 성범죄로 강력히 처벌된다는 점과 피해자에게 씻을 수 없는 상처를 유발할 수 있다는 메시지가 담겼다. 더불어 소셜미디어(SNS) 단체 채팅방 등에서 딥페이크로 의심되는 게시글을 인지할 경우 112나 117로 신고 또는 학교전담경찰관(SPO)으로 알려달라고 당부했다. 앞서 서울청은 전날 “지난 7월 말까지 초·중·고등학교 텔레그램 성착취 신고가 10건 접수됐고 이와 관련해 14세 이상 청소년 10명을 입건했다”며 “해당 범죄에 대해서도 촉법소년 규정이 적용되며, 시 교육청 등과 함께 사례, 처벌 조항 등을 정리해 학교별로 진출해 예방 교육을 할 예정”이라고 밝힌 바 있다. 서울청은 이외에도 신학기를 맞아 딥페이크 피해사례와 정보 등을 입수하고 범죄예방 교육 활동에도 힘쓸 계획이다. 특히 딥페이크 범죄 수사에 있어선 사안에 따라 구속수사 등 엄정 대응을 할 방침이다. -
경남 청소년 일상에도 퍼진 딥페이크 성범죄
사회 사회일반 2024.08.27 14:26:53경남에서도 청소년 사이에 첨단조작기술(딥페이크)을 쓴 불법 합성물 성범죄 피해 우려가 커지고 있다. 경남교육청은 27일 하동에서 발생한 중학생 디지털성범죄 딥페이크 관련 브리핑을 열고 피해 학생은 4개 학교 12명이라고 밝혔다. 가해 학생은 1학년 남학생 6명이다. 이 사건은 지난 3월 27일 하동 모중학교 남학생 6명이 텔레그램 단체방을 만들어 피해 여학생 12명의 사진을 합성해 자신들의 텔레그램 단체방에 공유했다가 지난 7월 가해 학생 1명이 영상의 존재를 선배에게 알리면서 공론화됐다. 도교육청은 가해학생들이 공유한 사진은 경찰에서 포렌식 조사를 한 결과 외부로 유출되지 않았고, 현재 피해 사진은 전부 삭제했다고 밝혔다. 도교육청은 현재 피해학생과 보호자를 대상으로 심리상담과 치료 지원을 하고 있으며 정상 등교 중이다. 가해 학생 징계 등을 논의할 학교폭력대책심의위원회는 29일 열린다. 하동 뿐 아니라 경남 곳곳에서도 피해가 이어지고 있다. 올해 경남지역 학교에서 딥페이크 관련 사안이 접수된 것은 총 24건이다. 지역별로는 창원과 진주, 김해에서 각각 5건, 통영 4건, 거제 2건, 사천과 함안, 하동에서 각각 1건이다. 또 초등학교가 1건, 중학교 13건, 고등학교 10건의 범죄가 발생했다. 특히 하동에서 발생한 사건과 같이 중학생은 촉법소년에 해당하는 경우가 많아 형사처벌이 어렵다. 도교육청은 온라인 커뮤니티에 공개된 텔레그램 딥페이크 피해자 학교 명단에 경남지역학교도 20여 개가 포함돼 있는 것을 확인하고 실제 관련 여부에 대해서도 확인 중이다. 배경환 도교육청 민주시민교육과장은 "초중고교 학생들이 손쉽게 앱에 접근해 영상과 사진 등을 합성할 수 있어 디지털 성범죄 사건이 다수 발생하고 있는 것으로 보인다"며 "앱 운영 업체에 음란물 차단 등 협조를 구하고 성인지 교육과 사이버범죄 예방 교육 등을 강화하고 경찰, 경남도와 공조해 성범죄에 대응하겠다"고 말했다. 한편 정재욱(국민의힘·진주1) 도의원은 지난 6월 18일 도의회 본회의 5분 발언에서 “경남도 디지털 성범죄 방지 및 피해 지원 조례와 경남도교육청 디지털 성범죄 예방 및 교육에 관한 조례가 있지만 딥페이크 내용은 빠져 신종 성범죄에 대응하기에는 부족하다”고 밝힌 바 있다. -
與 우재준 "딥페이크 범죄 '7년 이하 징역' 법안 발의"
정치 국회·정당·정책 2024.08.27 13:52:04우재준 국민의힘 의원이 가짜뉴스와 딥페이크 유포 방지를 위한 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정안’을 대표 발의했다고 27일 밝혔다. 개정안은 최근 불특정 다수를 대상으로 하는 딥페이크 영상물이 SNS, 텔레그램 등 플랫폼을 통해 유포·확산되고 있는 것에 대한 조치로 정보통신망에서의 권리 보호 및 지능정보사회 윤리 확립 강화를 목표로 한다. 이를 위해 △딥페이크 기술을 악용한 동영상 피해 예방 △타인의 의사에 반하여 얼굴·신체 또는 음성을 대상으로 한 영상물 또는 음성물과 이를 편집·합성·가공한 정보의 유통 금지 등을 법안에 담았다. 이를 위반해 타인의 권리를 침해한 자에게는 7년 이하의 징역과 10년 이하의 자격정지 또는 5천만 원 이하의 벌금을 부과하는 조항도 신설했다. 앞서 윤석열 대통령은 최근 텔레그램 기반 딥페이크 음란물 제작 및 유포 사건이 확산하는 것과 관련해 "디지털 성범죄를 뿌리뽑아 달라"며 강력 대응할 것을 주문한 바 있다. 우 의원은 “인공지능의 급격한 발전을 악용하는 사례가 늘고 있다”며 “가짜정보와 딥페이크 영상 등이 무분별하게 확산돼 심각한 경제적·정신적 피해를 야기하고 있다”고 말했다. 이어 “이미 발생한 피해에 철저한 실태조사가 진행될 수 있도록 노력해야 한다”며 “윤석열 정부를 도와 건전한 디지털 문화가 자리매김할 수 있도록 최선을 다하겠다”고 강조했다. -
野, 딥페이크 처벌 강화법 내놓는다
정치 정치일반 2024.08.27 11:43:05딥페이크 성범죄물 등 성착취 허위영상물을 소지·구입·저장 또는 시청한 이들을 처벌할 수 있도록 하는 법안이 더불어민주당에서 나왔다. 국회 여성가족위원회 민주당 간사인 김한규 의원은 27일 이같은 내용을 담은 성폭력방지 및 피해자보호 등에 관한 법률 일부개정법률안을 발의했다고 밝혔다. 법안은 딥페이크 성범죄에 대한 처벌을 강화하는 방향에 초점을 맞췄다. 현행법은 딥페이크 성범죄물 등엔 이용자에 대한 처벌 규정이 없어 처벌 공백이 있다는 지적이 있었다. 이에 개정안은 딥페이크 성범죄물 등 성착취 허위영상물을 소지·저장·시청한 사람 또한 징역 1년 이하 또는 1000만 원 이하의 벌금에 처하도록 하는 내용을 담고 있다. 김 의원은 “모 대학 내 익명 커뮤니티에선 법적 공백을 언급하며 처벌을 피할 수 있다는 식의 글들이 올라온 것으로 알려졌다”며 “딥페이크 성범죄 가담자들에게 경각심을 주기 위해 이번 개정안을 신속하게 준비했고, 빠르게 통과시켜 일벌백계해야 한다”고 강조했다. -
‘퇴원’ 이재명 “국회 차원의 딥페이크 범죄근절 대책 마련하라”
정치 정치일반 2024.08.27 11:15:36이재명 더불어민주당 대표가 최근 딥페이크 범죄 확산과 관련 “딥페이크 범죄 근절을 위한 국회 차원의 대책을 마련하라”고 지시했다. 민주당은 27일 출입기자들에게 보낸 메시지에서 이같이 밝히며 “특히 피해자 보호 방안과 딥페이크 제작·배포자에 대한 강력한 처벌규정을 강구하라고 당부했다”고 전했다. 이 대표는 지난 20대 대선 당시 딥페이크 범죄를 강력 처벌하겠다는 공약을 내건 바 있다. 한편 코로나19 확진으로 입원 치료를 받던 이 대표는 이날 퇴원한 뒤 28일 최고위원회의를 시작으로 당무에 복귀한다. -
尹 "딥페이크, 피해자 미성년자 많아…디지털 성범죄 뿌리 뽑아야"
정치 정치일반 2024.08.27 10:59:20윤석열 대통령은 27일 “최근 불특정 다수를 대상으로 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “명백한 범죄행위로 관계 당국은 디지털 성범죄를 뿌리 뽑아야 한다”고 강조했다. 윤 대통령은 이날 제37차 국무회의에서 “딥페이크 영상물은 피해자가 미성년인 경우가 많고, 가해자 역시 대부분 10대로 드러나고 있다”며 “단순 장난이라 둘러대기도 하지만, 익명의 보호막에 기대 기술을 악용하는 명백한 범죄행위”라고 규정했다. 특히 윤 대통령은 “우리 누구나 이러한 디지털 성범죄의 피해자가 될 수 있다”며 “관계 당국에서는 철저한 실태 파악과 수사를 통해 이러한 디지털 성범죄를 뿌리 뽑아달라”고 말했다. 윤 대통령은 “건전한 디지털 문화가 자리매김할 수 있도록 교육 방안도 강구해 주기 바란다”고 주문했다. 한편 여성의 얼굴과 나체 사진을 합성하는 일명 ‘딥페이크’ 성범죄가 기승을 부리면서 피해가 확산하고 있다. 김봉식 서울경찰청장은 26일 정례 기자간담회에서 “학생들은 물론이고 교사에 대한 (영상물)도 만들어서 확산하는 상황”이라며 “IT 기기에 익숙한 청소년 중심으로 확산해서 굉장히 우려스럽게 생각한다”고 밝혔다. 서울경찰청에 따르면 지난달 말 기준 올해 서울에서 딥페이크 영상물과 관련해 검거된 청소년 피의자는 10명이다. 형사 미성년자(촉법소년)인 만 14세 미만 피의자는 입건 대상에서 제외됐다. 관련 수사는 서울청 사이버 수사대가 맡고 있다. -
[속보] 尹 "딥페이크 영상 유포…단순 장난 아닌 명백한 범죄"
정치 정치일반 2024.08.27 10:18:15 -
학생에 교사, 군인까지…여성들 일상에 침투한 ‘딥페이크’ 공포
사회 사회일반 2024.08.27 10:10:33모바일 메신저 ‘텔레그램’ 내에서 성행하는 ‘딥페이크(인공지능 기반 이미지 합성)’ 음란 영상물 제작·유포 범죄에 따른 공포심이 확산하고 있는 가운데, 최근 운영자가 검거된 서울대·인하대를 포함한 대학가와 중·고등학교, 군대에서도 유사한 종류의 대화방이 잇따라 발견되고 있다. 최근 사회관계망서비스(SNS)에서 여성의 얼굴에 음란물을 합성해 편집한 허위 영상물을 제작하고 유포하는 것으로 의심되는 텔레그램 단체 대화방 관련 제보 글이 쏟아지면서 파문이 커지고 있다. 피해자 중에는 대학생뿐 아니라 미성년자는 물론 교사, 여군 등도 포함된 것으로 전해졌으며 ‘피해 지역·학교 명단’으로 떠돌고 있는 곳만 100곳이 족히 넘는 것으로 확인됐다. 이외에도 전국 지역별로 세분된 대화방이 다수 만들어져 대화방마다 수천 명이 참여 중인 것으로 알려졌다. 이들은 이른바 ‘겹지인방’이라는 이름으로 참가자들이 서로 같이 아는 특정 여성의 정보를 공유하고 딥페이크 영상물을 제작해 유포하는 방식으로 성희롱했다. 실제 텔레그램의 채팅방 검색을 지원하는 웹사이트 ‘텔레메트리오’에서 ‘겹지방(겹지인방)’을 검색한 결과 이날 기준 3500여 명이 구독하고 있는 ‘대학별 겹지방’이 검색됐다. 이 외에도 1800여 명이 구독 중인 ‘대학 겹지방’ 등 유사한 텔레그램 채널도 발견됐다. 특히 참여 인원이 22만 명에 이르는 텔레그램 채널까지 성행하고 있는 것으로 확인됐다. 해당 채널에는 불법합성물 제작 프로그램이 탑재돼 있어 여성의 사진 한 장만으로도 음란물을 제작할 수 있는 것으로 알려졌다. 가해자들은 주로 인스타그램 등 SNS에 올라온 피해자들의 사진을 무단으로 저장해 범행에 활용한 것으로 전해졌다. 여군을 상대로 딥페이크 영상을 제작·유포하는 대화방도 있었다. ‘군수품 창고 대기방’이라는 이름의 해당 대화방은 참여 인원이 900명이 넘으며 대다수가 현역 군인인 것으로 알려졌다. ‘군수품’은 군사 목적을 위해 쓰이는 무기와 식량 등을 일컫는 말로, 대화방 참여자들은 여군을 해당 용어로 칭하며 비하했다. 이 방에 참여하기 위해선 △특정 여군의 군복 사진과 전화번호, 소속, 계급과 나이 등 개인정보를 운영자에게 제출 △텔레그램 비밀 대화로 현역 군인임을 인증 △합성 장인(匠人) △관리자가 지정한 여군에게 능욕 메시지를 보내고 반응을 운영자에 제출하는 등 4가지 조건 중 하나를 충족해야 한다. 이들은 최근 인하대 사건으로 논란이 커지자 “당분간 3번, 4번 미션을 수행한 사람 외에는 받지 않겠다”는 추가 공지를 내걸기도 했다. 전국적으로 딥페이크 음란물이 제작·유포되고 있다는 의혹이 퍼지자 여성들의 불안도 확산 중이다. 여성들을 대상으로 자신의 사진이 담긴 SNS 계정을 비공개로 설정하고 사진을 내리라는 조언이 공유되기도 했다. 경기도의 한 고등학교 학생회 SNS 계정에는 “현재 텔레그램을 통해 (본교) 학생들의 신상 및 딥페이크 합성 사진이 유포되고 있다”며 “SNS에 게시한 개인 사진을 내려 피해를 예방하시기 바란다”는 게시물이 올라오기도 했다. 한편 서울경찰청도 이날 10대 청소년의 딥페이크 음란물 제작·유포 범죄가 촉법소년 규정에 적용된다고 강조했다. 경찰청에 따르면 올해 서울에서만 10대 청소년 10명이 텔레그램 기반 딥페이크 음란물 제작·유포 사건으로 입건됐다. 서울경찰청 관계자는 “지난 7월 말까지 초·중·고등학교 텔레그램 성착취 신고가 10건 접수됐고 이와 관련해 14세 이상 청소년 10명을 입건했다”며 “해당 범죄에 대해서도 촉법소년 규정이 적용되며, 시 교육청 등과 함께 사례, 처벌 조항 등을 정리해 학교별로 진출해 예방 교육을 할 예정”이라고 밝혔다. 이와 관련해 김봉식 서울경찰청장은 “학생은 물론이고 교사에 대한 것도 만들어 퍼지고, 정보기술(IT) 기기에 익숙한 청소년 중심으로 확산해 굉장히 우려스럽다”며 “심각한 범죄 행위로서 처벌받을 수 있고, 이러한 범죄 전력은 향후 사회생활에 큰 장애가 될 수 있다는 점을 시 교육청과 협의해 학생들에게 교육할 계획”이라고 강조했다. 그러나 텔레그램이 서버를 외국에 두고 있을 뿐만 아니라 높은 보안성·익명성을 특징으로 하기 때문에 수사에 한계가 있다는 지적도 나온다. 수사기관이 신고나 제보를 받고 수사에 착수해도 손쉽게 채널에 업로드된 영상물과 활동 내역을 삭제할 수 있기 때문이다. 이러한 점 때문에 텔레그램이 유해 콘텐츠의 새로운 온상으로 떠오르고 있다는 우려도 나온다. 텔레그램 창업자이자 최고경영자(CEO)인 파벨 두로프가 24일(현지시간) 프랑스에서 전격 체포된 것도 이런 배경 속에서 주목된다. 두로프는 텔레그램이 범죄에 악용되는 것을 막기 위한 조치를 하지 않은 혐의를 받는 것으로 전해졌다. -
방심위, '텔레그램 딥페이크' 대책마련 긴급회의 소집
산업 IT 2024.08.27 09:58:59방송통신심의위원회가 텔레그램 기반 딥페이크 음란물 제작 및 유포 사건가 관련해 긴급회의를 소집하고, 대책 마련에 나섰다. 방심위는 27일 실·국장 회의를 소집하고, 오는 28일에는 전체회의를 열기로 했다. 최근 텔레그램 딥페이크 음란물 확산 사태와 관련해 대책을 마련하기 위해서다. 방심위는 텔레그램 피해 신고 접수와 모니터링을 강화하고, 경찰 수사 의뢰 등을 추진한다. 텔레그램에도 영상 삭제 등 강력한 대책을 요구할 계획이다. 또 방심위는 매일 개최되는 전자심의를 활용해 24시간 이내에 성적 허위영상물을 시정요구 조치하기로 했다. 아울러 중점 모니터링 과정에서 파악된 악성 유포자 정보는 수사의뢰하는 등 3단계 조치를 취할 예정이다. 방심위 관계자는 "디지털성범죄정보는 무한 복제·유포 등 확산 속도가 빠르기 때문에 초동대처가 무엇보다 중요한 만큼 인터넷 이용자들이 위원회에 적극적으로 신고해줄 것"을 당부했다. 한편, 방통심의위는 작년 한 해 성적 허위영상물에 대해 총 7187건의 시정요구를 결정했다. 올해는 7월말까지 2023년 대비 약 90%에 달하는 총 6434건을 시정요구 결정했을 정도로 성적 허위영상물의 확산세가 빠른 상황이다. -
교육부 "딥페이크 현황파악 해 달라"…교육청에 협조요청
사회 사회일반 2024.08.27 09:34:11교육부가 전국 시도교육청에 사회관계망서비스(SNS) 이용자의 사진을 합성해서 만든 '딥페이크(Deepfake) 음란물' 현황파악을 요청했다. 피해 사례를 모은 제보방에 전국 각급학교 300여 곳의 이름이 오르고, 경찰 수사도 일부 지역에서 착수되는 등 파문이 확산할 조짐을 보이자 긴급 대응에 나선 것이다. 교육부 관계자는 27일 서울경제신문에 “학교명까지 거론되며 공포감이 커짐에 따라 시도교육청에 공문을 보내 현황을 파악해 달라고 요청했다”고 밝혔다. 교육부는 전날에는 딥페이크 음란물에 대응할 수 있도록 신고 기관 등이 담긴 공문을 시도교육청에 전달했다. 서울시교육청도 이르면 이날, 늦어도 28일 ‘스쿨벨’을 발령할 예정이다. 스쿨벨은 신종 학교폭력 등이 발생할 경우 서울경찰과 교육청이 협력해 서울 시내 1374개교 학부모 78만 명에 전파해 범죄를 예방하는 알림 시스템이다. 또 딥페이크 기술을 악용한 청소년 성범죄를 예방하기 위해 관련 교육 자료를 제작해 각 학교에 배포할 계획이다. -
"'군수품'으로 만들고 싶은 여군 사진 보내라"…이번엔 '군인 딥페이크 능욕방' 논란 일파만파
사회 사회일반 2024.08.26 22:07:28올 들어 ‘서울대 N번방’, ‘인천 소재 대학 딥페이크 채팅방’ 등 모바일 메신저 텔레그램에서 불법합성물(딥페이크)을 제작·유포하는 성범죄가 기승을 부리고 있다. 이 가운데 현역 군인으로 추정되는 이들이 여군들을 상대로 유사한 대화방을 운영 중이라는 제보가 나오면서 파장이 일고 있다. 여군 대상 불법합성물 텔레그램 채널의 운영자는 20명 이상, 참가자 수는 900명 이상인 것으로 확인됐다. ‘군수품 창고 대기방’이라는 텔레그램 채널의 운영자는 여성 군인을 ‘군수품’으로 비하하며 참가자들에게 “’군수품'으로 만들고 싶은 여군의 군복 사진과 전화번호와 소속, 계급과 나이 등을 제출하라”고 요구했다. 운영자는 “(본인이) 지정한 여군에게 능욕 메시지를 보내고 반응을 인증샷으로 보내라”는 조건도 내걸었다. 최근 인하대 재학생과 졸업생 등이 타깃이 된 단체 대화방 운영자들이 검거되자, 해당 채널 운영자는 “인하대 사건으로 시끄럽다. 당분간 일부 조건만 받겠다”는 메시지도 보낸 것으로 확인됐다. 해당 채팅방에서 실제 피해를 당한 전직 군인의 사례도 드러났다. 26일 한국일보에 따르면 현역 여군 A씨는 "실제 제작된 여군 성착취물을 확인해 보니 피해자 얼굴, 이름, 소속, 사단 마크까지 적나라하게 나와 있다”며 “한 피해자는 수년 전 자신의 사적 SNS에 올린 사진이 성착취물에 활용된 사실을 실제로 확인했다”고 전했다. 최근 텔레그램에서는 대학생과 여군뿐 아니라 중·고교생 등 미성년자는 물론 교사 등을 대상으로 음란물을 합성·유포하는 등 유사한 채널이 잇따라 발견되고 있다. 이른바 '겹지인방'이라는 이름으로 운영되는 채팅방에서는 참가자들이 서로 같이 아는 특정 여성의 정보를 공유하고 딥페이크 영상물을 제작·유포하고 있다. 가해자들은 주로 인스타그램 등 소셜미디어(SNS)에 올라온 피해자들의 사진을 무단으로 저장해 범행에 활용한 것으로 알려졌다. 실제 텔레그램의 채팅방 검색을 지원하는 '텔레메트리오'에서 '겹지방'(겹지인방)을 검색한 결과, 26일 기준 3500여명이 구독하고 있는 '대학별 겹지방'이 바로 검색됐다. 외에도 대전, 수원, 남양주 등 지역별 겹지방이 나왔다. 딥페이크 성적 허위 영상물로 인한 피해는 갈수록 커지고 있다. 국회 행정안전위원회 소속 조은희 국민의힘 의원실이 21일 경찰청에서 제출받은 '딥페이크 범죄 현황'에 따르면, 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가했다. 특히 올해 서울에서만 텔레그램 기반 딥페이크 음란물 제작·유포 사건으로 10대 청소년 10명이 입건됐을 정도로 연령대를 막론하고 관련 범죄의 영향력이 커지고 있다. 이처럼 일상 전반에서 ‘딥페이크 집단 성범죄’ 사건이 확산하는 것과 관련, 박지현 전 더불어민주당 비상대책위원장은 “국가적 재난 상황을 선포하고 시급히 대안을 마련해야 한다”고 밝혔다. 그는 26일 자신의 SNS를 통해 “누구나 디지털성범죄의 피해자가 될 수 있는 상황이다. 정부는 디지털 성범죄 뿌리를 뽑아야 한다”고 강조했다. -
'텔레그램 성범죄' 가해 청소년, 올 들어 서울서만 10명 입건됐다
사회 사회일반 2024.08.26 12:00:00올해 ‘서울대 n번방’, ‘인하대 딥페이크 채팅방’까지 모바일 메신저 ‘텔레그램’을 활용한 성범죄가 연이어 터지고 있는 가운데 성착취·지인능욕 범죄를 저질러 경찰에 붙잡힌 14세 이상 청소년들이 올 들어 7월까지 서울에서만 열 명에 달하는 것으로 집계됐다. 26일 서울경찰청 관계자는 오전 10시 종로구 서울경찰청에서 기자간담회를 열고 “올해 7월 말까지 14세 이상 청소년(촉법소년 미적용) 10명을 텔레그램 성착취·지인능욕 혐의로 검거했다”고 밝혔다. 이어 서울청 측은 “피해 대상이 학생은 물론이고 교사로도 확산되고 있는 상황”이라며 “이같은 범죄 전과가 향후 사회 생활에 큰 장애가 될 수 있다는 점을 학생들에게 알릴 수 있도록 시교육청 등과 협의해서 학교별로 예방 교육을 할 예정”이라고 덧붙였다. 서울청은 지난 16일 갑작스럽게 폐업해 수많은 피해자를 양산한 온라인 쇼핑몰 ‘알렛츠’의 정산금 지연 등 사기혐의 관련 수사상황도 전했다. 서울청 관계자는 “23일 기준으로 103건(고소·고발)이 접수돼 성동경찰서를 집중 수사관서로 지정했다”며 “피해자 조사를 진행중이고 회사 대표를 출국금지시키는 등 신속하게 수사하고 있다”고 전했다. 성동경찰서는 지난 19일 박성혜 인터스텔라(알렛츠 운영사) 대표를 특정경제범죄가중처벌법상 사기 혐의로 입건하고 출국금지 조치를 내렸다. 경찰은 알렛츠에서 일했던 직원 등 관계자를 조사했으며 조만간 박 대표를 소환해 조사할 예정으로 알려졌다. 지난 22일까지 상품 미배송 및 환급 지연 피해자들의 한국소비자원에 접수한 소비자 상담은 470건을 넘어섰다. 입점 판매자들은 사실상 7월부터 정산금을 받지 못한 경우가 많아 피해액이 최대 수백억원대에 이를 것으로 추산된다. 티몬·위메프 및 해피머니 사태와 관련해선 “92건(고소·고발)이 접수돼 그 중 53건을 서울청 광역수사단 금융범죄수사대에서 수사 중”이라며 “나머지는 강남경찰서에서 수사하고 있으며 검찰과도 긴밀히 협의하고 있다”고 말했다.
이시간 주요 뉴스
영상 뉴스
서경스페셜
주소 : 서울특별시 종로구 율곡로 6 트윈트리타워 B동 14~16층 대표전화 : 02) 724-8600
상호 : 서울경제신문사업자번호 : 208-81-10310대표자 : 손동영등록번호 : 서울 가 00224등록일자 : 1988.05.13
인터넷신문 등록번호 : 서울 아04065 등록일자 : 2016.04.26발행일자 : 2016.04.01발행 ·편집인 : 손동영청소년보호책임자 : 신한수
서울경제의 모든 콘텐트는 저작권법의 보호를 받는 바, 무단 전재·복사·배포 등은 법적 제재를 받을 수 있습니다.
Copyright ⓒ Sedaily, All right reserved