-
300만 명 본 ‘딥페이크 피해학교 지도’ 만든 중3…“제2의 n번방 사태, 경각심 주고파”
사회 사회일반 2024.08.28 21:32:32모바일 메신저 ‘텔레그램’을 기반으로 한 ‘딥페이크(인공지능 기반 이미지 합성)’ 음란 영상물 제작·유포 범죄 피해가 잇따르고 있는 가운데 딥페이크 피해 학교를 한 눈에 볼 수 있는 사이트가 등장해 눈길을 끈다. 28일 웹사이트 ‘딥페이크 피해학교 지도’에 접속하자 “지금까지 누적 접속 횟수는 300만 회를 넘겼고, 등록된 학교도 500개가 넘는다. 더 많은 피해 학교를 알리기 위해 노력하겠다”는 안내문이 떴다. 해당 사이트를 만든 이는 중학교 3학년 남학생 A군으로, 코로나19 사태 당시 확진자를 알려주는 지도를 접한 뒤 사회에 기여하고자 하는 마음으로 피해학교 지도 사이트를 만들었다고 한다. 이날 A군은 JTBC ‘아침＆(앤)’에 “다니는 학교에서도 피해자가 5명 정도 된다고 들었다”며 “아는 학생이 피해를 보게 되니 ‘실제 (있는 일이) 맞구나’라는 생각에 사이트를 만들었다”고 사이트를 제작하게 된 경위를 설명했다. 그는 약 2시간여 만에 해당 지도를 만든 것으로 알려졌다. A군이 제작한 ‘딥페이크 피해학교 지도’에는 현재 500여 곳이 넘는 전국 초·중·고등학교와 대학교가 피해 학교로 등록돼 있으며, 제보를 통해 학교 목록을 갱신하고 있다. 해당 사이트는 안내문을 통해 “현재 딥페이크 범죄 사태가 제2의 n번방 사태라고 불리는 만큼 이 사건에 대해 경각심을 주고, 더 많은 사람들이 피해 사실을 알 수 있게 하도록 노력할 것”이라고 밝혔다. 한편 최근 텔레그램 내에서 학생을 비롯해 군인 등 여성에 대한 불법 합성물들이 무차별적으로 확산하고 있다. 여성가족부 산하 한국여성인권진흥원에 따르면 올해 1월1일부터 8월25일까지 디지털성범죄피해자지원센터로부터 딥페이크 피해 지원을 요청한 781명 가운데 37%(288명)는 10대 이하였다. 딥페이크로 인해 피해 지원을 요청한 미성년자는 2022년 64명에서 올해(8월 25일 기준) 288명으로 2년 만에 5배 가까이 증가했다. 이는 같은 기간 전체 피해 지원 요청자가 212명에서 781명으로 3.7배 증가한 속도보다 더 가파르다. 이에 교육부는 딥페이크 범죄를 촉법소년 연령 하향 논의 계기로 삼겠다는 입장을 밝히기도 했다. 28일 배동인 교육부 정책기획관은 가해자 대부분이 촉법소년에 해당해 처벌이 미약하다는 질의에 “촉법소년 연령 하한이 이번 기회에 논의될 수 있을 것”이라고 답했다. -
인천서 고등학교 교사 '딥페이크 사진' 제작한 고등학생 검거
사회 사회일반 2024.08.28 20:53:57딥페이크 기술을 활용해 여교사의 얼굴을 나체사진에 합친 뒤 온라인 상에서 유포한 고등학생이 경찰에 붙잡혔다. 28일 인천 남동경찰서는 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 고등학생 10대 A 군을 수사하고 있다고 밝혔다. A 군은 지난달 인공지능(AI)을 이용한 '딥페이크' 기술로 고등학교 여교사 2명의 얼굴을 나체 사진에 합성한 뒤 사회관계망서비스(SNS)에서 유포한 혐의를 받고 있다. 앞서 피해자들로부터 진정서를 접수한 경찰은 수사 끝에 허위 사진 제작·유포자로 A 군을 특정했다. 경찰은 A 군이 주로 텔레그램을 통해 성범죄물을 유포한 것으로 보고 디지털 포렌식을 진행 중이다. 경찰은 추가 피해자 여부도 확인 중인 것으로 파악됐다. 포렌식 작업이 끝나는 대로 A 군을 불러 조사할 방침이다. -
'딥페이크 음란물 생성' 텔레그램 봇 8개 조사한다
사회 사회일반 2024.08.28 20:31:02경찰이 음란물을 생성하는 딥페이크 성범죄 프로그램(봇) 8개에 대해 입건 전 조사(내사)에 착수했다. 28일 경찰에 따르면 서울경찰청은 딥페이크 음란물을 생성하는 텔레그램 봇 8개를 내사 중이다. 지난 26일 22만7000명이 이용한 것으로 추정되는 텔레그램 봇 첫 내사에 착수한 뒤 대상이 확대된 것이다. 경찰은 조사 대상을 지속해서 확대할 방침인 것으로 전해졌다. 경찰은 봇을 운영하는 이들을 추적하는 한편 '겹지인방' 등 해당 봇을 이용해 합성물을 만든 뒤 유포하는 텔레그램 단체방도 들여다보고 있다. 경찰 관계자는 "허위영상물이 유통되는 텔레그램 대화방에 대해 적극적으로 첩보를 발굴하고, 피해사례 확인 시 즉각 수사를 착수할 예정"이라고 말했다. 한편 경찰은 서울경찰청 사이버수사대 내에 태스크포스(TF)를 조직해 이날부터 딥페이크 성범죄 등 허위영상물 집중 대응에 나선다. TF는 총괄팀장인 서울경찰청 사이버수사과장을 필두로 3개 전담수사팀·사이버프로파일링팀·디지털포렌식팀·지원부서팀 등 총 6개 팀으로 구성됐다. 내년 3월 31일까지 7개월간 운영된다. 서울경찰청은 "허위영상물과 같은 디지털 성범죄는 피해자에게 씻을 수 없는 상처를 남기는 중대한 범죄"라며 "TF를 중심으로 딥페이크 등 허위영상물 성범죄를 제작부터 유포까지 근절하기 위해 최선의 노력을 다하겠다"고 전했다. -
서울시-방심위, 24시간 딥페이크 삭제 핫라인 구축 …예방교육도 확대
사회 사회일반 2024.08.28 17:16:20텔레그램을 통한 딥페이크 성범죄 피해가 확산되고 있는 가운데 서울시와 방송통신심의위원회가 24시간 딥페이크 영상물 삭제 체계를 공동으로 구축한다. 오세훈 서울시장과 류희림 방송통신심의위원장이 28일 긴급 회동을 갖고 딥페이크 영상물을 신속하게 삭제하기 위해 상호 핫라인을 구축하는 내용의 협약을 체결했다. 양측은 폐쇄형 사회관계망서비스(SNS) 내에 있는 딥페이크 불법영상물이 공개사이트에 유포될 경우 24시간내에 신속하게 모니터링 및 삭제·차단될 수 있도록 조치하기로 했다. 기존에는 서울시시 디지털성범죄안심지원센터에서 방심위에 삭제요청 할 때마다 각종 증빙자료를 제출해야 했으나 핫라인을 구축하면 시스템으로 연계하여 대량 건수를 일시에 삭제요청할 수 있게 된다고 시는 설명했다. 서울시는 지난 2022년 3월 서울디지털성범죄안심지원센터를 개소한 이래 초기상담, 수사·법률·심리·의료 및 삭제지원 등 1437명의 피해자를 원스톱으로 지원했다. 이중 딥페이크 피해자 총 72명에게 772건의 서비스를 지원했다. 서울시는 또 딥페이크 범죄에 아동·청소년도 쉽고 빠르게 대응할 수 있도록 카카오톡 오픈채팅방에 ‘딥페이크 SOS 전담 상담창구’를 개설해 신고방법 및 범죄 채증방법 등을 안내하기로 했다. 신고를 꺼리는 학생들도 익명으로 쉽게 상담할 수 있도록 카카오톡 오픈채팅방을 개설하고, 서울교육청을 통해 각 학교에 홍보하기로 했다. 이와 함께 서울시는 연말까지 딥페이크 영상물을 자동으로 삭제신고 하는 시스템을 구축하고, 딥페이크 검출기술도 개발할 방침이다. 특히 내년에는 인공지능(AI)을 기반으로 한 딥페이크 검출 기술 ‘서울 안심 아이(Seoul Safe Eye)’를 개발해 딥페이크와 원본 사진·영상물을 구분해 검출해 나갈 계획이다. 오 시장은 “오늘부터 이 시간부터 즉시 딥페이크 영상물을 신고받고 24시간 내 삭제하는 핫라인을 방송통신심의위원회와 함께 운영한다”며 “핫라인 구축을 통해 피해 영상물을 즉각적으로 삭제하고 피해자를 원스톱으로 지원하는 것은 전국 최초”라고 말했다. 이어 “올해 말까지 AI 기반 딥페이크 검출 기술과 자동 신고 시스템을 개발해 시간 단축, 삭제지원 건수 증가 등 시민들의 딥페이크 영상물 피해를 최소화하도록 노력하겠다”고 말했다. -
‘텔레그램’ 넘어 에스크·인스타서도 성행…딥페이크 피해 절반이 중학생
사회 사회일반 2024.08.28 17:04:46“지인 박제하려면 인스타·나이·사진 필수입니다.” “저 X 에스크에 수위 어느 정도 맞춰서 질문하면 받아주니 하고 싶은 사람은 가보시길.” 메신저 ‘텔레그램’이 딥페이크 음란물 등 ‘지인 능욕’ 범죄의 온상으로 지목되며 도마 위에 오른 가운데 타 소셜네트워크서비스(SNS) 플랫폼으로까지 디지털 성범죄가 확산되고 있다. 텔레그램에서 공유된 피해자의 다른 SNS로까지 가해자들이 유입되고 있지만 대부분 외국 서버에 기반해 수사기관이 추적에 난항을 겪고 있다. 특히 SNS 사용이 활발한 10대가 무방비하게 온라인 성범죄에 노출된다는 우려가 제기된다. 28일 서울경제신문 취재를 종합하면 텔레그램에 만연한 이른바 ‘겹지인방’에서는 여전히 피해자들의 이름과 학적, 인스타그램 아이디, 개인 에스크(asked) 주소 등 각종 신상 정보가 공유되고 있다. 해당 방에서는 딥페이크 합성물 공유는 물론 피해자들의 일상적인 사진 위에 자신의 성기를 올려놓거나 자위행위를 하고 ‘인증샷’을 올리는 행위도 나타났다. 가해자들은 텔레그램 대화방 내에서 각종 성희롱을 일삼은 뒤 인스타그램 다이렉트메시지(DM)이나 에스크 질문으로 피해자에게 직접 이를 보여주고 왔다며 타 SNS 계정 ‘원정 후기’를 공유하기도 했다. 이 과정에서 수십~수백 명의 가해자들이 미성년자의 에스크 계정으로 몰려가 성기 사진을 보내는 등 수위 높은 성희롱을 하는 경우도 빈번히 발생했다. 실제로 확인해본 한 10대 여학생의 에스크에는 ‘XX게 생긴 얼굴이다, XX 보고 싶다’ ‘네 사진을 보고 자위행위를 했다’ 등 희롱성 질문이 수백 개 등록돼 있었다. 텔레그램에서 가해자들이 “수위만 잘 지키면 (피해자가) 대답까지 해준다”며 SNS 주소를 공유하는 사이 해당 피해자는 영문도 모르고 사이버 성폭력에 노출되는 것이다. 간단한 가입 절차를 거쳐 익명으로 질문·답변을 주고받는 SNS인 에스크는 예전부터 동급생들이 익명으로 욕설을 하는 등 ‘사이버 학교폭력’의 무법 지대라는 지적을 받아왔다. 그런데 텔레그램 딥페이크 범죄와 연쇄적으로 결합되며 더욱 범죄 수위가 높아진 것이다. 다만 운영사 ‘모비온즈미디어’는 홈페이지에 자체적인 청소년 보호 정책을 실시하고 있다고 명시만 한 채 실질적으로는 유해물 대응에 손을 놓은 상태다. 취재진은 이날 수차례 운영사에 전화 연결을 시도했지만 결국 실패했다. 대표적인 SNS인 인스타그램을 이용한 미성년자 온라인 성범죄는 더욱 활발히 벌어지고 있다. 청소년폭력예방재단인 푸른나무재단의 한 관계자는 “10대 피해자의 나체 합성물을 제작해 DM으로 보내거나 피해자를 사칭하는 공개 계정을 만들어 나체 사진을 수십 장을 게시하는 사례도 있었다”고 말했다. 이어 “이 경우 ‘딥페이크’를 잘 모르는 학부모가 되레 속아서 피해자를 야단치기도 한다”며 “아이에게는 세상이 무너지는 수준의 심리적 충격”이라고 안타까워했다. 교육부가 17개 시도교육청을 통해 파악한 결과 올해 1월부터 전날까지 집계된 학생·교원 딥페이크 피해 건수가 총 196건(학생 186건, 교원 10건)이며 특히 중학교 피해가 100건으로 가장 많았다. 고등학교는 78건, 초등학교는 8건이었다. 미성년자를 신종 디지털 성범죄로부터 보호하기 위해 정부의 감시·처벌 강화와 함께 SNS 플랫폼 기업들도 발 빠른 대응에 나서야 한다는 지적이 나온다. 이와 관련해 방송통신심의위원회는 이날 텔레그램은 물론 페이스북, X(옛 트위터), 인스타그램, 유튜브 등 글로벌 온라인 플랫폼 사업자들과 협의체를 구성해 신속한 영상 삭제 차단 조치와 자율적인 규제를 강력히 요청하겠다고 밝혔다. 교육부 역시 학생·교원들의 피해에 대응해 ‘학교 딥페이크 대응 긴급 TF(가칭)’를 구성하기로 했다. TF는 매주 1회 학교 딥페이크 사안을 조사하고 경찰청·여성가족부·방송통신위원회 등 유관기관과 공조 및 협력 체계를 구축하기로 했다. 서울경찰청 역시 이날부터 7개월간 사이버수사과에 ‘허위영상물 집중대응 TF’를 운영한다. 한편 이날 서지영(부산 동래구) 국민의힘 의원 등 11명은 디지털성범죄피해자지원센터 설치의 법적 근거를 담은 ‘성폭력방지 및 피해자보호 등에 관한 법률 일부개정안’을 발의했다. 디성센터는 2018년 설립 이후 디지털 성범죄물 삭제 지원을 수행해오고 있다. 다만 법적으로 명확한 권한을 부여받지 못한 탓에 불법 사이트 측이 디성센터의 삭제 요청에 불응하는 경우가 종종 발생해 개정이 필요하다는 목소리가 꾸준히 제기돼왔다. -
학교 ‘딥페이크’ 피해 196건 접수…중학교 109건 ‘최다’
사회 사회일반 2024.08.28 17:02:52교육 당국에 200건에 달하는 학생·교원 ‘딥페이크(디지털 성적 허위영상물)’ 피해 신고가 접수됐다. 교육부는 학생·교원들의 불안감을 해소하기 위해 긴급 태스크포스(TF)를 구성하는 한편 10월 중 교육 분야 딥페이크 대응 후속조치를 마련하기로 했다. 교육부는 올 들어 196건(학생 186건, 교원 10건)의 딥페이크 피해 신고가 접수돼, 이 가운데 179건은 수사를 의뢰했다고 28일 밝혔다. 피해 학생은 초등학생 8명을 비롯해 중학생, 고등학생은 각각 100명, 78명이었다. 피해 교사는 9명은 중학교, 1명은 고등학교에 재직 중이었다. 배동인 교육부 정책기획관은 “이게 전부가 아니라는 생각”이라며 “매주 데이터를 업데이트해서 필요하면 공개하겠다”고 했다. 교육부는 사안의 심각성을 감안해 차관을 단장으로 하는 딥페이크 대응 긴급 TF를 구성해 분야별 6개 팀으로 이뤄진 상황반을 가동한다. TF는 딥페이크 관련 사안을 매주 1회 조사해 보고하고, 학생·교원 피해 사안 처리, 학생·교원 심리지원, 학교 예방 교육·인식개선, 디지털 윤리 및 책임성 강화 등 분야별로 대응해 나갈 방침이다. TF는 학생들이 디지털 기술과 미디어를 안전하고 책임감 있게 활용할 수 있도록 방과후 학교 프로그램 등을 통해 디지털 시민교육 강화에도 나설 계획이다. 학교 내에서 발생한 딥페이크 피해 신고는 교육부 누리집의 성희롱·성폭력 온라인 신고센터를 이용하면 된다. 또 딥페이크 의심 성범죄물 등 신고는 112(경찰청), 117(학교폭력 신고센터), 1377(방송통신심의위원회)로 가능하다. 피해 상담은 재학 중인 학교의 학교전담경찰관이나, 디지털성범죄피해자지원센터(02-735-8994), 여성긴급전화(1366)에서 할 수 있다. -
“딥페이크 과잉규제로 갈까 우려"라는 이준석…정부에 ‘이것’ 주문했다
정치 정치일반 2024.08.28 16:13:46특정 인물의 얼굴 등을 영상에 합성하는 ‘딥페이크’ 성범죄가 이슈로 떠오른 가운데 이준석 개혁신당 의원이 과잉 규제 부작용을 우려하며 “위협이 과대 평가되고 있다”고 주장했다. 이 의원은 27일 오후 국회 과학기술정보방송통신위원회 전체회의에 참석해 강도현 과학기술정보통신부 2차관을 상대로 “텔레그램 차단 외에 현실적인 방법이 있나. 과잉규제로 결론이 날까봐 (우려된다)”라며 이같이 말했다. 최근 서울대와 인하대 등 100개 이상 학교에서 텔레그램 딥페이크 성범죄 피해가 드러나 파문이 일었다. 게다가 중·고교생 등 미성년자도 포함된 것으로 알려졌으며 여군을 대상으로 한 딥페이크 텔레그램방도 운영된 것으로 확인됐다. 윤석열 대통령은 “철저한 실태 파악과 수사를 통해 디지털 성범죄를 뿌리 뽑아 주기 바란다”며 관계 당국에 철저한 실태 파악과 엄정한 수사를 주문했다. 이에 이 의원은 “대통령이 조기에 대책을 세우라는 취지로 말한 것은 좋지만 한편으로는 과잉 규제가 나타날 수 있는 가능성이 있어 보인다”며 “기술적으로 어떻게 막나”라고 질의했다. 강 차관은 “딥페이크가 인공지능(AI) 기술에 의해 만들어지니까 표시 의무를 부여할 수 있다. 의원님 말씀처럼 굉장히 심각한 상태”라며 “관계 부처랑 면밀하게 얘기해야 하는데 규제를 조금 더 철저하게 봐야 할 것 같다”고 답했다. 이 의원은 이어 “대통령이 관심을 가지는 사안이다 보니 어떻게라도 방법을 만들기 위해 반농담으로 ‘학교폭력을 없애는 가장 확실한 방법은 학교를 없애는 것’ 이런 식의 대책이 나오면 안 된다”며 “기술적으로 말이 되는 제안이 나와야 될 것 같다”고 강조했다. 김태규 방송통신위원장 직무대행을 향해서는 “정부 쪽에서 신속한 대응을 요구하다 보니 광주에서는 10대 학생이 동급생 얼굴을 합성한 음란물을 지니고 있는 것 같다는 신고가 접수되자마자 바로 가서 학생을 수사했다”며 “실제 수사하면 어떤 결과가 나올진 모르지만 말 한마디면 동급생 수사가 이뤄지는 정도로까지 민감해진 상황”이라고 설명했다. 특히 이 의원은 여성의 사진을 넣으면 이를 합성해 나체 사진으로 만드는 불법합성물 제작 프로그램(봇)을 탑재한 텔레그램방 이용자 수가 22만여 명에 이른다는 보도를 언급하며 “위협이 과대평가되고 있다”고 주장했다. 이 의원은 그러면서 방송통신위원회에 “불안이 실제보다 과장되지 않도록 신경써달라"고 당부했다. -
방심위, 딥페이크 모니터링 강화…"범죄 뿌리 뽑을 것"
산업 IT 2024.08.28 16:11:52방송통신심의위원회가 최근 텔레그램 등을 통해 급속 유포되고 있는 딥페이크 성범죄영상물을 근절하기 위해 모니터링을 대폭 강화한다고 28일 밝혔다. 또 국내·외 플랫폼 기업들과의 협력 체계를 강화해 빠른 시정 조치가 이뤄질 수 있도록 하겠다는 방침이다. 방심위에 따르면 딥페이크 성범죄영상물에 대한 올해 7월 말까지 시정요구 건수가 6343건으로, 전년 동기 대비 약 4배에 달한 것으로 집계됐다. 먼저 방심위는 모니터 인력을 대폭 늘린 '집중화 모니터링'을 통해 딥페이크 주요 유통경로를 신속히 파악하는데 집중한다. 이를 통해 SNS 대상 중점 모니터링, 24시간 내 시정요구, 즉각 수사의뢰 등 ‘강화된 3단계 조치’를 통해 피해를 신속히 구제하기로 했다. 주요 유통 수단으로 최근 지적되고 있는 텔레그램에 대해서는 직접 상시협의를 위한 핫라인을 확보하고 사업자 협력회의, 불법정보 자율규제 협의 등 단계적 조치를 추진한다. 또 텔레그램을 시정요청 협력 대상에 공식 등재하고, 기타 해외 플랫폼 11개에 대해서도 성범죄영상물 정보의 자율적·근원적 삭제를 유도하는 등 시정요청 협력 대상에 대한 관리를 강화하기로 했다. 최근 방심위는 딥페이크 성범죄영상물 전용 신고배너 설치, 1377 신고 안내 메시지·절차 전면 개편 착수 등 텔레그램 피해 신고 본격 접수에 돌입한 바 있다. 아울러 방심위는 글로벌온라인안전규제기관네트워크(GOSRN)를 비롯한 해외 유관기관·국제협의체에 위원장 명의의 서신 발송 등 후속조치도 진행한다. 이를 통해 텔레그램 문제 핵심 의제화 등 국제적 여론 형성에도 적극 동참할 예정이다. 방심위 관계자는 "딥페이크 성범죄영상물 종합대책 시행을 통해 범죄를 뿌리 뽑을 수 있도록 노력하겠다"고 밝혔다. -
"국회의원이 손흥민 딥페이크 공개 왜?"…"우량주 3개 무료로 공유해요"
정치 국회·정당·정책 2024.08.28 15:46:31국회 과학기술정보방송통신위원회(과방위)에서 딥페이크 기술을 악용한 디지털 성범죄의 위험성을 경고하는 영상이 28일 공개됐다. 이날 오전 국회 과방위 전체회의에 참석한 김장겸 국민의힘 의원은 축구선수 손흥민을 활용한 딥페이크 영상을 공개했다. 해당 영상에서 손흥민으로 보이는 인물은 "저는 축구선수이자 경험 많은 투자자입니다. 우량주 3개를 무료로 공유해 드립니다"라며 불법 투자를 유도하는 내용을 발언했다. 영상은 기존 손흥민 선수의 목소리와 입 모양을 그대로 재현해 실제와 구분하기 어려울 정도였다. 김 의원은 김태규 방송통신위원회 직무대행에게 "이 딥페이크 영상이 유튜브와 SNS에서 노출되고 있다"며 대책을 질의했다. 이에 김 직무대행은 "딥페이크 영상물 피해자 신상정보 긴급 심의, AI 생성물 표시제 도입, AI 서비스 이용자 보호 법규 마련, AI 피해 신고 창구 활용 등을 검토 중"이라고 답변했다. 또 "텔레그램 관련 그룹채팅방이나 채널 서비스 등 공개 영역에서의 불법 촬영물 삭제 및 유통 방지 의무 부여, 제재 강화 방안에 대해 법률 검토를 진행할 예정"이라고 덧붙였다. 딥페이크 기술을 이용한 디지털 성범죄가 급증하면서 사회적 우려가 커지고 있다. 전문가들은 "딥페이크 기술의 발전 속도가 매우 빠른 만큼, 관련 법규와 대응책 마련이 시급하다"고 지적했다. 정부는 이에 대응해 AI 윤리 가이드라인 수립, 딥페이크 탐지 기술 개발 지원 등을 추진하고 있지만 아직 실효성 있는 대책 마련에는 어려움을 겪고 있는 것으로 알려졌다. -
딥페이크 강력 대응 교육부…전담팀 꾸려 매주 1회 조사
사회 사회일반 2024.08.28 14:49:53최근 여성의 얼굴에 음란물을 합성한 '딥페이크' 영상물이 텔레그램 단체 대화방 등을 통해 확산하고 있는 가운데 교육 당국이 학생·교원들의 불안감을 해소하기 위해 전담팀을 꾸려 매주 조사에 나서기로 했다. 다음 달 관계부처 대책회의 등을 거쳐 10월 중 교육 분야 딥페이크 대응 후속조치도 마련한다. 교육부는 차관을 단장으로 하는 ‘학교 딥페이크 대응 긴급 TF(가칭)’를 구성해 대응에 나서기로 했다고 28일 밝혔다. TF는 △상황 총괄팀 △학생 피해 지원팀 △교원 피해 지원팀 △디지털 윤리 대응팀 △현장 소통 지원팀 △언론 동향팀 등 6개 팀으로 구성됐다. TF는 매주 한 번씩 학교 딥페이크 사안을 조사하고, 경찰청·여성가족부·방송통신위원회 등 관계부처와 공조·협력체계를 구축하는 한편 시도 교육청과 비상 연락망을 운영하는 등 현장 소통을 총괄한다. TF는 학생·교원 피해 사안 처리, 학생·교원 심리 지원도 맡는다. 학교폭력과 관련된 딥페이크의 경우 학교폭력 사안 처리를 지원하고, 학생 상담 프로그램인 '위(Wee) 클래스', '위(Wee) 센터'를 통해 학생 상담·치유를 지원한다. 피해로 충격이 큰 위기 학생에게는 외부 전문기관을 연계해주고, 정신건강 관련 진료·치료비를 최대 300만 원까지 지원한다. 피해 학생의 불안감을 해소하고 2차 피해를 방지하기 위해 가해자·피해자 분리에도 나선다. 직·간접 피해를 본 교원의 경우 심리 상담과 치료, 법률 지원 등 보호 방안을 마련한다. 이를 위해 교권 침해 직통번호(☎1395)를 통해 피해 사안을 신고받고, 심리·법률 상담까지 원스톱으로 지원한다. TF는 또 학생들이 디지털 기술과 미디어를 안전하고 책임감 있게 활용할 수 있도록 방과후 학교 프로그램 등을 통해 디지털 시민교육 강화에도 나선다. 교육부는 딥페이크 관련 아동·청소년 피해 사실을 알게 될 경우 경찰청(☎112)이나 학교폭력 신고센터(☎117), 디지털 성범죄 피해자 지원센터(☎02-735-8994), 교육부 홈페이지 내 '교육 분야 성희롱·성폭력 신고센터'(www.moe.go.kr)로 즉시 신고해달라고 안내했다. 오는 30일에는 시도교육청 부교육감과 긴급회의를 열고, 다음 달 중 여가부, 과학기술정보통신부, 경찰청 등 관계부처와 대책회의를 개최한다. 전문가·유관기관·시도교육청 자문단을 구성해 다음 달부터 운영하고, 10월 중으로 '교육 분야 딥페이크 대응 후속 조치'를 발표할 예정이다. 한편 교육부가 17개 시도교육청을 통해 파악한 결과 올해 1월부터 전날까지 학생·교원 딥페이크 피해 건수는 총 196건으로 집계됐다. 학생 피해가 186건, 교원 피해가 10건이었다. 이 가운데 179건은 수사 당국에 수사를 의뢰한 상태다. -
과기부·여가부, 딥페이크 근절 공동 대응
산업 IT 2024.08.28 14:00:00과학기술정보통신부와 여성가족부가 최근 텔레그램 등 소셜네트워크서비스(SNS)에서 불거진 디지털 성적 허위영상물(딥페이크) 사태 근절을 위한 공동 대응에 나선다고 28일 밝혔다. 강도현 과기정통부 2차관과 신영숙 여가부 차관은 이날 한국여성인권진흥원 산하 디지털성범죄피해자지원센터를 방문해 운영 현황을 살피고 딥페이크 예방 및 피해자 지원방안을 긴급 점검했다. 디지털성범죄피해자지원센터는 365일 디지털 성범죄 피해 상담과 피해 촬영물 삭제, 수사와 무료 법률 서비스 등을 지원한다. 2018년 4개월 개소 후 3만 2000여명의 피해자를 대상으로 피해촬영물 상담과 삭제, 수사‧법률‧의료 연계 지원 등 총 100만 4000건의 서비스를 제공했다. 두 부처는 최근 생성형 인공지능(AI)을 활용해 손쉽게 딥페이크를 제작할 수 있게 됐고 일반인 대상 디지털 성범죄 피해가 빠르게 확산됨에 따라 신속한 대응을 위해 센터를 공동 방문했다. 두 부처는 딥페이크 탐지하고 사진 한 장으로도 추적할 수 있도록 시스템을 고도화하는 방안 등에 대해 협력할 방침이다. 지난달부터 ‘딥페이크 기반 디지털 성범죄 피해 예방 및 보호 방안 마련’을 위해 정책 연구를 추진하는 등 협업을 이어온 바 있다. 강 차관은 “디지털 성범죄는 피해자의 삶을 송두리째 파괴하고 사회질서를 위협하는 용서할 수 없는 범죄”라며 “ 딥페이크 성범죄를 예방하고 피해자를 빠르게 지원할 수 있는 기술 개발과 새로운 사업 기획 등을 적극 지원하겠다”고 말했다. 신 차관도 “딥페이크 성착취물을 빠르게 탐지할 수 있는 삭제시스템 고도화 등 현장에서 개선이 필요한 사항을 중심으로 과기정통부와 협력방안을 논의하여 건전한 디지털 환경을 함께 조성해 나가겠다”고 했다. -
'서울대 딥페이크' 징역 5년…法 "입에 못 담을 역겨운 내용"
사회 사회일반 2024.08.28 11:35:22서울대 졸업생들이 동문 여성 얼굴을 합성한 음란물을 만들어 유포한 이른바 '서울대 딥페이크'(서울대 N번방) 사건의 공범에게 징역형이 선고됐다. 서울중앙지법 형사14단독 김유랑 부장판사는 28일 성폭력처벌법상 허위영상물편집·반포 등 혐의로 구속기소된 박 모(28)씨에게 징역 5년을 선고했다. 검찰은 징역 10년을 구형했다. 재판부는 40시간의 성폭력 치료 프로그램 이수와 5년간의 정보통신망을 통한 공개·고지, 5년간의 아동·청소년·장애인 관련 시설 취업제한도 명령했다. 재판부는 "허위 영상물 내용은 일반인 입장에서 입에 담기 어려운 역겨운 내용"이라며 "익명성과 편의성을 악용해 수치심이나 부끄러움을 느끼지 못한 채 스트레스를 풀 이용으로 도구화해 피해자의 인격을 몰살해 엄벌이 요구된다"고 지적했다. 또 "공소제기 이후 5명의 피해자와 합의했고 6명에게 형사공탁을 했지만, 적어도 총 16명 외에 인적 사항이 밝혀지지 않은 성명불상 피해자가 존재한다"며 "학업·진로·연애 스트레스를 해소하기 위해 범행했다고 하지만 영상물의 개수와 피해자와의 관계 등을 고려할 때 죄질이 불량하다"고 했다. 박 씨는 2020년 7월부터 올해 4월까지 상습적으로 허위 영상물 400여 개를 제작하고 1700여 개를 유포한 혐의 등으로 지난 5월 기소됐다. 그는 주범인 서울대 출신 박 모(40·구속기소)씨와 온라인 메신저로 연락을 주고받으며 음란물을 만들어 유포한 것으로 조사됐다. 이날 유죄가 선고된 박씨는 서울대 졸업생은 아닌 것으로 알려졌다. 주범 박 씨의 속행 공판은 다음달 예정돼 있다. 피해자 1명을 대리하는 김민아 법률사무소 이채 변호사는 선고 이후"구형보다 많이 깎인 점은 아쉽지만 일상에서 SNS를 이용해 서로 안부를 묻는 것이 범죄에 이용됐다는 점 등을 재판부가 양형에 많이 참고했다는 데 의미가 있다"며 "범죄 근절을 위해 엄벌할 필요성이 있다"고 말했다. -
방심위 “텔레그램 등과 딥페이크 대응 협의체 만들겠다”
산업 IT 2024.08.28 10:40:28방송통신심의위원회가 최근 텔레그램 소셜네트워크서비스(SNS)에서 불거진 디지털 성적 허위영상물(딥페이크) 사건에 대응하기 위해 사업자들과 협의체를 구성하기로 했다. SNS 사업자들의 협조를 이끌어내 신속하게 게시물이 삭제·차단될 수 있도록 하겠다는 것이다. 류희림 방심위원장은 28일 전체회의에서 “국내 주요 포털사이트는 물론 텔레그램, 페이스북, 엑스(옛 트위터), 인스타그램, 유튜브 등 글로벌 온라인 플랫폼 사업자들과 긴밀한 협의체를 구성해 신속한 삭제·차단 조치와 함께 자율적인 규제를 강력히 요청할 계획”이라고 밝혔다. 그는 “해외에 서버가 있는 글로벌 온라인 플랫폼 사업자 중 국내 공식 협의체가 없는 사업자들에 대해서는 면대면 협의 채널을 이끌어내 상시적인 협의가 될 수 있도록 추진하겠다”고 말했다. 텔레그램 등에서 일반인 다수를 대상으로 한 딥페이크 게시물이 노골적으로 공유되고 있지만 서버가 해외에 있는 탓에 국내 SNS에 비해 수사가 쉽지 않은 상황이다. 류 위원장은 “딥페이크 기술이 대학과 중고등학교뿐 아니라 초등학교까지 유포됨으로써 우리 사회를 정조준해 위협하는 상황이 됐다”며 이날 전체회의를 통해 사업자 협의체 구성을 포함한 종합대책을 구체화하고 시행하기로 했다. 방심위는 텔레그램 등 주요 SNS에 대한 자체 모니터 인원을 2배 이상 늘려 집중 모니터링을 통해 불법 성범죄영상물을 신속하게 적발하고 향후 디지털 성범죄 전담인력도 늘릴 계획이다. 또 전자심의를 강화해 24시간 이내 삭제·차단이 될 수있도록 시정을 요구하고 악성 유포자는 즉각 경찰에 수사 의뢰하기로 했다. 류 위원장은 “현행 법과 심의규정의 미비로 디지털 성범죄영상물의 제작이나 소지, 유포 등에 대한 처벌이 미약하다”며 “관련 범죄가 확산되고 있다는 지적에 대해서도 보완 입법을 관계기관에 건의하고 관련 전문가들과 협력해 보완 입법 이전에 할 수 있는 최대한의 심의 규정 보완도 강구하겠다”고 덧붙였다. -
"여동생 잔다" 영상 공유하자 "부럽다"…텔레그램 '가족능욕방' 참여자가 무려
사회 사회일반 2024.08.28 10:25:13올 들어 ‘서울대 N번방’, ‘인천 소재 대학 딥페이크 채팅방’ 등 모바일 메신저 텔레그램에서 불법합성물(딥페이크)을 제작·유포하는 성범죄가 기승을 부리고 있다. 이 가운데 대학생과 중·고교생 등 미성년자는 물론 교사, 여성 군인, 심지어는 가족까지 범죄의 대상이 됐다는 주장이 나왔다. 최근 텔레그램에서는 여성 얼굴을 나체 사진에 합성하는 딥페이크 채널이 잇따라 발견되고 있다. 온라인상에는 ‘딥페이크 피해 학교 명단’으로 떠도는 곳만 100곳 이상이며, 피해 학교 지도까지 생성돼 퍼지고 있다. 텔레그램에서 ‘XX능욕방’, ‘겹지방(겹지인방)’ 등 관련 채널이 우후죽순 발견되고 있는 가운데, 범죄 대상이 지인뿐 아니라 가족까지 확산된 것으로 알려져 우려가 커지고 있다. 최근 프레시안 보도에 따르면 ‘가족능욕’이라는 이름으로 개설된 텔레그램 단체채팅방 참여자들은 엄마·누나·여동생·사촌 등 친족들의 사진을 공유하고 성적 모욕을 주는 발언을 일삼았다. 이 방에는 2000여명이 들어가 있는 것으로 전해졌다. 참여자들은 여성 친족이 소셜미디어(SNS)에 올린 사진이나 본인이 직접 찍은 사진을 채팅방에 공유했다. 친족의 속옷 사진, 옷을 갈아입는 사진, 목욕하는 사진은 물론 친족이 잠든 사이 옷을 들추거나 성추행하는 영상도 있었다. 온라인 커뮤니티에 퍼진 해당 채팅방 대화 내용을 보면 한 이용자가 “여동생 잘 때”라며 동영상을 올리자 다른 이용자들이 “부럽다", "용기 있다"며 호응했다. 또 다른 대화방에서는 “엄마 사진 공유하고 나니까 뭔가 영웅이 된 느낌인데 뿌듯하다” 등의 내용이 포착되기도 했다. 대화방 참여자들은 채팅창에 올라온 사진과 영상을 이용해 딥페이크 성범죄물을 만들어 다시 공유하고 있는 것으로 추정된다. 대화방에는 사진과 영상뿐만 아니라 가족의 신상 정보가 공유되기도 했다. 이 같은 사실이 알려지자 시민사회가 불안에 떨고 있다. 맘카페 등 온라인 커뮤니티에는 “딥페이크 범죄가 가족을 타깃으로도 한다는데 어떡하냐”, “세상이 미쳐가는 것 같다”, “자녀의 텔레그램 사용 여부 등을 확인해야 한다” 등 불안함을 호소했다. 사태가 커지자 방송통신심의위원회(방심위)도 문제 해결에 나섰다. 방심위는 실·국장 회의, 오는 28일 전체 회의를 소집해 최근 텔레그램 딥페이크 음란물 확산 사태와 관련해 대책을 마련할 예정이다. 방심위는 먼저 텔레그램 피해 신고 접수와 모니터링을 강화하고, 경찰 수사 의뢰 등 할 수 있는 모든 조처를 할 방침이다. 서울경찰청 사이버수사대는 음란 영상이나 사진 등을 여성의 얼굴에 합성한 뒤 이를 유포할 목적으로 만들어진 텔레그램 채널에 대해 입건 전 조사(내사)에 착수했다. 서울경찰청은 27일 서울 1374개 초·중·고등학교 학생과 교사, 학부모 78만 명을 대상으로 긴급 스쿨벨을 발령했다. 앞서 서울경찰청은 성착취·지인능욕 혐의를 받는 올해 7월 말까지 14세 이상 청소년(촉법소년 미적용) 10명을 검거한 바 있다. 경찰청 관계자는 “딥페이크 성범죄는 피해자의 인격을 말살하는 중대한 범죄이다. 이를 발본색원하여 국민의 불안감을 불식시킬 수 있도록 최선을 다하겠다”며 “국민의 적극적인 신고·제보를 당부드린다”고 밝혔다. -
[특징주] 딥페이크 성범죄 급증에 보안주 상한가
증권 증권일반 2024.08.28 09:43:18딥페이크 성범죄가 급증하면서 데이터 보안 종목이 급등세다. 28일 오전 9시 14분 기준 데이터베이스 보안 업체인 신시웨이(290560)는 전 거래일 대비 30% 오른 8590원이다. 인터넷 보안 업체 디지캡(197140)(25.17%), 안면인식 인공지능(AI) 기업 씨유박스(340810) 11.23%, M83(476080)(18.20%), 한싹(430690)(17.84%), 시큐센(232830)(15.92%), 샌즈랩(411080)(16.48%) 등이 일제히 상승세다. 최근 한 대학에서 여학생의 얼굴에 음란물을 합성한 딥페이크 영상물이 유포된 데 이어 비슷한 종류의 텔레그램 대화방이 잇따라 발견되면서 딥페이크 성범죄가 사회적 문제로 떠올랐다. 피해자 중에는 대학생 뿐만 아니라 중고생 등 미성년자는 물론 교사, 여군 등도 포함된 것으로 알려졌다. ‘피해 학교 명단’으로 떠도는 곳만 100곳 이상이라 공포심이 확산하고 있다.
오늘의 핫토픽
이시간 주요 뉴스
영상 뉴스
서경스페셜
주소 : 서울특별시 종로구 율곡로 6 트윈트리타워 B동 14~16층 대표전화 : 02) 724-8600
상호 : 서울경제신문사업자번호 : 208-81-10310대표자 : 손동영등록번호 : 서울 가 00224등록일자 : 1988.05.13
인터넷신문 등록번호 : 서울 아04065 등록일자 : 2016.04.26발행일자 : 2016.04.01발행 ·편집인 : 손동영청소년보호책임자 : 신한수
서울경제의 모든 콘텐트는 저작권법의 보호를 받는 바, 무단 전재·복사·배포 등은 법적 제재를 받을 수 있습니다.
Copyright ⓒ Sedaily, All right reserved
서울경제를 팔로우하세요!
서울경제신문
텔레그램 뉴스채널
서경 마켓시그널
헬로홈즈
미미상인