-
전교조 “학교 딥페이크 피해자 517명…29명은 자기 얼굴 직접 확인”
사회 사회일반 2024.08.29 13:27:14전국교직원노동조합(전교조)이 ‘딥페이크(인공지능 기반 이미지 합성) 성범죄’ 관련 피해 실태를 조사한 결과 피해 신고가 2500건에 달하는 것으로 나타났다. 전교조는 29일 정부서울청사 앞에서 기자회견을 열고 이달 27일과 28일 이틀간 ‘학교 딥페이크 성범죄 실태조사’를 벌인 결과 총 2492건의 신고가 접수됐다고 밝혔다. 자신의 사진으로 만들어진 성착취물을 확인한 직접 피해자는 29명으로 집계됐다. 이 가운데 교사는 16명, 학생은 13명이었다. 또 딥페이크 성착취물 제작 관련 협박을 주변으로부터 전달받은 간접 피해자가 488명(교사 188명·학생 291명·교직원 9명)에 달하는 등, 직간접 피해자는 총 517명으로 조사됐다. 피해자 14명(교사 6명, 학생 8명)은 딥페이크 성착취물 관련 협박 범죄에까지 노출됐다. 학교별로는 중학교 5명, 고등학교 5명, 유치원 5명, 특수학교와 기타(교육청, 대학교, 청소년 등)에서 각 1명이 불법 합성물 관련 협박 피해를 겪고 있는 것으로 나타났다. 또 최근 소셜미디어(SNS)에서 ‘피해 학교 목록’이 확산되고 있는 가운데 이들 학교 구성원들을 향해 허위 피해를 빌미로 사진과 신상, 금전 등을 요구하는 협박이 발생하고 있는 것으로 파악됐다. 전교조는 “자체적인 피해자 지원과 더불어 범정부 차원의 피해자 회복 지원과 국가 주도의 강력 대응을 요구할 예정”이라며 “가해자에 대한 엄중 조치와 교육활동 보호, 지원을 위해 교육 당국과 지속해서 협의하며 대응하겠다”고 했다. -
국방부 “여군 딥페이크 심각성 인지, 경찰 수사에 협조”
정치 통일·외교·안보 2024.08.29 13:01:29국방부는 타인의 얼굴을 합성해 모욕하는 딥페이크 성범죄 피해자에 여군이 포함된 것과 관련해 해당 사안에 적극 대처하고 있다고 밝혔다. 전하규 국방부 대변인은 29일 정례브리핑에서 “사안의 심각성을 충분히 인지하고 있으며 경찰 수사에도 적극적으로 협조하고 있다”고 말했다. 전 대변인은 “이번 사건 관련해서 피해 현황을 접수하고 있고 상담·신고 등 여러 가지 피해자 보호를 위해 필요한 조치를 시행하고 있다”며 “재발 방지를 위한 교육, 다양한 예방 대책 등을 병행해 갈 것”이라고 강조했다. 최근 온라인에서 딥페이크 영상이 확산하는 가운데 여군을 상대로 음란물 딥페이크 영상을 제작·유포하는 텔레그램 대화방도 만들어진 것으로 전해진다. 심지어 해당 대화방이 캡처된 사진을 보면 대화방 운영자로 추정되는 인물은 참가자에게 여군의 군복 사진과 일상 사진 등을 요구하고 있다. -
"선생님, 이상한 사진이 돌아다녀요"…'딥페이크 범인' 가르치던 제자였다
사회 사회일반 2024.08.29 10:06:08#교사 A씨는 지난달 23일 불법 촬영 피해를 당한 사실을 뒤늦게 알게 됐다. 다른 반 학생들이 찾아와 딥페이크 성착취물을 보여주며 “선생님 반 학생이 선생님 사진을 불법합성해 텔레그램에 올렸다”고 전해주면서다. 해당 사진은 학생들 사이에 이미 널리 퍼진 상황이었다. A씨는 한겨레에 “누가 동참했는지, 누가 알고도 방관했는지 알 수 없어 아이들을 제대로 마주하기 힘들다”고 말했다. 그는 병가를 내고 심리상담을 받으며 경찰의 피해자 조사를 받고 있다. #최근 교사 B씨 또한 불법 촬영 피해를 입었다. 한 학생이 수업 시간에 질문을 하는 척 교탁 앞으로 와서 치마 밑을 불법 촬영한 것. 다른 학생의 신고로 잡힌 가해자의 휴대전화에서는 포르노 사진에 B씨 얼굴이 합성된 파일이 발견됐다. B씨는 “학교가 해당 사안을 잘 마무리해줄 것이라 믿었지만, 교육청 측은 사건을 축소하고 낮은 수준의 징계로 마무리하려 했다”면서 “가해 학생 휴대전화를 추가 조사해 다른 학생의 신체가 찍힌 불법 촬영물이 추가로 발견되고 나서야 퇴학 처리됐다”고 전했다. #교사 C씨는 최근 자신의 결혼식·자녀·가족 사진을 도용한 불법 합성물이 SNS에 올라온 사실을 알게 됐다. 가해자가 SNS에 실명 해시태그까지 달아놔 이를 보고 인지하게 된 것이다. 해당 게시글에는 차마 입에 담을 수 없는 불쾌한 표현도 있었다고 한다. 전국교직원노동조합(전교조)과 뉴스1에 따르면 일선 학교 현장에서 교사들이 딥페이크 성착취물 피해를 보는 사례가 우후죽순 나오고 있다. 특히 교사 입장에선 가해자가 자신이 가르치던 제자라는 사실이 큰 충격일 뿐더러, 강력한 처벌을 마냥 요구하기도 어렵다고 한다. 일부 교사는 사설업체에 성착취물 삭제를 의뢰하고 있다고도 전해졌다. 전교조가 27일부터 시작한 실태조사 결과, 28일 오전까지 텔레그램을 이용한 딥페이크 성착취물 피해 신고가 1400여건 접수됐다. 이 중 피해자가 교사인 경우는 절반가량에 달한다. 전교조는 접수된 피해 사례에 대해 사실 확인을 진행 중이다. 교육부는 17개 시도교육청에서 올해 1월부터 이달 27일까지 조사 결과 딥페이크 피해가 196건(학생 186건, 교원 10건)에 달한다고 발표했다. 교육부는 이 중 179건에 대해 수사를 의뢰했다. 실제로 최근 학교 현장에서 딥페이크 성착취물로 인해 피해를 봤다는 사례가 잇따라 보고되고 있지만, 교사의 피해 복구는 쉽지 않은 실정이다. 관련 피해자는 여성가족부 산하 한국여성인권진흥원 내 설치된 디지털성범죄피해자지원센터(디성센터)로 피해 상담을 접수할 수 있다. 이를 통해 성적 허위 영상물 관련 상담, 삭제지원 및 유포 여부 모니터링, 수사‧법률‧의료 지원 연계 등 종합적인 서비스를 받을 수 있다. 하지만 일부 교사들은 신고 자체에 부담을 느껴 사설업체를 찾는 것으로 알려졌다. 원치 않는 디지털 정보를 삭제해 주는 '디지털 장의사' 업체 관계자는 "국가기관에 의뢰하기보다는 조용히 영상물 등을 지우고 싶어 할 경우 사설업체를 찾는다"며 "최근 보도를 계기로 의뢰가 급증하진 않았지만, 이런 의뢰는 꾸준히 있었다"고 설명했다. -
당정, '딥페이크 범죄' 처벌 강화… "허위 영상물 처벌 징역 5년→7년"
정치 정치일반 2024.08.29 09:47:19당정이 ‘딥페이크’ 성범죄 발생을 막기 위해 허위영상물 처벌 기준을 5년에서 7년으로 확대하기로 했다. 국회에서도 제도적 미비를 보완하기 위한 입법에 나설 전망이다. 국민의힘과 정부는 29일 서울 여의도 국회에서 ‘딥페이크 성범죄 관련 부처 긴급 현안보고’를 열고 이같은 딥페이크 범죄 관련 대책을 제시했다. 한동훈 국민의힘 대표는 “21대 국회에서도 인공지능(AI) 기본법이나 성폭력범죄 특례법 등 딥페이크 기술 부작용을 막기 위한 법의 재개정 노력이 있었는데 만족할 만한 성과를 내지 못했다”며 “딥페이크 기술을 악용하는 것도 인간이지만 이를 막을 수 있는 것도 인간이다. 사회의 법과 제도 안에서 이 문제를 해결해내야 한다”고 말했다. 당정은 현행 성폭력처벌법상 5년 이하의 징역 또는 5000만 원 이하의 벌금을 받는 허위영상물 편집·반포 행위에 대한 처벌 상한 기준을 7년으로 강화하기로 했다. 최근 텔레그램을 통해 발생한 ‘딥페이크’ 범죄에 대해 김상훈 정책위의장은 “텔레그램을 통해 많이 유포되고 있는데, 불법 정보를 자율규제 할 수 있도록 정부 측이 핫라인을 확보하겠다고 했다”고 말했다. 범정부적인 딥페이크 성범죄 대응을 위해서는 국무조정실이 ‘딥페이크 성범죄 대응 통합 컨트롤타워’ 역할을 맡기로 했다. 김 의장은 “딥페이크 관련해 전체적으로 부처에서 각각 대응하고 있다는 느낌”이라며 딥페이크 범죄에 총괄적으로 대응해야 한다고 강조했다. 각 부처 차원에서도 범죄 대응에 나선다. 김 의장은 “또 중고등학생 사이에서 피해자가 급증하기 때문에, 교육부에서는 딥페이크 성범죄와 관련한 신고센터를 교육부 홈페이지 메뉴 창에 개설하기로 했다”고 전했다. 여성가족부에서는 피해자 구제 조치를 위해 디지털 성범죄 피해자 지원센터를 통한 피해자 상담, 허위영상물 삭제 지원 수사를 위한 법률자문 등을 실시하기로 했다. -
韓, 딥페이크 긴급 당정협의 개최…"악용도 막는 것도 인간"
정치 국회·정당·정책 2024.08.29 08:48:31한동훈 국민의힘 대표가 29일 딥페이크 성범죄 관련 긴급 당정협의회를 열고 “국회와 정부, 국민이 함께 관심 갖고 움직이면 이런 악성범죄를 막을 수 있다”고 말했다. 한 대표는 이날 오전 국회에서 열린 ‘딥페이크 성범죄 관련 부처 긴급 현안보고’에서 “딥페이크 기술을 악용하는 것도 인간이지만 이를 막을 수 있는 것도 인간이다. 사회의 법과 제도 안에서 이 문제를 해결해야 한다”며 이같이 강조했다. 그는 “피해자가 받았을 상처를 생각해보면 이 문제는 저희가 집중적으로 해결하고 나아가야 할 문제”라며 “오늘 부처 긴급보고는 이 사안과 유관한 부처들로부터 현안과 대응 상황을 확인하기 위한 것”이라고 설명했다. 이어 “21대 국회에서도 AI 기본법이나 성폭력 범죄 특례법 등 디지털 범죄 부작용을 막기 위한 법 재·개정 노력들이 있었는데 만족할 만한 성과를 내지 못했다”고 아쉬워했다. 추경호 원내대표는 “당은 이 사안의 심각성을 매우 크게 느끼고 있다. 당정이 함께 신속하게 딥페이크 성범죄 근절 대책 마련에 앞장설 것"이라며 “엄정하고 신속한 수사가 이뤄지고 더 이상 추가적 피해가 발생하지 않도록 범죄 대응력도 제고해야 한다”고 말했다. 정부에 디지털 성범죄 예방을 촉구한 추 원내대표는 “다만 이 과정에서 일각에서 우려하는 바와 같이 개인정보 보호 문제나 메신저 검열과 같은 과잉 규제가 없게 유념해 달라”고 덧붙였다. 그러면서 앞서 당론으로 발의한 워터마크 표시를 골자로 한 AI 기본법을 언급하며 “법이 조속히 통과된다면 사업자 대상 워터마크 부착 규제로 AI 신뢰 기반을 조성하는 데 기여하고 악용하는 이용자에 대한 처벌 방안도 개별적 차원에서 보완이 가능할 것”이라고 내다봤다. 김상훈 정책위의장도 “현재 국회에서 딥페이크 성범죄와 관련해 10여개 법안이 발의는 돼 있는 상태지만 본회의에서 아직 의결되지 않았다”며 “사실상의 입법 공백 상태”라고 진단했다. 그는 또 “우리나라는 딥페이크 게시물을 유포한 자에 대해서는 처벌 대상으로 삼고 있지만 제작한 사람은 처벌 대상에 아직 포함돼 있지 않다”며 “이런 입법 공백 사태 보완할 필요가 있고 또 처벌을 강화한다거나 피해자를 어떻게 구제할 수 있을지에 대한 대안들이 모색돼야 할 것”이라고 했다. 이날 정부에서는 신영숙 여성가족부 차관, 김태규 방송통신위원회 부위원장, 이호영 경찰청 차장, 박성민 교육부 기조실장, 송강 법무부 검찰국장, 송상훈 과학기술정보통신부 정보통신정책실장, 이동수 방송통심의위원회 디지털성범죄 심의국장 등이 참석했다. -
6개 여대 총학 ‘딥페이크 성착취’ 규탄…“뿌리 깊은 여성혐오가 만든 결과”
사회 사회일반 2024.08.29 06:06:04숙명여대 등 서울 지역 6개 여대 총학생회가 최근 논란을 빚고 있는 ‘딥페이크(인공지능 기반 이미지 합성) 성착취’ 사태와 관련해 “가부장제 사회 아래 뿌리 깊은 강간 문화와 여성혐오가 만들어낸 결과”라며 비판 성명을 냈다. 28일 숙명여대 총학생회 비상대책위원회(이하 비대위)는 이날 성명을 통해 “본 사태는 여성 성착취 범죄가 근본적으로 해결되지도, 근절되지도 않았기에 발생했다”며 “재발 방지 대책을 마련할 기회가 있었음에도 실질적인 대응을 하지 않은 모두가 방관자이자 가해자”라고 지적했다. 서명에는 숙명여대 내 60개 단체를 비롯해 성신여대·덕성여대·동덕여대·배화여대·한양여대 총학생회가 동참했다. 비대위는 ‘n번방’ 등 과거 발생했던 여성 대상 디지털 성범죄를 언급하며 “여성을 대상으로 한 디지털 성착취 범죄가 지속적이고 계획적으로 발생하는 이 사회에 통탄한다”고 밝혔다. 이어 “텔레그램 성착취 방의 가해자는 ‘개설자’만이 아니며, ‘참여자’뿐만 아니라 그 사실을 알면서도 묵인한 ‘방관자’ 역시 명백한 가해자”라고 짚었다. 이들은 “한국 사회의 방관과 침묵은 여성이 하나의 인격체가 아닌, 타 대상의 ‘놀잇감’으로 소비되도록 방조했다”며 “이는 ‘여성’을 성적 도구로 보고 멸시하는 문화를 고착화시켰다”고 목소리를 높였다. 이어 “오직 여성이기에 범죄의 대상이 되는 현 시점에서 여성에게 안전한 공간이란 존재하는가. 여성인 우리는 과연 어디서 살아가야 하는가”라고 규탄했다. 아울러 비대위는 “여성이 안전하게 지낼 공간은 소실된 채 무한한 디지털 공간에서 여성을 대상으로 한 무자비한 학살이 계속되고 있다”며 여성들의 존엄과 권리를 지키기 위해서는 연대가 절실히 필요한 때라고 강조했다. 한편 경찰은 이번 사태와 관련해 서울경찰청 사이버수사대 내에 태스크포스(TF)를 조직, 딥페이크 성착취 허위영상물 집중 대응에 나섰다고 밝혔다. TF는 총괄팀장인 서울경찰청 사이버수사과장을 필두로 3개 전담수사팀, 사이버프로파일링팀·디지털포렌식팀·지원부서팀까지 총 6개 팀으로 구성됐으며 내년 3월31일까지 7개월간 운영된다. -
경찰, 딥페이크 음란물 생성 ‘텔레그램 봇’ 8개 내사 착수
사회 사회일반 2024.08.29 04:00:00‘딥페이크(인공지능 기반 이미지 합성)’ 기술을 활용해 여성 얼굴에 음란물을 합성한 영상을 제작·유포하는 성범죄 피해가 속출하고 있는 가운데, 경찰이 관련 수사에 속도를 내고 있다. 28일 경찰에 따르면 서울경찰청 사이버수사대는 이날 기준 딥페이크 음란물을 자동 생성하는 텔레그램 프로그램(봇) 8개를 입건 전 조사(내사)에 착수했다. 지난 26일 22만7천여 명이 이용한 것으로 추정되는 텔레그램 봇 내사에 착수한 지 이틀만에 내사 대상이 8배로 늘어난 셈이다. 해당 봇은 텔레그램 채널에 탑재돼 있으며, 여성의 사진을 넣으면 이를 합성해 음란 이미지를 제작하는 역할을 한다. 경찰에 따르면 일부 채널은 가상화폐를 통해 불법합성물을 만들 수 있는 유료 수익 구조를 갖추고 있는 것으로 파악됐다. 경찰은 이들 봇을 운영하는 이들을 추적하는 한편 ‘겹지인방’ 등 해당 프로그램을 이용해 합성물을 만든 뒤 유포하는 텔레그램 단체방에 대해서도 살펴볼 예정이다. 경찰 관계자는 "적극적으로 첩보를 발굴하고 피해 사례 확인 시 즉각 수사에 착수해 신속 검거할 것"이라고 말했다. 경찰은 또 서울경찰청 사이버수사대 내에 태스크포스(TF)를 조직해 딥페이크 성범죄 등 허위영상물 집중 대응에 나섰다. TF는 총괄팀장인 서울경찰청 사이버수사과장을 필두로 3개 전담수사팀, 사이버프로파일링팀·디지털포렌식팀·지원부서팀까지 총 6개 팀으로 구성됐으며 내년 3월31일까지 7개월간 운영된다. 서울경찰청은 “허위영상물과 같은 디지털 성범죄는 피해자에게 씻을 수 없는 상처를 남기는 중대한 범죄”라며 “TF를 중심으로 딥페이크 등 허위영상물 성범죄를 제작부터 유포까지 근절하기 위해 최선의 노력을 다하겠다”고 전했다. -
네이버, 딥페이크 신고채널 공지
산업 IT 2024.08.29 01:35:17네이버가 최근 논란을 빚고 있는 '딥페이크 성범죄' 사태와 관련해 신고 접수 등 대응에 나섰다. 29일 플랫폼 업계에 따르면 네이버는 28일 고객센터 공지사항을 통해 "만약 딥페이크 기술을 사용해 성폭력처벌법 등 관련 법령을 위반하거나 제3자의 권리를 침해하는 이미지나 영상을 발견하셨다면 아래의 신고 채널을 통해 접수해 주시기 바란다"며 관련 링크를 안내했다. 네이버는 고객센터뿐 아니라 게시물 신고센터, 그린UGC 공식 블로그를 통해서도 딥페이크 유포에 대한 주의 및 신고를 당부했다. 네이버는 "딥페이크 기술을 악용한 범죄 행위는 심각한 법적 처벌을 받을 수 있다"며 "타인의 콘텐츠를 단순히 게시하거나 유통하더라도 해당 콘텐츠가 딥페이크나 생성형 인공지능(AI) 등을 이용한 경우 문제가 될 수 있기 때문에 각별한 주의가 필요하다"고 강조했다. 이어 "딥페이크 기술을 악용한 디지털 성범죄와 관련해 네이버는 이용자 여러분의 안전과 개인정보 보호를 최우선으로 생각한다"고 전했다. -
여교사들 ‘딥페이크’ 성범죄물 제작해 유포한 남고생 ‘덜미’
사회 사회일반 2024.08.28 22:45:25‘딥페이크(인공지능 기반 이미지 합성)’ 기술을 활용해 여교사들의 얼굴을 나체 사진에 합성한 뒤 사회관계망서비스(SNS)에서 유포한 고등학생이 경찰에 붙잡혔다. 인천 남동경찰서는 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 고등학생인 10대 A군을 수사하고 있다고 28일 밝혔다. A군은 지난달 인공지능(AI)을 이용한 딥페이크 기술로 고등학교 여교사 2명의 얼굴을 나체 사진에 합성한 뒤 SNS에서 유포한 혐의를 받는다. 경찰은 앞서 피해 여교사 2명의 진정서를 접수하고 수사를 벌여 성범죄물 제작·유포자로 A군을 특정했다. 경찰은 A군이 주로 모바일 메신저 ‘텔레그램’을 통해 성범죄물을 유포한 것으로 보고 디지털 포렌식을 통해 구체적인 범행 경위를 조사하고 있다. 경찰 관계자는 “추가 피해자가 있는지도 확인하고 있다”며 “포렌식 작업을 마치는 대로 A군을 불러 조사할 계획”이라고 전했다. 한편 최근 텔레그램 내에서 학생을 비롯해 군인 등 여성에 대한 불법 합성물들이 무차별적으로 확산하고 있는 것으로 드러났다. 여성가족부 산하 한국여성인권진흥원에 따르면 올해 1월1일부터 8월25일까지 디지털성범죄피해자지원센터로부터 딥페이크 피해 지원을 요청한 781명 가운데 37%(288명)는 10대 이하였다. 교육부가 17개 시도교육청을 통해 파악한 결과, 올해 1월부터 지난 27일까지 집계된 학생·교원 딥페이크 피해 건수는 총 196건(학생 186건, 교원 10건)이다. 중학교 피해가 100건으로 가장 많았으며 고등학교는 78건, 초등학교는 8건이다. -
300만 명 본 ‘딥페이크 피해학교 지도’ 만든 중3…“제2의 n번방 사태, 경각심 주고파”
사회 사회일반 2024.08.28 21:32:32모바일 메신저 ‘텔레그램’을 기반으로 한 ‘딥페이크(인공지능 기반 이미지 합성)’ 음란 영상물 제작·유포 범죄 피해가 잇따르고 있는 가운데 딥페이크 피해 학교를 한 눈에 볼 수 있는 사이트가 등장해 눈길을 끈다. 28일 웹사이트 ‘딥페이크 피해학교 지도’에 접속하자 “지금까지 누적 접속 횟수는 300만 회를 넘겼고, 등록된 학교도 500개가 넘는다. 더 많은 피해 학교를 알리기 위해 노력하겠다”는 안내문이 떴다. 해당 사이트를 만든 이는 중학교 3학년 남학생 A군으로, 코로나19 사태 당시 확진자를 알려주는 지도를 접한 뒤 사회에 기여하고자 하는 마음으로 피해학교 지도 사이트를 만들었다고 한다. 이날 A군은 JTBC ‘아침&(앤)’에 “다니는 학교에서도 피해자가 5명 정도 된다고 들었다”며 “아는 학생이 피해를 보게 되니 ‘실제 (있는 일이) 맞구나’라는 생각에 사이트를 만들었다”고 사이트를 제작하게 된 경위를 설명했다. 그는 약 2시간여 만에 해당 지도를 만든 것으로 알려졌다. A군이 제작한 ‘딥페이크 피해학교 지도’에는 현재 500여 곳이 넘는 전국 초·중·고등학교와 대학교가 피해 학교로 등록돼 있으며, 제보를 통해 학교 목록을 갱신하고 있다. 해당 사이트는 안내문을 통해 “현재 딥페이크 범죄 사태가 제2의 n번방 사태라고 불리는 만큼 이 사건에 대해 경각심을 주고, 더 많은 사람들이 피해 사실을 알 수 있게 하도록 노력할 것”이라고 밝혔다. 한편 최근 텔레그램 내에서 학생을 비롯해 군인 등 여성에 대한 불법 합성물들이 무차별적으로 확산하고 있다. 여성가족부 산하 한국여성인권진흥원에 따르면 올해 1월1일부터 8월25일까지 디지털성범죄피해자지원센터로부터 딥페이크 피해 지원을 요청한 781명 가운데 37%(288명)는 10대 이하였다. 딥페이크로 인해 피해 지원을 요청한 미성년자는 2022년 64명에서 올해(8월 25일 기준) 288명으로 2년 만에 5배 가까이 증가했다. 이는 같은 기간 전체 피해 지원 요청자가 212명에서 781명으로 3.7배 증가한 속도보다 더 가파르다. 이에 교육부는 딥페이크 범죄를 촉법소년 연령 하향 논의 계기로 삼겠다는 입장을 밝히기도 했다. 28일 배동인 교육부 정책기획관은 가해자 대부분이 촉법소년에 해당해 처벌이 미약하다는 질의에 “촉법소년 연령 하한이 이번 기회에 논의될 수 있을 것”이라고 답했다. -
인천서 고등학교 교사 '딥페이크 사진' 제작한 고등학생 검거
사회 사회일반 2024.08.28 20:53:57딥페이크 기술을 활용해 여교사의 얼굴을 나체사진에 합친 뒤 온라인 상에서 유포한 고등학생이 경찰에 붙잡혔다. 28일 인천 남동경찰서는 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 고등학생 10대 A 군을 수사하고 있다고 밝혔다. A 군은 지난달 인공지능(AI)을 이용한 '딥페이크' 기술로 고등학교 여교사 2명의 얼굴을 나체 사진에 합성한 뒤 사회관계망서비스(SNS)에서 유포한 혐의를 받고 있다. 앞서 피해자들로부터 진정서를 접수한 경찰은 수사 끝에 허위 사진 제작·유포자로 A 군을 특정했다. 경찰은 A 군이 주로 텔레그램을 통해 성범죄물을 유포한 것으로 보고 디지털 포렌식을 진행 중이다. 경찰은 추가 피해자 여부도 확인 중인 것으로 파악됐다. 포렌식 작업이 끝나는 대로 A 군을 불러 조사할 방침이다. -
'딥페이크 음란물 생성' 텔레그램 봇 8개 조사한다
사회 사회일반 2024.08.28 20:31:02경찰이 음란물을 생성하는 딥페이크 성범죄 프로그램(봇) 8개에 대해 입건 전 조사(내사)에 착수했다. 28일 경찰에 따르면 서울경찰청은 딥페이크 음란물을 생성하는 텔레그램 봇 8개를 내사 중이다. 지난 26일 22만7000명이 이용한 것으로 추정되는 텔레그램 봇 첫 내사에 착수한 뒤 대상이 확대된 것이다. 경찰은 조사 대상을 지속해서 확대할 방침인 것으로 전해졌다. 경찰은 봇을 운영하는 이들을 추적하는 한편 '겹지인방' 등 해당 봇을 이용해 합성물을 만든 뒤 유포하는 텔레그램 단체방도 들여다보고 있다. 경찰 관계자는 "허위영상물이 유통되는 텔레그램 대화방에 대해 적극적으로 첩보를 발굴하고, 피해사례 확인 시 즉각 수사를 착수할 예정"이라고 말했다. 한편 경찰은 서울경찰청 사이버수사대 내에 태스크포스(TF)를 조직해 이날부터 딥페이크 성범죄 등 허위영상물 집중 대응에 나선다. TF는 총괄팀장인 서울경찰청 사이버수사과장을 필두로 3개 전담수사팀·사이버프로파일링팀·디지털포렌식팀·지원부서팀 등 총 6개 팀으로 구성됐다. 내년 3월 31일까지 7개월간 운영된다. 서울경찰청은 "허위영상물과 같은 디지털 성범죄는 피해자에게 씻을 수 없는 상처를 남기는 중대한 범죄"라며 "TF를 중심으로 딥페이크 등 허위영상물 성범죄를 제작부터 유포까지 근절하기 위해 최선의 노력을 다하겠다"고 전했다. -
서울시-방심위, 24시간 딥페이크 삭제 핫라인 구축 …예방교육도 확대
사회 사회일반 2024.08.28 17:16:20텔레그램을 통한 딥페이크 성범죄 피해가 확산되고 있는 가운데 서울시와 방송통신심의위원회가 24시간 딥페이크 영상물 삭제 체계를 공동으로 구축한다. 오세훈 서울시장과 류희림 방송통신심의위원장이 28일 긴급 회동을 갖고 딥페이크 영상물을 신속하게 삭제하기 위해 상호 핫라인을 구축하는 내용의 협약을 체결했다. 양측은 폐쇄형 사회관계망서비스(SNS) 내에 있는 딥페이크 불법영상물이 공개사이트에 유포될 경우 24시간내에 신속하게 모니터링 및 삭제·차단될 수 있도록 조치하기로 했다. 기존에는 서울시시 디지털성범죄안심지원센터에서 방심위에 삭제요청 할 때마다 각종 증빙자료를 제출해야 했으나 핫라인을 구축하면 시스템으로 연계하여 대량 건수를 일시에 삭제요청할 수 있게 된다고 시는 설명했다. 서울시는 지난 2022년 3월 서울디지털성범죄안심지원센터를 개소한 이래 초기상담, 수사·법률·심리·의료 및 삭제지원 등 1437명의 피해자를 원스톱으로 지원했다. 이중 딥페이크 피해자 총 72명에게 772건의 서비스를 지원했다. 서울시는 또 딥페이크 범죄에 아동·청소년도 쉽고 빠르게 대응할 수 있도록 카카오톡 오픈채팅방에 ‘딥페이크 SOS 전담 상담창구’를 개설해 신고방법 및 범죄 채증방법 등을 안내하기로 했다. 신고를 꺼리는 학생들도 익명으로 쉽게 상담할 수 있도록 카카오톡 오픈채팅방을 개설하고, 서울교육청을 통해 각 학교에 홍보하기로 했다. 이와 함께 서울시는 연말까지 딥페이크 영상물을 자동으로 삭제신고 하는 시스템을 구축하고, 딥페이크 검출기술도 개발할 방침이다. 특히 내년에는 인공지능(AI)을 기반으로 한 딥페이크 검출 기술 ‘서울 안심 아이(Seoul Safe Eye)’를 개발해 딥페이크와 원본 사진·영상물을 구분해 검출해 나갈 계획이다. 오 시장은 “오늘부터 이 시간부터 즉시 딥페이크 영상물을 신고받고 24시간 내 삭제하는 핫라인을 방송통신심의위원회와 함께 운영한다”며 “핫라인 구축을 통해 피해 영상물을 즉각적으로 삭제하고 피해자를 원스톱으로 지원하는 것은 전국 최초”라고 말했다. 이어 “올해 말까지 AI 기반 딥페이크 검출 기술과 자동 신고 시스템을 개발해 시간 단축, 삭제지원 건수 증가 등 시민들의 딥페이크 영상물 피해를 최소화하도록 노력하겠다”고 말했다. -
‘텔레그램’ 넘어 에스크·인스타서도 성행…딥페이크 피해 절반이 중학생
사회 사회일반 2024.08.28 17:04:46“지인 박제하려면 인스타·나이·사진 필수입니다.” “저 X 에스크에 수위 어느 정도 맞춰서 질문하면 받아주니 하고 싶은 사람은 가보시길.” 메신저 ‘텔레그램’이 딥페이크 음란물 등 ‘지인 능욕’ 범죄의 온상으로 지목되며 도마 위에 오른 가운데 타 소셜네트워크서비스(SNS) 플랫폼으로까지 디지털 성범죄가 확산되고 있다. 텔레그램에서 공유된 피해자의 다른 SNS로까지 가해자들이 유입되고 있지만 대부분 외국 서버에 기반해 수사기관이 추적에 난항을 겪고 있다. 특히 SNS 사용이 활발한 10대가 무방비하게 온라인 성범죄에 노출된다는 우려가 제기된다. 28일 서울경제신문 취재를 종합하면 텔레그램에 만연한 이른바 ‘겹지인방’에서는 여전히 피해자들의 이름과 학적, 인스타그램 아이디, 개인 에스크(asked) 주소 등 각종 신상 정보가 공유되고 있다. 해당 방에서는 딥페이크 합성물 공유는 물론 피해자들의 일상적인 사진 위에 자신의 성기를 올려놓거나 자위행위를 하고 ‘인증샷’을 올리는 행위도 나타났다. 가해자들은 텔레그램 대화방 내에서 각종 성희롱을 일삼은 뒤 인스타그램 다이렉트메시지(DM)이나 에스크 질문으로 피해자에게 직접 이를 보여주고 왔다며 타 SNS 계정 ‘원정 후기’를 공유하기도 했다. 이 과정에서 수십~수백 명의 가해자들이 미성년자의 에스크 계정으로 몰려가 성기 사진을 보내는 등 수위 높은 성희롱을 하는 경우도 빈번히 발생했다. 실제로 확인해본 한 10대 여학생의 에스크에는 ‘XX게 생긴 얼굴이다, XX 보고 싶다’ ‘네 사진을 보고 자위행위를 했다’ 등 희롱성 질문이 수백 개 등록돼 있었다. 텔레그램에서 가해자들이 “수위만 잘 지키면 (피해자가) 대답까지 해준다”며 SNS 주소를 공유하는 사이 해당 피해자는 영문도 모르고 사이버 성폭력에 노출되는 것이다. 간단한 가입 절차를 거쳐 익명으로 질문·답변을 주고받는 SNS인 에스크는 예전부터 동급생들이 익명으로 욕설을 하는 등 ‘사이버 학교폭력’의 무법 지대라는 지적을 받아왔다. 그런데 텔레그램 딥페이크 범죄와 연쇄적으로 결합되며 더욱 범죄 수위가 높아진 것이다. 다만 운영사 ‘모비온즈미디어’는 홈페이지에 자체적인 청소년 보호 정책을 실시하고 있다고 명시만 한 채 실질적으로는 유해물 대응에 손을 놓은 상태다. 취재진은 이날 수차례 운영사에 전화 연결을 시도했지만 결국 실패했다. 대표적인 SNS인 인스타그램을 이용한 미성년자 온라인 성범죄는 더욱 활발히 벌어지고 있다. 청소년폭력예방재단인 푸른나무재단의 한 관계자는 “10대 피해자의 나체 합성물을 제작해 DM으로 보내거나 피해자를 사칭하는 공개 계정을 만들어 나체 사진을 수십 장을 게시하는 사례도 있었다”고 말했다. 이어 “이 경우 ‘딥페이크’를 잘 모르는 학부모가 되레 속아서 피해자를 야단치기도 한다”며 “아이에게는 세상이 무너지는 수준의 심리적 충격”이라고 안타까워했다. 교육부가 17개 시도교육청을 통해 파악한 결과 올해 1월부터 전날까지 집계된 학생·교원 딥페이크 피해 건수가 총 196건(학생 186건, 교원 10건)이며 특히 중학교 피해가 100건으로 가장 많았다. 고등학교는 78건, 초등학교는 8건이었다. 미성년자를 신종 디지털 성범죄로부터 보호하기 위해 정부의 감시·처벌 강화와 함께 SNS 플랫폼 기업들도 발 빠른 대응에 나서야 한다는 지적이 나온다. 이와 관련해 방송통신심의위원회는 이날 텔레그램은 물론 페이스북, X(옛 트위터), 인스타그램, 유튜브 등 글로벌 온라인 플랫폼 사업자들과 협의체를 구성해 신속한 영상 삭제 차단 조치와 자율적인 규제를 강력히 요청하겠다고 밝혔다. 교육부 역시 학생·교원들의 피해에 대응해 ‘학교 딥페이크 대응 긴급 TF(가칭)’를 구성하기로 했다. TF는 매주 1회 학교 딥페이크 사안을 조사하고 경찰청·여성가족부·방송통신위원회 등 유관기관과 공조 및 협력 체계를 구축하기로 했다. 서울경찰청 역시 이날부터 7개월간 사이버수사과에 ‘허위영상물 집중대응 TF’를 운영한다. 한편 이날 서지영(부산 동래구) 국민의힘 의원 등 11명은 디지털성범죄피해자지원센터 설치의 법적 근거를 담은 ‘성폭력방지 및 피해자보호 등에 관한 법률 일부개정안’을 발의했다. 디성센터는 2018년 설립 이후 디지털 성범죄물 삭제 지원을 수행해오고 있다. 다만 법적으로 명확한 권한을 부여받지 못한 탓에 불법 사이트 측이 디성센터의 삭제 요청에 불응하는 경우가 종종 발생해 개정이 필요하다는 목소리가 꾸준히 제기돼왔다. -
학교 ‘딥페이크’ 피해 196건 접수…중학교 109건 ‘최다’
사회 사회일반 2024.08.28 17:02:52교육 당국에 200건에 달하는 학생·교원 ‘딥페이크(디지털 성적 허위영상물)’ 피해 신고가 접수됐다. 교육부는 학생·교원들의 불안감을 해소하기 위해 긴급 태스크포스(TF)를 구성하는 한편 10월 중 교육 분야 딥페이크 대응 후속조치를 마련하기로 했다. 교육부는 올 들어 196건(학생 186건, 교원 10건)의 딥페이크 피해 신고가 접수돼, 이 가운데 179건은 수사를 의뢰했다고 28일 밝혔다. 피해 학생은 초등학생 8명을 비롯해 중학생, 고등학생은 각각 100명, 78명이었다. 피해 교사는 9명은 중학교, 1명은 고등학교에 재직 중이었다. 배동인 교육부 정책기획관은 “이게 전부가 아니라는 생각”이라며 “매주 데이터를 업데이트해서 필요하면 공개하겠다”고 했다. 교육부는 사안의 심각성을 감안해 차관을 단장으로 하는 딥페이크 대응 긴급 TF를 구성해 분야별 6개 팀으로 이뤄진 상황반을 가동한다. TF는 딥페이크 관련 사안을 매주 1회 조사해 보고하고, 학생·교원 피해 사안 처리, 학생·교원 심리지원, 학교 예방 교육·인식개선, 디지털 윤리 및 책임성 강화 등 분야별로 대응해 나갈 방침이다. TF는 학생들이 디지털 기술과 미디어를 안전하고 책임감 있게 활용할 수 있도록 방과후 학교 프로그램 등을 통해 디지털 시민교육 강화에도 나설 계획이다. 학교 내에서 발생한 딥페이크 피해 신고는 교육부 누리집의 성희롱·성폭력 온라인 신고센터를 이용하면 된다. 또 딥페이크 의심 성범죄물 등 신고는 112(경찰청), 117(학교폭력 신고센터), 1377(방송통신심의위원회)로 가능하다. 피해 상담은 재학 중인 학교의 학교전담경찰관이나, 디지털성범죄피해자지원센터(02-735-8994), 여성긴급전화(1366)에서 할 수 있다.
이시간 주요 뉴스
영상 뉴스
서경스페셜
주소 : 서울특별시 종로구 율곡로 6 트윈트리타워 B동 14~16층 대표전화 : 02) 724-8600
상호 : 서울경제신문사업자번호 : 208-81-10310대표자 : 손동영등록번호 : 서울 가 00224등록일자 : 1988.05.13
인터넷신문 등록번호 : 서울 아04065 등록일자 : 2016.04.26발행일자 : 2016.04.01발행 ·편집인 : 손동영청소년보호책임자 : 신한수
서울경제의 모든 콘텐트는 저작권법의 보호를 받는 바, 무단 전재·복사·배포 등은 법적 제재를 받을 수 있습니다.
Copyright ⓒ Sedaily, All right reserved