-
경찰, ‘딥페이크 능욕방’ 운영자 20대 남성 긴급체포… 검찰 송치
사회 사회일반 2024.08.30 10:53:38경찰이 최근 딥페이크 기술을 사용해 지인의 사진을 음란물에 합성하는 ‘딥페이크 성범죄’가 전국 각 지역의 중·고등학교에서 발생하고 있는 것과 관련해 텔레그램 지인 능욕방 운영자를 긴급체포해 구속했다. 30일 서울경찰청 ‘딥페이크 등 허위영상물 집중 대응 TF’는 지인 능욕방을 개설한 뒤 허위 영상물을 제작해 유포한 20대 남성 A 씨를 지난 22일 긴급체포해 구속했다고 밝혔다. 경찰은 A 씨를 청소년성보호법 위반(성착취물의 제작·배포) 등 혐의로 검찰에 송치했다. A 씨는 지난 5월부터 7월까지 텔레그램에 지인 능욕방인 ‘OO신청방’을 개설한 뒤 SNS 홍보를 통해 유입되는 대화방 참여자들로부터 지인의 얼굴 사진과 이름·나이 등 개인정보를 제공받아 279개의 허위영상물을 제작해 배포한 혐의를 받고 있다. 피해자는 246명에 달하는 것으로 알려졌다. 또한 경찰은 별건으로 지난 2020년 12월께부터 검거 시까지 도박사이트 등 배너 광고 대금을 수익할 목적으로 2개의 성인사이트를 운영하면서 허위영상물 5개, 아동·청소년 성착취물 6개, 불법촬영물 9개, 그 외 음란물 2만618개 등 총 2만638개의 불법 성영상물을 유포한 30대 남성 피의자 B 씨를 지난 22일 검거해 구속했다. 경찰은 B 씨를 A 씨와 같은 혐의로 30일 검찰에 송치했다. B 씨는 수사기관의 추적을 회피하고 방송통신심의위원회의 차단 정책을 우회하기 위해 총 85개의 도메인을 구매해 수시로 도메인을 변경해가며 사이트를 운영해왔다. 또한 도메인이 변경돼도 기존 접속자들이 성인사이트에 쉽게 접속할 수 있도록 총 5개의 주소 안내 웹페이지도 제작·운영한 것으로 확인됐다. 서울경찰청 ‘딥페이크 등 허위영상물 집중 대응 TF’는 사람의 얼굴·신체를 편집·합성·가공해 성적 수치심을 유발하는 행위를 근절하기 위해 관련 범죄자들을 지속적으로 추적할 예정이다. 경찰은 “텔레그램과 웹사이트 등 매체를 불문하고 시민사회단체, 관계기관, 해외수사기관 등과 적극적으로 협력해 사이버 성폭력 범죄 척결을 위해 최선을 다하겠다”며 “딥페이크 범죄 등은 피해자의 잘못이 아니기 때문에 즉시 수사기관에 신고해 도움을 받으실 것을 당부한다”고 전했다. -
"나체사진에 내 얼굴 합성"…경찰 미적대자 직접 범인 잡은 '딥페이크 피해' 교사
사회 사회일반 2024.08.30 10:37:38딥페이크 성범죄 피해를 본 교사들이 증거를 직접 수집해 피의자 학생을 찾아냈다. 29일 인천 남동경찰서는 성폭력 범죄의 처벌 등에 관한 특례법 위반 등 혐의로 고등학생인 10대 A군을 붙잡아 조사 중이라고 밝혔다. A군은 지난달 인공지능(AI)을 이용한 딥페이크 기술로 고등학교 여교사 등의 얼굴을 나체 사진에 합성한 뒤 이를 사회관계망서비스(SNS)에 유포한 혐의를 받고 있다. 피해 교사 2명은 지난달 23일 자신과 관련한 불법 촬영물이 SNS에 떠돈다는 사실을 확인 후 경찰에 수사를 의뢰했다. 그러나 이들은 경찰이 수사에 미온적인 반응을 보이자 직접 증거 수집에 나섰다. 수사가 늦어질수록 피해가 커질 것을 우려해서다. 당시 SNS에 퍼진 사진 중에는 교실로 추정되는 배경이 보였고, 이를 통해 교사들은 특정 교실에서 촬영한 사진이라는 것을 알아챘다. 또 사진 구도를 분석해 모든 사진을 촬영할 수 있는 한자리를 찾은 끝에 A군을 피의자로 지목할 수 있었다. 피해 교사 중 1명은 “A4 용지 13장짜리 보고서를 수사관에게 직접 제출하고 나서야 정식 수사가 시작됐다”며 “우리는 운 좋게 피의자를 찾을 수 있는 상황이었지만, 디지털 성범죄의 경우 경찰 수사에 한계가 있다보니 수많은 피해자가 결국 포기할 수밖에 없는 구조”라고 말한 것으로 전해졌다. 경찰은 A군이 텔레그램 등을 통해 성범죄물을 공유한 것으로 보고 디지털 포렌식으로 구체적인 범행 경위를 조사하고 있다. 경찰은 피해 교사 2명 외 일반인과 학생들을 합성, 촬영한 사진도 유포된 것으로 보고 수사 중이다. 실제로 전국교직원노동조합이 딥페이크 성범죄 긴급 실태 조사를 벌인 결과, 응답자 2492명 가운데 62.3%가 수사와 사법 절차에 불신을 나타냈다. 이재면 전교조 경기지부 부지부장은 “디지털 성범죄에 해당하는 영상물 등 매체를 유포한 자뿐만 아니라 소지, 열람한 자까지 처벌하고 규제할 수 있는 규정을 마련해야 한다”고 강조했다. 전교조에 따르면 직간접적으로 딥페이크 성범죄 피해를 경험한 경우가 517명에 달했고, 이와 관련해 협박을 당한 경우도 14건으로 조사됐다. 피해자 가운데는 불법으로 합성된 사진과 함께 이름, 직장, 전화번호까지 유출돼 일상이 무너진 교사도 있었다. 또 불법 합성물을 만든 가해자가 경찰 조사까지 받았지만 퇴학은커녕 분리조치도 이뤄지지 않았다는 피해 학생도 있었다. 이 가운데 한 중학생 개발자들이 딥페이크 피해 학교 현황을 한눈에 볼 수 있는 온라인 지도를 만들었는데, 공개 하루 만에 접속자가 300만 명을 넘었다. -
경찰 신고된 딥페이크 피해자들 보니 ‘경악’…60%가 미성년자였다…
사회 사회일반 2024.08.30 08:28:54최근 3년간 경찰에 신고된 딥페이크 허위영상물 사건 피해자 중 60%가량이 10대였던 것으로 나타났다. 30일 국회 행정안전위원회 소속 양부남 더불어민주당 의원이 경찰청으로부터 제출받은 자료에 따르면 지난 2021년부터 2023년까지 경찰에 신고된 허위영상물 사건 피해자는 총 527명이었으며, 그 중 59.8%에 해당하는 315명이 10대였다. 20대(32.1%), 30대(5.3%), 40대(1.1%) 등이 그 뒤를 이었다. 허위영상물 피해를 입은 미성년자는 해마다 증가하고 있다. 지난 2021년 53명이었던 허위영상물 피해 미성년자는 2022년 81명, 지난해 181명으로 가파른 상승세를 보이고 있다. 미성년자 가해자 비중 또한 늘어나고 있다. 허위영상물 범죄 혐의로 입건된 전체 피의자 중 10대가 차지하는 비중은 2021년 65.4%에서 2022년 61.2%로 소폭 하락했다 지난해 75.8%로 크게 늘었다. 올해 상반기 역시 73.6%를 기록하고 있다. 그러나 검거율은 낮은 상황이다. 경찰청 통계에 따르면 지난 3년간 허위영상물 범죄 발생건수 대비 검거건수는 2021년 47.4%, 2022년 46.9%, 2023년 51.7%를 기록하고 있다. 양부남 의원은 "딥페이크의 피해자 중 대부분이 10대인 것을 감안하면 대책 마련을 서둘러야 한다"며 "특히 딥페이크 발생건수에 비해 검거실적이 저조한 만큼 강도 높은 수사와 강력한 처벌을 뒷받침할 법안 마련이 시급하다"고 밝혔다. -
여가부 내년 예산 5.4% 늘어난 1조 8163억…"저출생·취약계층 초점"
사회 사회일반 2024.08.30 06:00:00여성가족부는 2025년 예산안을 올해 1조 7234억 원 대비 5.4% 증가한 1조 8163억 원으로 편성했다고 30일 밝혔다. 부문별로 보면 양성평등 정책과 가족 정책에 각각 6.1%씩 늘어난 2598억 원, 1조 2703억 원의 예산이 편성됐다. 지난해 5.3% 삭감돼 논란이 인 청소년 정책 예산으로는 올해 2.4% 늘어난 2449억 원이 배정됐으며 행정 지원 예산은 2.8% 줄어든 412억 원으로 최종 결정됐다. 저출생 극복 총력…돌봄·일자리 지원 확대 여가부는 돌봄·일자리 지원 등 저출생 현상을 극복하기 위한 정책 예산을 큰 폭 확대했다. 우선 가정의 양육부담을 줄이기 위해 아이돌봄서비스 지원 예산을 올해 46억 7886만 원에서 내년 51만 3428만 원으로 인상했다. 구체적으로는 정부지원 대상을 중위소득 150% 이하에서 200% 이하로 완화했다. 또 지원 비율이 상대적으로 낮았던 ‘다형(소득기준 120~150%)’ 및 취학아동 가구(6~12세 자녀) 정부지원 비율을 상향했다. 아울러 아이돌보미 처우개선을 위해 아이돌봄수당을 시간당 1만1630원에서 1만2180원으로 인상하고 영아돌봄수당을 시간당 1500원 추가 지원한다. 여성 경력단절을 예방하기 위해 여성새로일하기센터의 고부가가치 직업훈련과정을 79개에서 89개로 확대하고 직업교육훈련 참여수당(월 10만 원) 신규 지원 및 새일인턴 고용유지 장려금을 380만 원에서 460만 원으로 확대한다. 기업 인사담당자 상대로 진행하는 일·생활 균형 조직문화 조성을 위한 맞춤형 교육도 100개 기업에서 400개 기업으로 대상을 확대한다. 이를 위해 여성경제활동 촉진지원 예산을 7억 517만 원에서 8억 7713억 원으로, 미래 여성인력양성 기반마련 예산은 1억 원에서 3억2000만원으로 증액했다. 자녀 1인당 20만원 양육비 선지급 도입…취약계층 지원망 촘촘히 여가부는 취약·위기 가족, 청소년 등 사회적 소외계층에 대한 예산도 확대했다. 우선 저소득 한부모가족 아동양육비 단가를 월 21만 원에서 23만 원으로 2만 원 인상하고, 학용품비(연 9.3만원) 지원 대상을 초등학교까지 확대(중‧고등학생→초‧중‧고등학생)한다. 또 양육비 미이행으로 어려움을 겪는 가구를 위해 양육비 선지급제(자녀 1인당 월 20만 원, 총 1억 6200만 원)를 도입하고, 오는 9월 독립 법인화되는 양육비이행관리원의 인력을 9명 확충하는 등 기능을 강화한다. 한부모가족복지시설도 1개소 신축, 2개소 증축한다. 여성 청소년의 생리용품 지원 단가를 월 1만3000원에서 1만4000원으로 인상하는 등 위기·취약 청소년을 위한 맞춤형 특화 지원도 늘린다. 가정 밖 청소년 자립지원수당을 월 40만 원에서 50만 원으로 인상, 지원 대상 역시 340명에서 440명으로 확대한다. 또 인구감소지역 청소년의 건강한 성장을 지원하기 위해 지역특색에 맞는 자기주도 활동프로그램 운영 및 특화 사업(총 550만 원)을 신규 추진한다. 미성년 성폭력 피해자 퇴소자립지원수당 신설…폭력 피해 예방·지원 확대 최근 사회적 이슈로 부상하고 있는 교제폭력, 디지털성범죄 등 폭력 피해자에 대한 보호 및 지원도 강화한다. 우선 미성년 성폭력 피해자의 자립을 지원하기 위해 보호시설 퇴소자립지원금을 확대(500만 원→1000만 원)하고, 퇴소자립지원수당(월 50만원, 5년)을 신설한다. 또 디지털 성범죄 피해자를 위한 상담, 삭제지원을 지원하기 위해 지역특화상담소를 확대(14→15개소) 한다. 아울러 교제폭력·스토킹·디지털성범죄 등 복합피해에 대한 원스톱 통합지원을 제공하는 ‘1366통합지원단’을 확대(5→11개소)한다. 또 교제폭력, 스토킹, 딥페이크 등 신종 범죄 예방과 아동·청소년 온라인 성착취 예방을 위한 교육 콘텐츠를 개발·보급 예산을 기존 22억 2900만 원에서 5억 2900만 원으로 늘리고 디지털성범죄 대응 연구 및 국제협력을 위한 예산 4000만 원을 신규 확보했다. 신영숙 여가부 차관은 “여가부는 저출생‧인구위기 극복, 사회적 약자 지원에 중점을 두고 2025년도 예산안을 편성했다”며 “국가의 도움이 필요한 취약 계층이 체감할 수 있도록 지원을 강화해 나가겠다”고 밝혔다. -
AI로 딥페이크 성범죄 막는다…카이스트·IT업계 원천기술 개발 시동
산업 중기·벤처 2024.08.30 06:00:00AI 기반 정보기술(IT) 기술이 딥페이크 성범죄를 해결할 수 있을지에 관심이 쏠리고 있다. 30일 IT 업계에 따르면 AI 기반 사이버 위협 인텔리전스(CTI) 전문 기업 샌즈랩은 생성형 AI 역기능 억제 플랫폼과 사이버 보안 특화 검색증강생성(RAG) 기반 소규모언어모델(sLLM)을 개발하고 있다. 생성형 AI 역기능이란 AI 기술이 허위 정보 및 가짜 뉴스 생성, 저작권 침해, 딥페이크 생성, 사이버 범죄 약용 등의 부정적이거나 예상치 못한 방식으로 악용되는 것을 뜻한다. 과학기술정보통신부와 정보통신기획평가원(IITP)은 AI 역기능 억제를 위한 사이버 보안 특화 RAG 기반 sLLM 모델 개발과 국민 체감형 플랫폼 구축을 과제로 총 100억 원 규모 ‘정보보호 핵심 원천기술 개발사업’을 발주한 바 있다. 샌즈랩은 지난 4월 해당 사업을 수주해 LG유플러스, 포티투마루, 로그프레소, 한국과학기술원(KAIST)와 함께 공동 연구개발 중이다. 샌즈랩은 연구개발 과제 중 하나인 '생성형 AI 역기능 탐지 대응 기술'이 적용된 국민 체감형 플랫폼을 통해 최근 사회적 문제로 대두되고 있는 피싱 공격, 가짜 뉴스 생성, 악성코드 대량 생산, 음성 합성, 딥페이크 이미지·영상 제작과 같은 AI를 악용한 신종 디지털 범죄를 탐지 및 대응할 수 있다고 보고있다. 개발 중인 국민 체감형 플랫폼에는 각종 탐지 기술은 물론 결과 설명을 위한 RAG, 암호화 해제 등 다양한 AI 관련 기술들이 집약된다. 스미싱 및 보이스피싱 탐지 및 차단을 위한 모바일 앱도 포함된다. 샌즈랩은 LG유플러스와 공동 연구개발 중인 딥페이크 영상·이미지 탐지 기술로 심층 학습 기반의 알고리즘 개발, 생성적 적대 신경망(GAN) 기술에 대항하기 위한 적대적 학습 방법 적용, 멀티 모달 데이터 분석등을 통해 더욱 정확하고 정밀하게 딥페이크를 탐지할 수 있을 것으로 기대하고 있다. 샌즈랩은 또한 실시간 비디오 스트리밍이나 소셜 미디어 플랫폼에서의 즉각적인 탐지를 위해 모델을 경량화하고 복잡도는 최소화해 탐지 정확도는 유지하거나 향상시킬 수 있는 최적화 기법을 적용할 예정이다. 회사 관계자는 "샌즈랩은 AI 모델을 학습시킬 수 있는 데이터셋을 페타바이트(Petabyte) 규모로 보유하고 있어 사이버 보안 특화 AI 모델과 sLLM의 자체 개발이 가능하며 이 데이터셋은 AI 모델 개발사들에게 공급 또한 가능해 향후 글로벌 빅데이터 시장에서의 데이터셋 판매 또한 기대하고 있다"고 말했다. -
딥페이크 판치는데…여가부, 불법 영상 삭제 지원 기술 개발엔 '0원'
경제·금융 경제동향 2024.08.30 06:00:00디지털 성범죄로 인해 퍼진 불법 영상물을 삭제하기 위한 예산이 올해보다 16% 넘게 줄어든 것으로 나타났다. 딥페이크(불법 합성물 제작)와 같은 불법 영상물이 청소년을 중심으로 확산하면서 피해가 매우 커지자 당정이 긴급히 디지털 성범죄 방지에 나섰지만 정작 피해 구제에는 무관심하다는 비판이 나온다. 30일 관계부처에 따르면 불법 영상물 삭제 사업을 담당하는 여성가족부 산하 한국여성인권진흥원 디지털성범죄피해자지원센터의 관련 예산은 인건비를 제외하고 올해 12억 2800만 원에서 내년 10억 2600만 원으로 16.4% 삭감됐다. 인력 2명 증원에 따른 인건비 증액을 감안해도 5.9% 줄었다. 올해는 진흥원 내 관련 서버 보안을 강화하기 위해 예산이 지난해보다 22.8% 늘었는데, 보안 사업이 올해 끝나면서 다시 2023년 예산(약 10억 원) 수준으로 후퇴한 것이다. 진흥원은 당초 국제 협력 및 기술 개발을 위해 내년에 약 30억 원의 예산이 필요하다고 호소했지만 여가부가 이를 수용하지 않으면서 오히려 줄었다. 구체적으로 보면 급속도로 진화하는 디지털 성범죄 기술을 따라 잡기 위한 기술 개발 비용이 전무했다. 과거에 없었던 딥페이크·딥보이스 등 인공지능(AI) 기술을 악용한 새로운 디지털 성범죄 유형이 계속 나타나고 있지만 피해를 최소화하기 위한 기술 개발은 몇 년째 제자리 걸음을 반복하고 있어 사실상 후퇴한 셈이다. 해외 협력 예산도 고작 4000만 원 배정됐다. 불법 영상물이 올라오고 확산하는 사이트 대부분이 해외에 서버를 두고 있어 불법 영상물을 삭제하려면 국제 협력이 필요한데 이를 위한 재정적 지원이 없는 것이다. 정부의 지원이 없으면 피해자들은 거액을 들여 사설 디지털 장의사를 찾아야 하는 실정이다. 문제는 디지털 성범죄 유형과 확산 속도가 급속도로 고도화·가속화되고 있다는 점이다. 실제로 지난해 한국여성인권진흥원의 불법 영상물 삭제 지원 건수는 5년 전인 2018년보다 약 8배, 2020년보다 약 1.5배 급증했다. 신보라 한국여성인권진흥원장은 “디지털 성범죄 증가 속도, 관련 불법 영상물 확산 추세 등을 감안하면 이 같은 예산과 인력으로 불법 영상물 모니터링 및 삭제를 지원하기에는 턱없이 부족한 수준”이라며 “딥페이크 추출 시스템과 같은 기술 개발도 꼭 필요한 상황”이라고 말했다. 여가부 관계자는 “디성센터 예산은 삭제 지원 시스템 서버 이중화 작업 완료에 따라 순감된 부분”이라며 “여가부의 내년 전체 디지털 성범죄 대응 예산은 디성센터, 디지털성범죄 특화형 통합 상담소 지원 등 총 50억 7500만 원으로 전년(47억 8200만 원)으로 늘었다”고 말했다. -
"한국, N번방 이어 또…'딥페이크 비상사태' 직면했다" 외신들도 주목
국제 국제일반 2024.08.30 03:00:00국내에서 모바일 메신저 ‘텔레그램’을 기반으로 한 ‘딥페이크(인공지능 기반 이미지 합성)’ 음란 영상물 제작·유포 범죄 피해가 속출하고 있는 가운데, 외신도 "한국이 딥페이크 비상사태에 직면했다"며 주목했다. 28일(현지시간) 영국 BBC방송은 “최근 한국에서 미성년자를 포함해 성적으로 노골적인 딥페이크 이미지를 제작하고 공유하는 채팅 그룹이 다수 발견됐다”며 “윤석열 대통령은 '디지털 성범죄를 철저히 조사하고 해결해 근절하라'고 지시했다”고 보도했다. BBC는 “한국은 디지털 성범죄에 대한 어두운 역사를 가지고 있다”며 지난 2019년 발생한 텔레그램 N번방 사건을 언급했다. 아울러 한국 내 온라인 딥페이크 성범죄가 급증하고 있다는 점도 꼬집었다. BBC는 "올 상반기 경찰에 접수된 딥페이크 성범죄는 297건으로 작년 전체(180건), 2021년(160건)을 크게 웃돈다"고 했다. 특히 "지난 3년 동안 이들 범죄의 3분의 2 이상을 10대 청소년이 저질렀다"고 지적했다. 몰카나 딥페이크 성범죄가 급증하는 배경으로는 ‘성별 격차’를 들었다. BBC는 "한국 상장 기업의 임원직 중 여성은 5.8%에 불과하며 한국 여성은 남성보다 평균 3분의 1 정도의 임금을 받고 있어 세계 부국 중 성별 임금 격차가 가장 심하다"고 짚었다. 이어 "급성장하는 기술 산업에 만연한 성희롱 문화가 더해져 디지털 성범죄가 폭발적으로 증가하고 있다"고 했다. 영국 가디언도 이날 “’몰카’를 근절하기 위한 오랜 노력 끝에 한국은 이제 딥페이크 이미지에 맞서 싸우고 있다”고 전했다. 가디언은 “올해 들어 7개월 동안 297건의 딥페이크 범죄가 신고됐다”라며 “문제는 공식적인 수치보다 더 심각한 것으로 추정된다는 것”이라고 강조했다. 가디언 또한 N번방 사건의 주범인 조주빈을 언급하며 “딥페이크 성범죄에 대한 수사는 온라인 성 협박 조직을 운영하는 데 사용됐던 텔레그램의 한국 내 평판에 더 큰 타격을 입힐 것으로 예상된다”고 했다. 월스트리트저널(WSJ)도 ‘누구나 희생자가 될 수 있다: 인공지능(AI) 가짜 음란물이 초래한 위기가 한국을 강타하다’라는 제목의 기사를 내보냈다. 이 기사는 “수십만명의 익명의 텔레그램 사용자들은 이미지와 동영상으로 조작된 한국 여성들의 사진을 (당사자의) 허락 없이 보냈다”면서 “페이크 음란물을 유포하는 채팅창이 한국어로 이뤄졌기에, 해당 채팅방에 있는 사람들이 한국인임을 시사한다”고 지적했다. 2023년 글로벌 보안 회사인 시큐리티 히어로가 낸 보고서에 따르면 온라인에 게시된 딥페이크 음란물에 등장하는 사람들 중 한국 가수와 여배우가 약 절반을 차지했다. 해당 업체는 100개의 웹사이트에서 유포된 10만 개의 영상을 분석했다. 이와 관련 WSJ은 “전세계에 퍼져 있는 딥페이크 음란물 절반 가량의 출처가 한국이라는 점은 (한국이) 직면한 문제의 규모를 반영한다”고 전했다. -
[사설] 딥페이크 범죄 근절 위해 법제도 정비하고 처벌 강화해야
오피니언 사설 2024.08.30 00:00:00인공지능(AI) 기술을 활용한 딥페이크(허위 영상물) 성범죄 피해가 갈수록 확산되고 있다. 개인 얼굴에 음란물을 합성해 만든 가짜 영상들이 대거 제작·유포되며 피해자를 양산하고 있다. 방송통신심의위원회가 성적 허위 영상물 차단·삭제를 요구한 사례는 2020년 473건에서 올해 7월 말 기준 6434건으로 급증했다. 더욱 우려되는 것은 딥페이크 성범죄가 한낱 ‘장난거리’처럼 10대들을 파고들고 있다는 점이다. 올해 경찰에 적발된 피의자 178명 중 73.6%가 10대였다. 피해자 중에도 10대 이하가 36.9%를 차지했다. 교육청에 접수된 전국 학교 피해 사례에는 초등학생 8명이 포함돼 충격을 줬다. 딥페이크 영상의 제작·유포는 피해자의 삶을 송두리째 무너뜨리는 중대 범죄다. 그런데도 많은 가해자들이 ‘가짜 영상’이라는 이유로 큰 잘못이라는 인식도 없이 범죄를 저지르고 있다. 낮은 처벌 기준도 범죄 확산의 한 이유다. 성폭력처벌법상 허위 영상물 편집·반포 행위에 대한 최고 형량은 징역 5년이다. 수십 명의 피해자를 낳은 일명 ‘서울대 n번방’ 사건 공범도 검찰 구형(10년)의 절반인 5년형을 선고받았다. ‘합성 수준이 낮다’는 등의 이유로 형량이 줄어드는 일도 비일비재하다. 유포 목적이 아닌 제작은 아예 처벌 대상도 아니다. 여전히 안일한 정부 인식도 문제다. 디지털 성범죄가 활개를 치는데도 내년도 피해 대응 예산은 15% 넘게 삭감됐다. 이러니 전 세계 딥페이크 음란물 피해자의 절반 이상이 한국인이라는 분석이 나오는 것이다. 인격을 말살하고 사회를 병들게 하는 딥페이크 범죄를 더 이상 방치해서는 안 된다. 국민들을 디지털 성범죄로부터 보호하기 위해 관련 부처들이 긴밀히 협의해 종합 대책을 마련하고 빅테크들과의 협력도 강화해야 한다. 철저하게 단속·수사를 하는 것은 물론 양형 기준을 손보고 딥페이크 제작·소지에 대해서도 엄중하게 처벌해야 한다. AI 범죄 근절을 위한 규범을 마련하고 ‘AI 기본법’ 제정 등 법제 정비도 서둘러야 할 것이다. -
"딥페이크 음란물 韓 가장 취약"…WSJ "세계적 문제의 진앙"
사회 사회일반 2024.08.29 20:01:32여성 얼굴에 음란물을 합성·유포하는 딥페이크 범죄에 대한 우려가 커지고 있는 가운데 전 세계에 유포된 딥페이크 성 착취물의 피해자 절반 이상이 한국 연예인이라는 조사 결과가 나왔다. 28일(현지 시간) 월스트리트저널(WSJ)은 미국 사이버보안 업체인 시큐리티히어로의 2023년 보고서를 인용해 한국이 딥페이크 음란물에서 가장 취약한 국가로 나타났다고 보도했다. 보고서는 지난해 7~8월 딥페이크 음란물 사이트 10곳과 유튜브·비메오·데일리모션 등 동영상 공유 플랫폼의 딥페이크 채널 85개에 올라온 영상물 약 10만 건을 분석한 결과 영상에 등장하는 개인 중 53%가 한국인으로 나타났다고 짚었다. 뒤를 이어 미국인이 20%, 일본인이 10%, 중국인 3% 순으로 나타나 한국과 차이가 컸다. 음란물 피해자의 99%는 여성이었고 94%가 연예계 종사자였다. 보고서는 “한국은 딥페이크 음란물의 가장 큰 표적이 되고 있다”며 “딥페이크는 엔터테인먼트·정치·허위조작정보 등 다양한 목적으로 이용되지만 어떤 국가에서는 특정한 형태의 콘텐츠, 특히 노골적인 콘텐츠에 더 취약하다”고 꼬집었다. 한국인 딥페이크 피해자 대부분은 가수와 배우 등 연예인이었다. 특히 딥페이크 음란물의 최다 표적이 된 개인 10명 중 8명이 한국인 가수였다. 가장 큰 피해를 본 한국인 가수는 딥페이크 성착취물 1595건에 등장했으며 총 561만 회가 조회됐다. 또 다른 한국 가수의 얼굴도 1283건의 성착취물에 등장해 386만 5000회가 조회됐다. 보고서는 2차 피해를 우려해 피해자의 이름 등은 공개하지 않았다. 한편 2022년 3725건이던 딥페이크 음란물은 2023년 2만 1019건으로 464% 급증했다. WSJ는 최근 한국 정부의 딥페이크 음란물 단속 강화 움직임을 보도하며 “가짜 음란물을 생성·유포하는 텔레그램 기반 네트워크 적발은 한국이 전 세계적 문제의 진앙임을 시사한다”고 짚었다. -
韓, 딥페이크 음란물 취약국 1위…“피해자 99%가 여성”
국제 국제일반 2024.08.29 19:46:12국내에서 최근 여성의 얼굴에 음란물을 합성·유포하는 ‘딥페이크(인공지능 기반 이미지 합성) 성착취’ 확산으로 당국이 집중 단속에 나선 가운데, 전세계에 유포된 딥페이크 성착취물 피해자의 절반 이상이 한국인이며 전체 피해자의 99%가 여성이라는 해외 보안 업체의 조사 결과가 나왔다. 28일(현지시간) 미 일간 월스트리트저널(WSJ)에 따르면 미국의 사이버보안 업체인 ‘시큐리티 히어로’는 지난해 7∼8월 딥페이크 음란물 사이트 10곳과 유튜브·비메오·데일리모션 등 동영상 공유 플랫폼의 딥페이크 채널 85개에 게재된 영상물 9만5820건을 분석한 ‘2023 딥페이크 현황’ 보고서를 최근 발간했다. 보고서에 따르면 한국은 딥페이크 음란물에 가장 취약한 국가로 나타났다. 딥페이크 음란물에 등장하는 개인 중 53%가 한국인으로 가장 많았으며 두 번째로 많은 미국인 20%과 격차가 컸다. 그 뒤를 일본인(10%), 영국인(6%), 중국인(3%), 인도인(2%), 대만인(2%), 이스라엘인(1%)이 이었다. 보고서는 “한국은 딥페이크 음란물에서 가장 많이 표적이 되는 국가”라며 “딥페이크는 엔터테인먼트·정치·허위조작정보 등 다양한 목적으로 이용되지만 어떤 국가에서는 특정한 형태의 딥페이크 콘텐츠, 특히 노골적인 콘텐츠에 더 취약하다”고 꼬집었다. 한국인 딥페이크 피해자 대부분은 가수와 배우 등 연예인이었다. 보고서는 또 딥페이크 음란물의 최다 표적이 된 개인 10명을 꼽았는데 이 중 8명이 한국인 가수였다. 1∼7위와 9위가 한국 가수였고 8위는 태국 가수, 10위는 영국인 배우였다. 보고서는 사안의 민감성을 고려해 피해자의 이름은 밝히지 않았다. 가장 큰 피해를 본 한국인 가수는 딥페이크 성착취물 1595건에 등장했으며 총 조회수는 561만 회였다. 또 다른 한국 가수는 성착취물 1238건의 표적이 됐고 조회수는 386만5000회에 달했다. 이번에 분석한 딥페이크 영상물의 98%가 음란물이었으며, 2022년 3725건이던 딥페이크 음란물이 2023년 2만1019건으로 464% 급증했다고 시큐리티 히어로는 밝혔다. 딥페이크 음란물 피해자 99%는 여성이었고 94%는 연예계 종사자였다. 일반 딥페이크 영상물의 경우, 여성의 비율은 77%였다. 시큐리티 히어로는 보고서에서 “딥페이크 음란물은 일정 그룹의 개인이 조작적이고 종종 악의적인 목적에 따른 표적이 된다는 것이 특징”이라며 “유명 인사인 경우가 많은 이들 개인은 딥페이크 창작자들의 시도를 정면에서 마주하게 된다”고 지적했다. WSJ은 한국 정부의 딥페이크 음란물 단속 강화 움직임과 함께 이번 보고서 내용을 전하면서 “가짜 음란물을 생성·유포하는 텔레그램 기반 네트워크 적발은 한국이 전 세계적 문제의 진앙임을 시사한다”고 보도했다. 다른 주요 외신들도 최근 수년간 디지털 성범죄와 싸워온 한국이 딥페이크 음란물과의 전쟁에 직면했다며 주목했다. 영국 일간 가디언은 “비밀리에 촬영된 성적 영상물인 ‘몰래카메라’를 근절하려 오랜 기간 분투해온 한국이 딥페이크 이미지의 물결과도 전투를 벌이고 있다”고 전했다. 영국 BBC방송도 “한국이 딥페이크 음란물 비상사태에 직면했다”며 텔레그램 대화방에서 수많은 성 착취 영상물을 제작·유포한 ‘n번방’ 사건과 탈의실·화장실 등에서의 불법촬영 등 “(한국에는) 디지털 성범죄와 관련한 어두운 역사가 있다”고 봤다. 이어 “만연한 성희롱 문화 속에서 기술 산업 발전이 디지털 성범죄의 폭발적인 증가를 불러왔다”며 그 배경을 지적했다. 한편 경찰은 이번 사태와 관련해 서울경찰청 사이버수사대 내에 태스크포스(TF)를 조직, 딥페이크 성착취 허위영상물 집중 대응에 나섰다고 밝히며 수사에 속도를 내고 있다. TF는 총괄팀장인 서울경찰청 사이버수사과장을 필두로 3개 전담수사팀, 사이버프로파일링팀·디지털포렌식팀·지원부서팀까지 총 6개 팀으로 구성됐으며 내년 3월31일까지 7개월간 운영된다. -
"마약·성범죄 방치" CEO 예비 기소…세계는 지금 SNS와 전쟁 중
국제 경제·마켓 2024.08.29 17:58:18전 세계 9억 명이 사용하는 메신저 앱 텔레그램의 창업자이자 최고경영자(CEO)인 파벨 두로프가 플랫폼에서 사기와 마약 밀매, 아동 포르노 등 성범죄를 허용했다는 혐의로 28일(현지 시간) 프랑스 법원에 예비 기소됐다. 제3자 게재 불법 콘텐츠에 대한 책임을 소셜네트워크서비스(SNS) CEO에게 물어 형사 기소한 것은 이번이 처음이다. ‘딥페이크(인공지능(AI) 기반 불법 합성물)’를 활용한 범죄가 기승을 부리는 가운데 SNS 소유주 및 경영진에게도 책임을 물어야 한다는 여론이 커진 데 따른 것이다. 일각에서는 과도한 정부 검열과 통제가 표현의 자유를 위축시킬 것이라는 반발도 거세다. ◇범죄 온상으로 전락한 SNS=두로프 CEO가 텔레그램의 ‘느슨한 중재’에 따른 범죄 공모 혐의로 기소된 이날 미국 연방항소법원은 틱톡의 ‘기절(블랙아웃) 챌린지’를 따라하다 사망한 10세 소녀의 어머니가 제기했다가 2022년 기각됐던 소송을 재개하기로 했다. 틱톡의 알고리즘 관리 책임을 묻기로 한 것이다. 앞서 1심은 인터넷 기업들이 제3자 게시물에 대한 책임에서 면제될 수 있도록 한 통신품위법을 인용해 소송을 기각했다. 하지만 항소법원은 틱톡이 해당 콘텐츠를 적극적으로 홍보한 결과 통신품위법이 보호하는 ‘수동적인 중개자’ 영역을 넘어섰다고 판단했다. 이 같은 변화는 최근 SNS가 범죄의 온상이 되면서 SNS 유해 콘텐츠에 대한 통제가 필요하다는 목소리가 커지고 있는 흐름과 맥을 같이한다. 실제 영국 보안 업체 섬서브의 보고서에 따르면 지난해 세계 주요국의 딥페이크 사기 범죄는 미국과 캐나다가 전년 대비 각각 30배, 벨기에가 29배, 일본이 28배 등 폭발적으로 늘었다. 필리핀은 45배나 증가하면서 범죄의 집중 타깃이 됐고 한국도 10배가 늘었다. 이에 발맞춰 각종 규제 법안이 속속 도입되고 있다. 프랑스는 올해 SNS가 가짜뉴스, 인종차별, 불법 상거래 등의 콘텐츠를 근절하기 위해 당국과 협력해야 한다는 내용을 골자로 한 법안을 통과시켰고 영국도 지난달 반이민·극우 폭동이 벌어진 후 악의적인 콘텐츠 확산에 대해 더 엄격한 법률이 필요하다는 목소리가 힘을 얻고 있다. 말레이시아는 자국 내 등록 사용자가 800만 명 이상인 SNS의 운영을 계속하려면 올해까지 아동 안전 보호 및 딥페이크 등 유해 콘텐츠 관리, 온라인 성범죄 해결 방안 등을 마련해 당국에 허가를 받도록 했다. ◇표현의 자유 위축 경고도=다만 이 같은 통제 일변도가 온라인 검열로 이어질 수 있다는 우려도 나온다. 두로프의 예비 혐의 중 하나가 ‘프랑스 수사 당국의 정보 요청에 협조하지 않았다’는 점에서 언론 자유 옹호론자들의 반발도 거세다. 실제 월스트리트저널(WSJ)은 두로프의 체포를 놓고 “두로프가 2013년 텔레그램을 개발한 후 세계 몇몇 정부가 그에게 구애를 펼치기도 하고 통제를 시도하기도 했는데 모두 실패했다”며 정부 통제 의혹을 제기했다. 그동안 정부와 콘텐츠 통제 문제로 갈등을 벌여온 SNS 기업 수장들의 불만도 폭발했다. 동영상 플랫폼 럼블의 크리스 파블로브스키 CEO는 “검열을 안 했다는 이유로 두로프를 체포한 것은 레드라인을 넘은 것”이라고 비판했고 X(옛 트위터) 소유주인 일론 머스크 역시 “2030년 유럽에서 당신은 밈(meme·온라인 유행 콘텐츠)을 좋아했다는 이유로 처형될 수 있다”는 글을 올려 프랑스 사법 당국을 비꼬았다. 당사자인 텔레그램 측은 “플랫폼이나 그 소유주가 해당 플랫폼 남용에 대한 책임이 있다고 주장하는 것은 터무니없다”는 입장을 냈다. 두로프에 대한 기소가 앞으로 SNS 단속을 정당화하려는 각국 정부에 의해 악용될 가능성도 거론된다. 튀르키예 정부는 지난달 자국이 지지하는 팔레스타인 무장 정파 하마스의 지도자에 대한 추모 글이 인스타그램에서 삭제되자 자국 내 인스타그램 서비스를 1주일간 전면 차단하는 결정을 내리기도 했다. 브라질 대법원도 올 4월 가짜뉴스 등을 퍼뜨린 계정을 삭제하라고 X에 명령하면서 이를 따르지 않을 경우 브라질 내 법률 대리인을 체포하겠다고 위협했다. 머스크 CEO는 이 같은 명령에 이의를 제기하며 브라질 현지 사업장을 폐쇄하기로 결정했다. -
당정, 딥페이크 징역 5년→7년 강화…촉법 연령 하향도 검토
정치 국회·정당·정책 2024.08.29 17:52:20당정이 딥페이크 성범죄 관련 긴급 당정협의회를 갖고 최대 징역 5년인 형량을 7년으로 강화하고 형사처벌을 받지 않는 촉법소년 기준 하향을 검토하기로 했다. 국민의힘과 정부는 29일 국회에서 열린 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’에서 이 같은 딥페이크 성범죄 대책을 논의했다고 김상훈 당 정책위의장이 밝혔다. 당정은 일단 입법을 통해 현재 ‘허위 영상물’ 유포 형량인 최대 징역 5년을 ‘불법 촬영물’과 같은 최대 징역 7년으로 강화하기로 했다. 또 딥페이크 영상물 유포자뿐 아니라 제작자도 처벌 대상에 포함시킬 방침이다. 최근 청소년들이 딥페이크 성범죄에 가담한 만큼 현재 형사처벌 대상이 아닌 10세 이상 14세 미만의 촉법소년 기준 연령을 하향하는 방안도 검토된다. 한동훈 국민의힘 대표는 이날 최고위원회의에서 “지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하향과 같은 국민들의 여망이 큰 제도까지도 합의에 이르러야 한다”고 말했다. 아울러 국민의힘은 10·16 재보궐 선거에서 딥페이크 성범죄에 연루된 사람은 공천에서 원천 배제하기로 했다. 정부는 딥페이크 음란물의 주요 유통 경로로 지목되는 ‘텔레그램’ 운영사 측과 핫라인을 확보해 불법적인 정보를 자율적으로 규제하는 방안을 추진한다. 또 국무조정실 산하 딥페이크 성범죄에 대한 범정부 대응 전담팀(TF)을 설치하고 김종문 국조실 1차장이 TF를 이끌기로 했다. TF는 30일 첫 회의를 열 예정이다. 아울러 교육부 홈페이지에 딥페이크 성범죄 신고센터를 개설하기로 했다. 여군 대상 딥페이크 성범죄와 관련해서 국방부는 경찰 수사에 적극 협조하고 피해자 보호 및 재발 방지 대책을 마련하기로 했다. 한편 딥페이크 성범죄의 급속한 확산에도 불법 영상물 삭제에 투입되는 디지털 성범죄 피해 대응 예산은 올해 12억 2800만 원에서 내년 10억 2600만 원으로 16.4%나 삭감된 것으로 나타났다. 특히 딥페이크와 같이 급속도로 진화하는 디지털 성범죄 기술을 따라 잡기 위한 기술 개발 비용은 전무했다. 신보라 한국여성인권진흥원장은 “디지털 성범죄 증가 속도, 관련 불법 영상물 확산 추세 등을 감안하면 이 같은 예산과 인력으로 불법 영상물 모니터링 및 삭제를 지원하기에는 턱없이 부족한 수준”이라고 말했다. -
이원석 검찰총장 "디지털성범죄는 인격살인"…엄정 대응 지시
사회 사회일반 2024.08.29 17:29:50최근 텔레그램을 기반으로 딥페이크 불법 합성물 피해가 확산되고 있는 것과 관련해 이원석 검찰총장이 신속 엄정대응하라고 일선 검찰청에 지시했다. 대검찰청은 29일 전국 일선 검찰청의 디지털성범죄 전담검사 화상회의를 열고 디지털성범죄의 근절 및 피해 예방 방안을 논의했다고 밝혔다. 이 총장은 이날 회의에서 “디지털성범죄는 사회적 인격살인 범죄이므로, 확산되지 않도록 신속하게 엄정대응하고, 허위영상물 삭제와 피해자 지원에 최선을 다하라”고 주문했다. 구체적으로 성적 수치심 유발 정도가 무거운 아동·청소년 대상 허위영상물, 영리 목적 허위영상물 제작 사범은 원칙적으로 구속 수사를 하도록 지시했다. 아울러 허위영상물 제작 과정에 불법촬영 등 추가 범죄가 의심되는 경우 범행 전모를 규명해 엄단하고, 사건 발생 초기부터 경찰과 긴밀히 협조하는 등 신속하고 적극적으로 대응할 것을 당부했다. 이 총장은 공판단계에서는 허위영상물 유포 등 실질적 피해정도를 양형인자의 가중요소로 필수 적용해 구형에 반영하도록 했다. 또 검찰 의견을 적극 개진하고 판결이 이에 미치지 못하면 상소로 적극 대응하라고 강조했다. 지난 28일 징역 5년이 선고된 서울대 N번방 사건 공범에 대해서도 항소를 적극 검토하라고 지시했다. 또한 허위영상물이 유포되었거나 유포 우려가 있을 경우 대검 사이버·기술범죄수사과 또는 여성가족부 산하 디지털 성범죄 피해자 지원센터에 적극적으로 불법촬영물 삭제 및 차단 지원을 의뢰하도록 했다. 대검은 현재 18개 검찰청에 지정된 ‘디지털성범죄 전담검사’를 31개 검찰청으로 확대해 전문 수사력을 강화하도록 한 상태다. 대검은 허위영상물편집죄의 법정형 상향, 처벌 범위 확대, 허위영상물소지죄 신설 등 입법 논의도 지원할 예정이다. -
"경찰이 못하면 우리가 털자"…'가해자는 ○○고 XXX' 딥페이크 '보복방' 등장
사회 사회일반 2024.08.29 16:33:31전국 학교의 딥페이크(인공지능을 이용한 합성 사진·영상물) 성범죄 피해자가 교육청 등을 통해 확인된 것만 수백명에 달하는 등 파문이 확산하고 있는 가운데 온라인상에서는 ‘가해자 정보방’까지 개설돼 이들의 신상정보가 유포되고 있는 것으로 나타났다. 이 과정에서 실제 딥페이크 범죄와 무관한 이들도 다수 포함돼 있어 논란이 예상된다. 29일 텔레그램 상에는 ‘딥페이크 가해자 정보 방’이라는 이름의 방이 개설됐다. 해당 방에는 이날 오전 11시 기준으로 400명이 넘는 인원이 참여하고 있다. 해당 대화방에서는 "XX 가해자 신상 있나요", "XX ○○고등학교에도 가해자 있다던데 신상 좀 털어주세요" 라는 대화가 오가고 있는 상황이다. 한 참여자는 "가해자 정보 가져왔다"며 누군가의 이름, 생년월일, 학교, 거주지, 사회관계망서비스(SNS) 아이디를 올리기도 했다. 그러면서 “여기 있는 사람이 한통씩만 걸어도 수백통이다. 다 같이 전화를 걸어달라”며 “경찰이 처벌할 수 없다면 우리가 해야 한다”고도 했다. 하지만 이같은 개인의 '사적 보복'은 엄연히 불법이다. 타인의 개인정보를 온라인상에 함부로 유포할 경우 개인정보보호법 위반으로 처벌을 받을 수 있다. 앞서 지난 6월 한 유튜버 역시 밀양 집단 성폭행 사건 가해자들의 신상을 공개하다 사건과 무관한 이의 정보를 올려 여론의 뭇매를 맞기도 했다. 허민숙 국회입법조사처 조사관은 중앙일보에 “4년 전 ‘n번방’ 사건 이후 국가의 입법·사법·행정 기능이 제 역할을 하지 못해 가해자들이 또다시 텔레그램을 무대로 확산한 것”이라며 “공권력을 믿지 못하는 국민들이 이른바 ‘사적 제재’에 나서는 참담한 상황”이라고 짚었다. 이윤호 동국대 경찰행정학과 교수 역시 “신상정보 등 개인정보를 공개하는 경우 명예훼손 등으로 처벌받을 수 있다”며 “무고한 피해자가 양산되거나 2차 가해가 발생할 수 있다는 게 가장 큰 문제”라고 지적했다. -
딥페이크 성범죄대응 긴급 대학생 기자회견
사회 사회일반 2024.08.29 15:49:48평화나비네트워크 회원 등이 29일 오전 서울 종로구 세종문화회관 앞에서 '딥페이크' 성범죄대응 긴급 대학생 기자회견을 하고 있다.
오늘의 핫토픽
이시간 주요 뉴스
영상 뉴스
서경스페셜
주소 : 서울특별시 종로구 율곡로 6 트윈트리타워 B동 14~16층 대표전화 : 02) 724-8600
상호 : 서울경제신문사업자번호 : 208-81-10310대표자 : 손동영등록번호 : 서울 가 00224등록일자 : 1988.05.13
인터넷신문 등록번호 : 서울 아04065 등록일자 : 2016.04.26발행일자 : 2016.04.01발행 ·편집인 : 손동영청소년보호책임자 : 신한수
서울경제의 모든 콘텐트는 저작권법의 보호를 받는 바, 무단 전재·복사·배포 등은 법적 제재를 받을 수 있습니다.
Copyright ⓒ Sedaily, All right reserved
서울경제를 팔로우하세요!
서울경제신문
텔레그램 뉴스채널
서경 마켓시그널
헬로홈즈
미미상인