-
푸른나무재단, 딥페이크 청소년 피해자 긴급 신고·삭제 지원한다
사회 사회일반 2024.09.06 08:30:38최근 딥페이크 기술을 통해 허위 영상물을 제작하는 사례가 늘어남에 따라 푸른나무재단이 피해 청소년 지원에 적극적으로 나서겠다고 밝혔다. 6일 푸른나무재단은 "딥페이크 기술 악용에 따라 전국 학교폭력·사이버폭력 상담 전화의 사례가 급증했다"면서 이같이 밝혔다. 학교폭력 예방 비정부기구(NGO)인 푸른나무재단의 최근 학교폭력·사이버폭력 실태조사에 따르면 최근 모든 플랫폼에서 사이버폭력이 발생하고 있다. 사이버 성폭력 피해율은 2년 사이 약 3배가량(22년 2.8% → 24년 8.0%) 증가했다. 교급별로는 중학생이 가장 많이 경험하는 것으로 나타났다. 특히 학교 안에서도 동급생의 옷을 벗기고 추행하는 모습을 사회관계망서비스(SNS) 라이브 방송으로 유포하거나, 대리 결제 등의 사이버 갈취, 계정을 도용하는 사이버 사칭을 통한 불법 게시물 유포, 딥페이크를 활용한 성 착취물 제작 및 유포 등 점차 심각한 범죄로 이어지고 있다는 설명이다. 푸른나무재단의 이번 지원에는 딥페이크·온라인그루밍·몸캠피싱·신상공개 및 저격 등에 따른 사이버폭력 피해 청소년들 누구나 도움 요청이 가능하다. 푸른나무재단은 학교전담경찰관(SPO)와 실무협의체를 꾸려 신고절차를 연계하고, 재단 연구원들은 플랫폼별 안전 가이드라인 규정에 따라 신고·삭제를 돕는다. 상담 번호는 전국 학교폭력 사이버폭력 상담전화와 동일하다. 피해 청소년을 위한 상담·법률·경제지원도 진행한다. 피해 회복을 위해 심리상담과 일상 복귀가 가능한 '위드위센터'에 연계하고, 자문 변호사를 통해 무료 법률 상담 및 문서 작성 조력, 구조연계 등을 제공한다. 부모 경제활동이 어려울 경우 긴급생활비와 병원비, 이사비도 지원한다. 박길성 푸른나무재단 이사장은 사이퍼폭력 지원을 위한 기업의 동참을 촉구했다. 박 이사장은 “심리 상담과 각종 서비스를 연계·제공하고 있지만, 민간단체 혼자만의 힘으로는 한계에 부딪힐 수밖에 없다”며 “딥페이크를 비롯한 사이버폭력 피해 학생의 회복을 지원하고 지속가능한 예방에 시민과 기업의 동참이 절실하다”고 말했다. 그러면서 "플랫폼 기업의 사회적 책무 이행을 위한 유해 콘텐츠 차단 기술 강화 및 감시 활동 확대, 민관협동 핫라인 구축과 예방 교육에도 기업 참여가 필요하다"고 덧붙였다. -
방심위 “내달 딥페이크 관련 글로벌 플랫폼들 만날 것”
산업 IT 2024.09.05 17:09:11방송통신심의위원회가 조만간 글로벌 플랫폼 사업자들을 만나고 협조 서한을 보내는 등 딥페이크 성범죄 대응을 위한 협력체계를 강화할 방침이다. 이동수 방심위 디지털성범죄심의국장은 5일 서울 여의도 국회에서 과학기술정보방송통신위원회가 개최한 딥페이크 관련 정책토론회에 패널 토론자로 참석해 “다음달 글로벌 플랫폼 사업자들과 간담회를 계획 중”이라며 “민간 기업들과의 딥페이크 대응 공조를 강화해나가겠다”고 밝혔다. 방심위는 딥페이크 영상물이 확산될 경우 이를 시정 요청할 플랫폼들을 관리 강화하기 위해 11개 사업자에 대한 협조요청 서한도 보낼 계획이다. 방심위는 최근 딥페이크 영상물의 주요 유통채널인 텔레그램과의 협력 체계 구축을 추진 중다. 텔레그램 측이 방심위에 공식 이메일 서한을 보내 그동안 미흡했던 대응에 대해 사과하고 영상물 25건을 삭제했으며 직접 소통이 가능한 이메일을 공유해 신뢰관계 구축을 희망해왔다고 방심위는 전했다. 방송통신위원회 역시 텔레그램에 대해 딥페이크 영상물의 삭제 명령 등 규제를 검토 중이다. 신영규 방통위 방송통신이용자정책국장은 “텔레그램 채널은 현행법으로 규제할 여지가 있을 것으로 보고 관련 검토를 진행하고 있다”고 말했다. 전기통신사업법 22조 5항에 따르면 ‘정보통신망을 통해 일반에게 공개돼 유통되는 정보’ 중 불법촬영물 등은 방통위가 해당 플랫폼 사업자에게 삭제를 명령할 수 있다. 메신저인 텔레그램에서 오가는 콘텐츠는 정보통신망을 통해 일반에게 공개돼 유통되는 정보에 해당하지 않지만, 다수가 접속해 정보가 공개되는 텔레그램 채널은 이 기준에 부합할 여지가 있다는 것이다. 다만 그간 텔레그램처럼 플랫폼 사업자의 대응 협조가 미흡할 우려가 있는 만큼 사업자 의무를 강화해야 한다는 전문가 지적도 나왔다. 최진응 국회입법조사처 과학방송통신팀 입법조사관은 “플랫폼 사업자가 (의무를) 지속적으로 위반하면 국내에서 접속 차단까지 할 수 있는 강력한 제재 방안을 국회에서 논의할 필요가 있다”고 말했다. -
호기심 때문에? '딥페이크 온상' 텔레그램 이용자 한 달 동안 31만명 ‘급증’
사회 사회일반 2024.09.05 14:00:44‘딥페이크(인공지능 기반 이미지 합성)’ 성 착취물 유포의 온상이 된 메신저 텔레그램의 국내 이용자가 지난 한 달 동안에만 31만 명 늘면서 역대 최대 폭으로 급증했다. 이 중 3분의 1인 10만 명이 10대 이하로 집계돼 피해 방지 등 대책 마련이 요구된다. 5일 애플리케이션(앱) 분석 서비스 모바일인덱스에 따르면 지난달 텔레그램의 월간 활성 이용자(MAU)는 347만1421명으로 전월보다 31만1130명 증가했다. 이 MAU 증가 폭은 2021년 3월 집계가 시작된 이후 역대 최대 규모다. 연령별로는 10대 MAU가 7월 41만1754명에서 8월 51만1734명으로 9만9980명 급증하면서 전체 증가 폭의 32.1%를 차지했다. 이는 50대 증가 폭(2만8420명)의 3.5배, 60대 이상(4290명)의 23배를 웃도는 수치다. 특정 인물의 얼굴 등을 영상에 합성한 딥페이크 논란이 확산하면서 호기심에 텔레그램에 접속한 10대가 급증한 영향으로 추정된다. 국내 딥페이크 성 착취 사건의 가해자와 피해자 모두에서 10대 비중이 큰 것으로 나타났다. 경찰청에 따르면 딥페이크 음란물 집중단속이 이뤄진 지난달 26~30일 나흘간 범죄 신고는 총 118건이 접수됐고 특정된 피의자 33명 중 31명, 검거된 7명 중 6명이 10대로 파악됐다. 또 여성가족부 산하 한국여성인권진흥원에 따르면 올해 1월 1일부터 8월 25일까지 디지털성범죄피해자지원센터에 딥페이크 피해 지원을 요청한 781명 가운데 36.9%(288명)는 10대 이하였다. 이와 관련해 위정현 중앙대 가상융합대학장은 연합뉴스에 “(텔레그램 MAU 중) 10대 미성년자가 많이 늘어난 점은 우려스럽다”며 “일종의 '‘노이즈 마케팅’ 효과가 나타난 것으로 볼 수 있는데 딥페이크 피해자가 늘어나는 역효과가 있을 수 있다”고 말했다. 이어 “텔레그램과 같은 글로벌 사회관계망서비스(SNS)는 국내에서 당국의 협조 요청 등 조치가 쉽지 않다”며 “제도 개선을 추진하면서 청소년 스스로 딥페이크의 심각성을 인식할 수 있게 하는 교육이 중요하다”고 강조했다. -
남고생 집에서 나온 '딥페이크 성착취물 317장'…"장당 2000원에 팔았다"
사회 사회일반 2024.09.05 13:12:21딥페이크 성착취물을 만들어 텔레그램을 통해 판매한 고등학생이 경찰에 붙잡혔다. 5일 경기 안산상록경찰서는 청소년보호법상 아동청소년성착취물의 제작·배포, 성폭력처벌법 위반 혐의로 대구 및 경북 지역 소재 고등학생 A군을 형사 입건했다고 밝혔다. A군은 지난 6월 7일 사회관계망서비스(SNS)에 '근친, 지인, 연예인 합성, 능욕 판매'라는 광고 게시물을 올린 후 연락하는 이들에게 텔레그램을 통해 딥페이크 성착취물을 장당 1000에서 2000원의 가격을 매겨 판매하는 등 불법 성착취물을 제작하고 유포한 혐의를 받는다. A군은 10여 차례에 걸쳐 성착취물을 판매해 30만~40만 원의 돈을 챙긴 것으로 조사됐다. 경찰은 SNS 모니터링 중 A군의 게시물을 발견해 구매자를 가장한 후 수사를 벌여 지난 7월 A군을 검거했다. 경찰은 A군의 자택을 압수수색하고 휴대전화 등을 디지털포렌식 해 딥페이크 성착취물 317장을 발견했다. 경찰은 A군으로부터 딥페이크 성착취물을 구매한 1명에 대해서도 신원을 특정해 조사를 진행 중이며 나머지 구매자들에 대한 수사도 진행할 예정이다. 피해자들은 학생 10명과 교사 1명 등 총 11명으로 대부분 A군의 중학교 시절 지인들로 파악됐다. 피해자들은 경찰 조사가 진행되기 전까지 피해를 본 사실을 인지하지 못한 상태였다. A군은 경찰 조사에서 "돈을 쉽게 벌기 위해 온라인에서 딥페이크 제작법 등을 배워 범행했다"고 진술했다. 이에 경찰은 A군에 대해 사전 구속영장을 신청할 예정이다. -
[특징주] 딥페이크 피해 확산…보안주 급등
증권 국내증시 2024.09.05 09:36:07딥페이크(딥러닝과 페이크의 합성어·불법 합성물) 피해가 확산하면서 보안주가 급등하고 있다. 5일 한국거래소에 따르면 이날 오전 9시 30분께 딥페이크(5.98%), 보안(4.39%) 업종이 강세를 보이고 있다.한컴위드(054920), 모니터랩(434480)은 가격제한폭까지 상승했으며 샌즈랩(411080)(21.73%), M83(476080)(12.45%), 한싹(430690)(16.24%) 등이 10% 이상 상승하고 있다. 텔레그램 등의 소셜네트워크서비스(SNS)를 통해 딥페이크 성착취물 유포가 확산되면서 보안 관련 업종이 조명을 받고 있는 것으로 풀이된다. 수사당국은 피해가 10대 청소년까지 확산되자 대대적인 단속에 나서고 있다. 경찰청이 ‘허위 영상물 특별 집중단속’을 실시한 결과 지난달 26일부터 30일까지 5일 동안 모두 118건의 신고가 접수됐다. 정부와 정치권에서도 딥페이크 피해 방지 대책 마련에 나서고 있다. 국회 여성가족위원회 소속 여야 의원들은 전날 '딥페이크 성범죄 관련 현안 질의'에서 한목소리로 범정부 차원의 엄정 대응을 촉구했다. -
여야 ‘민생 공통공약 추진협’ 구성…6일 정책위의장 회동
정치 국회·정당·정책 2024.09.04 17:13:55한동훈 국민의힘 대표와 이재명 더불어민주당 대표가 합의한 ‘민생 공통 공약 추진 협의회’ 구성을 위해 양당 정책위의장이 이달 6일 회동한다. 한민수 민주당 대변인은 4일 “양당 정책위의장이 6일 만나 (협의회) 관련된 구체적 내용을 협의해 합의되면 발표할 예정”이라고 밝혔다. 김상훈 국민의힘 정책위의장과 진성준 민주당 정책위의장은 6일 여야 공통 공약 목록과 협의회 참여 인사 등 세부 계획을 논의할 것으로 알려졌다. 앞서 한 대표와 이 대표는 1일 회담에서 양당의 공통 민생 공약을 추진하기 위한 협의 기구를 만드는 데 합의했다. 두 대표가 직접 결정한 사안인 만큼 양당 정책위의장 회동에서는 구체적 운영 계획이 나올 것으로 기대된다. 한 대변인은 “양당 대표 회담에서 공동으로 발표된 내용 중 적극 추진하겠다고 한 부분들은 국회에서 빠르게 심의·의결 처리하는 것으로 (협의회에서) 논의될 것으로 생각한다”고 설명했다. 특히 여야 간 견해차가 크지 않은 저출생 대책, 반도체·인공지능(AI) 산업 지원 방안, 딥페이크 성범죄 처벌·예방 대책 등이 민생 협의회 논의 주제로 거론된다. -
방심위만 신경쓰는 텔레그램…디성센터 "딥페이크 삭제 요청 회신 없어"
사회 사회일반 2024.09.04 16:35:25딥페이크 등 성착취물 유포와 관련해 텔레그램이 방송통신심의위원회에 직접 소통하겠다는 뜻을 밝혔지만 정작 성착취물 삭제를 전담하는 디지털성범죄피해자지원센터 등 타 유관기관의 연락에는 여전히 묵묵부답으로 일관하고 있는 것으로 파악됐다. 박성혜 한국여성인권진흥원 디성센터장은 4일 서울 여의도 국회에서 열린 여성가족위원회의 딥페이크 성범죄 관련 긴급 현안질의에 참석해 “디성센터에서 허위 합성물 66건에 대한 삭제 요청을 텔레그램 e메일로 보냈지만 회신 통보가 되고 있지 않은 상황”이라고 밝혔다. 전날 텔레그램 동아시아 관계자가 방심위 측에 직접 소통할 수 있는 전용 e메일을 제공하고 성착취물을 삭제하는 행동을 취했지만 타 기관과의 소통은 여전히 이뤄지지 않는 것이다. ‘전용 e메일을 유관기관들과 공유해야 한다’는 조은희 국민의힘 의원의 지적에 방심위 관계자는 “각 기관 차원에서 해결이 되고 있지 않은 것은 방심위 쪽으로 심의 요청을 하고 있다”며 “급한 사안들은 방심위에 요청하면 즉시 텔레그램에 삭제 요청을 하겠다”고 설명했다. 여가위는 10대 청소년을 중심으로 딥페이크 범죄 피해 우려가 확산됨에 따라 이날 전체회의에서 긴급 현안질의를 개최했다. 주무부처인 여성가족부를 비롯해 법무부·경찰청·과학기술정보통신부 등 관련 부처 관계자들까지 이례적으로 한자리에 모였다. 이날 자리에 참석한 신영숙 여성가족부 장관 직무대행(차관)은 피해자의 이름·직장·학교 등 신상정보가 유포된 경우에도 삭제를 지원할 수 있는 법적 근거 마련에 나서겠다고 밝혔다. 신 차관은 “과기정통부와 협업해 이미지 합성기술을 탐지하고 사진 한 장으로도 성적 허위 영상물을 추적할 수 있도록 디성센터의 시스템 고도화를 추진하겠다”고 말했다. 여가부에 따르면 디성센터에 접수된 허위 영상물 피해 건수는 2019년 144건에서 지난해 423건으로 약 3배 증가했다. 올해는 올 6월까지 총 726건이 접수돼 이미 전년도 피해 건수를 훨씬 넘어섰다. -
법무부 내년 예산 4조4774억원…딥페이크·마약 근절 장비 확보 예산 ↑
사회 사회일반 2024.09.04 15:38:33법무부가 딥페이크 성범죄 분석·마약 유입 방지 장비 도입을 위해 예산을 증액했다. 법무부는 지난달 27일 국무회의 의결을 거쳐 내년도 예산안 총 지출액을 4조4774억원을 확정했다고 4일 밝혔다. 이는 올해보다 1134억원이 늘어난 규모다. 법무부가 예산을 증액하면서 초점을 맞춘 부분은 △마약 및 첨단·범죄 근절 △범죄 피해자 및 취약 계층 권리 구제 △외국인 사회 통합 및 체류 질서 확립 등 3가지다. 우선 인공지능(AI) 기반 딥페이크 음성·영상 위변조 분석장비 도입에 올해보다 12억2900만원이 늘어난 122억5000만원의 예산을 투입한다. 차세대 검찰 포렌식 재범 징후 감지 관련 연구 예산 등 첨단 과학 장비 도입·기술 연구 개발 얘산도 29억 5200만원 증액한다. 첨단 증거 분석 장비를 도입하고, 국제 공조도 강화하는 등 마약 유입 차단 예산(95억5800만원)도 17억5400만원 늘린다. 전자 감독 위치 추적 시스템 고도화·범죄 예방 관련 예산도 39억8000만원 증액했다. 지방 소멸 위기 대응을 위한 외국 인력 유치·정착 지원과 이민자 조기 적응 프로그램, 사회통합 프로그램 이수 제도 등 사회 적응 지원 예산도 각각 39억5900만원, 44억1000만원 늘린다. -
진주 딥페이크 가해 고교생, 강제 전학 조치
사회 사회일반 2024.09.04 13:32:29경남 진주의 한 고등학교 남학생이 여자 후배 사진을 음란물에 합성하고 유포한 이른바 성범죄 사건으로 검찰에 송치된 가운데 강제 전학을 가게 됐다. 4일 교육계 등에 따르면 최근 진주교육지원청 학교폭력 대책심의위원회에서 진주의 고등학생 A(18)군을 전학을 포함해 서면 사과와 특별교육 5시간의 조치를 결정했다. A군은 이번 조치에 앞서 8월 아동·청소년의 성보호에 관한 법률 위반(성착취물제작·배포등) 혐의로 검찰에 송치됐다. 학폭위 조사 결과 A군은 지난 6월 SNS에서 성명불상자에게 피해 학생 얼굴과 음란물을 합성해줄 것을 의뢰한 후 3~4장의 사진을 받았다. 이후 A군은 피해 학생 이름을 도용해 SNS 가짜 계정을 만들어 합성 사진을 게시해 신체적·정신적 피해를 끼친 학교폭력을 저지른 것으로 조사됐다. A군은 학폭위에서 B양에게 어떤 피해와 영향이 미칠지 예상하지 못하고 한 행위라고 주장했다. -
"여학생 6명 '딥페이크 성착취물' 만든 중학생, 버젓이 학교 다녀"…'2차 피해' 호소
사회 사회일반 2024.09.04 11:15:08광주 한 중학교에서 발생한 '딥페이크 불법 합성물' 사건의 피해 여학생들이 가해 학생과 분리 조처되지 않아 2차 피해를 보고 있다는 주장이 나왔다. 가해 학생에게는 피해 학생과의 접촉 금지·교내 봉사 등의 조치가 내려졌지만, 피해자들은 등하굣길이나 급식실 등에서 가해 학생을 마주칠 수밖에 없는 상황에 불편을 호소하고 있다. 3일 광주시교육청과 피해 학생의 학부모에 따르면, 광주 소재 중학교에 다니는 A양은 지난 4월 같은 학교 B군의 휴대전화 사진첩에서 자신을 포함한 동성 친구 5명의 얼굴이 합성된 음란 영상·사진을 발견했다. 휴대전화에서 불법 합성물을 우연히 본 B군의 선배가 A양 등 피해 학생들에게 이 사실을 알렸고, 피해 학생 6명과 학부모들이 교육 당국에 신고하며 조사가 시작됐다. 대면 조사 등을 통해 성범죄 피해를 사실로 확인한 해당 학교 측은 광주시교육청에 보고했고, 교육청은 변호사·경찰·교원 위원·학부모 위원 등으로 구성된 학교폭력 대책심의위원회를 꾸렸다. 위원회는 사안에 대한 논의를 거쳐 지난 5월 22일 B군에게 2호(접촉·협박·보복 금지), 3호(학교 봉사) 조처를 내렸다. 교육 당국의 조사와 동시에 경찰도 B군을 성폭력범죄의처벌등에관한특례법 위반 혐의로 입건해 수사했고, 만 13세인 B군이 촉법 소년에 해당해 검찰 대신 광주가정법원으로 지난 7월 2일 송치했다. 피해 학생들이 졸업할 때까지 접촉 금지·학교 봉사 5시간 등의 조치가 B군에게 내렸지만, 피해 학생들은 분리 조치가 제대로 이뤄지지 않았다고 주장하며 2차 피해를 호소하고 있다. 피해 학생 중 1명은 B군과 같은 학급으로 등교 시 마주쳐야 하며, 나머지 학생들도 이동 수업이나 급식실 이동 시 B군과 접촉할 수밖에 없는 상황에 처했다. 한 피해 학생의 아버지는 "자신을 성적 대상으로 삼았다는 사실에 B군과 만날 때마다 딸이 정신적 고통을 받고 있다"며 "참다 못해 전학을 가겠다는 말까지 하며 힘들어하고 있다"고 말했다. 이어 "미성년자를 대상으로 한 성범죄인데, 강제 전학·퇴학 등의 조치 대신 교내봉사라는 솜방망이 처분이 말이 되느냐"며 "처분에 불복해 행정심판 청구까지 고려하고 있다"고 토로했다. 교육 당국은 학폭심의위원회에서 결정한 처분 결과를 따른 것이라면서 피해 학생들을 도울 방법을 강구하겠다는 입장이다. 해당 학교 관계자는 "2호 접촉 금지 조치는 의도를 가지고 말을 거는 행위만 금지할 뿐 복도·급식실에서 만나는 것까지 제한하지 못한다"며 "피해 학생들이 학교생활에 적응할 수 있도록 돕고, 2차 피해가 일어나지 않도록 노력하겠다"고 설명했다. 딥페이크 관련 성범죄는 특히 10대 사이에서 기승을 부리고 있다. 경찰청이 지난달 26일부터 30일까지 딥페이크 성범죄 특별 집중 단속을 한 결과 입건된 피의자 33명 중 31명(94%)이 10대인 것으로 나타났다. 경찰청은 향후 7개월간 딥페이크 성범죄 특별 집중 단속을 진행할 예정이다. -
연예인 딥페이크·아동 성착취물 판매한 10대 3명 검거
사회 전국 2024.09.04 11:10:33딥페이크 불법 합성물과 아동·청소년 성 착취물을 해외 사회관계망서비스(SNS)를 통해 판매한 10대 3명이 경찰에 붙잡혔다. 부산경찰청 여성·청소년수사계는 성폭력 범죄 처벌특례법(허위 영상물 편집·반포)과 아동·청소년 성 보호에 관한 법률(영리 목적 성 착취물 판매) 위반 혐의로 A군에 대한 구속영장을 신청하고 B군은 구속 송치했다고 4일 밝혔다. C군은 불구속 입건됐다. 경찰에 따르면 고교 졸업생인 A군은 올해 4월부터 5월까지 해외 커뮤니티 앱에서 유명 연예인 등의 얼굴을 합성한 딥페이크 성 착취물 1230개, 아동·청소년 성 착취물 4만4000여개를 15명에게 판매하고 27만원을 받은 혐의다. A군은 SNS상에서 딥페이크 불법 합성물이나 성 착취물을 구매한 뒤 되판 것으로 드러났다. 고등학교를 졸업한 B군도 지난해 12월부터 올해 4월까지 해외 커뮤니티 앱을 통해 아동·청소년 성 착취물 5만4609개를 100여명에게 판매해 220만원을 챙긴 혐의를 받고 있다. 고등학생인 C군은 올해 3월부터 5월까지 해외 SNS를 통해 아동·청소년 성 착취물 등을 10명에게 판매해 95만원을 받아 챙긴 혐의를 받는다. B군과 C군은 지인 등으로부터 성 착취물을 받았다고 경찰에 진술했다. 경찰은 이들로부터 아동 불법 성 착취물을 구매한 63명을 검거해 추가 수사를 진행하고 있다. 이중 형사처벌이 어려운 만 10세 이상 14세 미만의 촉법소년은 20∼30%, 나머지는 10대 중반에서 20대 초반이었다. 딥페이크 제작·유포만 처벌하는 현행법상 딥페이크 성 착취물만 구매한 이들을 처벌할 방법이 없는 상태다. 부산경찰청 관계자는 “전담수사팀을 꾸려 24시간 신속 대응 체제를 구축했다”며 “딥페이크 성 착취물 피해 사례가 확인되는 즉시 수사에 착수해 강력하게 대응하겠다”고 말했다. -
"여태 디지털성범죄 손놓은거야"…'N번방 사태' 때의 2배 넘어
정치 국회·정당·정책 2024.09.04 08:12:32연예인이나 지인의 얼굴을 불법 합성한 '딥페이크' 등 디지털성범죄 영상물이 유통되는 국내외 플랫폼에 대한 방송통신심의위원회(방심위)의 심의 건수가 올해에만 벌써 5만 건을 넘어섰다. 이는 'N번방 사태'가 발생한 2021년 한 해의 2배가 넘는 수치다. 국회 문화체육관광위원회 소속 강유정 더불어민주당 의원이 분석한 바에 따르면, 방심위는 2021년 2만 6000건, 2022년 5만 5287건, 2023년 6만 7102건의 디지털성범죄 심의를 진행했다. 올해의 경우 8월까지만 해도 5만 96건을 심의했다. 문제는 이 중 실제 삭제 조치가 취해진 건수가 매우 적다는 점이다. 2021년 32건, 2022년 440건, 2023년 11건, 올해 8월까지 3건에 불과했다. 대부분은 '접속 차단' 수준의 조치에 그쳤다. 현행법상 디지털성범죄 피해 영상물 삭제·차단의 주체는 해당 영상물이 유통된 플랫폼이다. 그리고 삭제 요청 권한은 피해자, 지원기관, 방심위에 있다. 그러나 대부분의 플랫폼이 해외 업체여서 '접속 차단'이 실효성 있는 조치가 되지 못하고 있다. 방심위는 국제공조점검단을 통해 자율규제(삭제) 요청을 하고 있지만, 이마저도 강제성이 없어 한계가 있다. 강유정 의원은 "디지털성범죄는 피해 종결이 없고, 기술 진화로 신종 범죄로 발전하고 있지만, 입법 논의는 제자리"라며 정부의 대책 마련을 촉구했다. -
고개숙인 텔레그램…딥페이크 영상 지웠다
산업 IT 2024.09.03 18:50:56텔레그램이 최근 국내에서 불거진 딥페이크 성범죄 영상물 사태와 관련해 우리 정부 측이 긴급 삭제 요청한 게시물을 모두 삭제하고 향후 대응을 위한 협조를 강화한다는 뜻을 전해온 것으로 파악됐다. 방송통신심의위원회는 3일 텔레그램 동아시아 지역 관계자로부터 이 같은 내용의 공식 e메일 서한을 받았다고 밝혔다. 방심위에 따르면 텔레그램은 “최근 한국 당국이 저희 플랫폼에서 불법 콘텐츠를 다루는 데 어려움을 겪고 있다는 언론 보도를 알게 됐다”며 “현재와 같은 상황 전개는 매우 안타깝게 생각한다”는 입장을 전했다. 아울러 “방심위와 양측 간 오해의 소지가 있었다면 사과한다”면서 “한국 사용자들에게 텔레그램을 더욱 안전하게 만들기 위해 방심위와 신뢰 관계 구축을 희망한다”고 했다. 텔레그램은 1일 방심위가 긴급 삭제를 요청한 디지털 성범죄 영상물 25건을 모두 삭제했다고도 알렸다. 또 방심위와 즉각 소통할 수 있는 전용 e메일을 공유하며 향후 딥페이크 범죄에 대한 대응 협조를 약속했다. 방심위는 새로운 e메일 주소를 통해 텔레그램이 신고 대상 콘텐츠를 삭제했는지 즉각 확인할 수 있을 것이라고 설명했다. 텔레그램의 이 같은 입장 표명은 전날 경찰이 회사에 대해 성범죄 방조 혐의를 적용해 입건 전 조사(내사)에 착수한 지 하루 만에 나온 것이다. 방심위 관계자는 “텔레그램이 최근 국내 사태에 대한 심각성을 인지하고 향후 협력 의지를 분명히 한 것”이라며 “핫라인을 구축해 양측 간 공고한 협력 관계를 다져나가겠다”고 말했다. 딥페이크 범죄 건수는 나날이 늘어나는 추세다. 모경종(인천 서병) 더불어민주당 의원실이 경찰청으로부터 제출받은 자료에 따르면 딥페이크 범죄는 올해 1월부터 7월까지 297건 발생했다. 현 추세대로면 연말까지 510건으로 지난해 180건의 3배 수준으로 전망된다. 피의자 수도 2021년 78명에서 지난해 120명, 올해는 7월까지 178명으로 폭증했다. 10대가 131명(73.6%)으로 절대다수를 차지했으며 20대와 30대도 각각 36명(20.2%), 30명(5.6%)이었다. 정치권도 태스크포스(TF) 발족에 나서는 등 관련 대응에 나섰다. 이달희 국민의힘 의원은 이날 아동·청소년 성착취물을 이용해 협박 시 5년 이상의 유기징역에 처하도록 하는 ‘아동·청소년의 성보호에 관한 법률’ 개정안을 대표 발의했다. 오세훈 서울시장은 국민의힘이 개최한 국회 토론회에서 연내 인공지능(AI) 딥페이크 검출 기술인 ‘서울 안심 아이’를 개발하고 AI 신고 자동화 시스템을 구축하겠다고 밝혔다. 오 시장은 “신속한 피해자 보호와 지원을 위해 불법 영상물 삭제 지원의 주체를 국가에서 지방자치단체로 확대하는 법령 개정을 강력히 촉구한다”고 강조했다. -
방심위 “텔레그램, 성범죄영상물 긴급 삭제…사과의 뜻도”
산업 IT 2024.09.03 17:31:56방송통신심의원위원회는 최근 국내 딥페이크 성범죄영상물 사태와 관련해 텔레그램 측이 대응 미흡에 대한 사과의 뜻을 밝히며 신뢰관계 구축을 희망해왔다고 전했다. 방심위는 3일 ‘최근 한국 당국이 저희 플램폼에서 불법 콘텐츠를 다루는데 어려움을 겪고 있다는 언론보도를 알게 됐다’며 이 같은 내용을 담은 텔레그램 동아시아 관계자의 공식 이메일 서한을 받았다고 밝혔다. 방심위에 따르면 텔레그램은 1일 방심위가 긴급 삭제 요청한 디지털 성범죄 영상물 25건을 모두 삭제 완료했다고 알렸으며 앞으로 대응 협조를 강화한다는 뜻을 내비쳤다. 텔레그램 측은 “현재와 같은 상황 전개는 매우 안타깝게 생각한다”며 “(양측 간) 오해의 소지가 있었다면 사과한다”고 했다고 방심위는 전했다. 텔레그램은 그러면서 “한국 사용자들에게 텔레그램을 더욱 안전하게 만들기 위해 방심위와 신뢰관계 구축을 희망한다”고 했다. 텔레그램은 방심위와 직접 소통할 수 있는 전용 이메일도 제공했다. 방심위는 “전용 이메일을 시작으로 핫라인을 구축하고 본격적 현안 해결은 물론 디지털성범죄영상의 궁극적 퇴출을 위한 공고한 협력관계를 다져나가기를 기대한다”고 했다. 방심위는 텔레그램 등 딥페이크 성범죄 영상물이 게시되는 국내외 소셜네트워크서비스(SNS)와 공동 대응을 위한 협의체 구성을 추진 중이다. 전날 경찰은 텔레그램 법인에 대해 성범죄 방조 혐의를 적용해 입건 전 조사(내사)에 착수했다. -
오세훈 "지자체도 딥페이크 삭제권 가져야"
사회 사회일반 2024.09.03 15:47:37올해 7월까지 발생한 딥페이크 범죄가 지난 한 해를 통틀어 발생한 건수를 훌쩍 뛰어넘었다. 경찰과 관계부처들이 집중 단속에 나서고 있는 만큼 피해 규모는 더욱 커질 것으로 보인다. 3일 모경종(인천 서병) 더불어민주당 의원실이 경찰청으로부터 제출받은 자료에 따르면 허위 영상물(딥페이크) 범죄는 올해 1월부터 7월까지 297건 발생했다. 현 추세만 이어가도 올해 연간 510건 수준으로 지난해(180건)의 세 배에 육박할 것으로 전망된다. 경찰이 지난달 28일부터 7개월간 딥페이크 집중 단속을 펼치고 있는 만큼 숫자는 더욱 불어날 것으로 전망된다. 딥페이크 범죄는 경찰이 관련 통계를 관리하기 시작한 2021년 156건을 시작으로 2022년 160건, 지난해 180건을 기록했다. 매년 점진적으로 증가하기는 했지만 연간 100건에 머무르던 것이 불과 올해 절반을 겨우 넘긴 시점에 300건 가까이로 폭증한 셈이다. 범죄 자체가 늘면서 검거 건수 역시 2021년 74건, 2022년 75건, 지난해 93건에서 올해는 147건으로 늘었다. 피의자 수를 보면 2021년 78명, 2022년 85명에 불과하던 게 지난해 120명, 올해는 7월까지 178명으로 폭증했다. 10대가 131명(73.6%)으로 절대다수를 차지했으며 20대와 30대도 각각 36명(20.2%), 30대(5.6%)를 차지해 정보기술(IT)에 익숙한 청년층에서 범죄가 횡행하는 것으로 드러났다. 딥페이크 성범죄 피해 확산 우려가 커지자 정치권도 태스크포스(TF) 발족에 나서고 관련 법안도 속속 발의하고 있다. 이달희 국민의힘 의원은 이날 아동·청소년 성착취물을 이용해 협박 시 5년 이상의 유기징역에 처하도록 하는 ‘아동·청소년의 성보호에 관한 법률’ 개정안을 대표 발의했다. 오세훈 서울시장도 이날 국민의힘이 개최한 국회 토론회에 참석해 연내 인공지능(AI) 딥페이크 검출 기술인 ‘서울 안심 아이’를 개발하고 AI 신고 자동화 시스템을 구축하겠다고 밝혔다. 오 시장은 “신속한 피해자 보호와 지원을 위해 불법 영상물 삭제 지원의 주체를 국가에서 지자체로 확대하는 법령 개정을 강력히 촉구한다”고 강조했다.
이시간 주요 뉴스
영상 뉴스
서경스페셜
주소 : 서울특별시 종로구 율곡로 6 트윈트리타워 B동 14~16층 대표전화 : 02) 724-8600
상호 : 서울경제신문사업자번호 : 208-81-10310대표자 : 손동영등록번호 : 서울 가 00224등록일자 : 1988.05.13
인터넷신문 등록번호 : 서울 아04065 등록일자 : 2016.04.26발행일자 : 2016.04.01발행 ·편집인 : 손동영청소년보호책임자 : 신한수
서울경제의 모든 콘텐트는 저작권법의 보호를 받는 바, 무단 전재·복사·배포 등은 법적 제재를 받을 수 있습니다.
Copyright ⓒ Sedaily, All right reserved