-
"딥페이크 영상 피해 지원 요청 30% 이상은 미성년자"
사회 사회일반 2024.08.28 06:36:27최근 사회적 문제로 부상한 '딥페이크'(Deepfake) 영상물 피해 지원 요청자 30% 이상이 미성년자라는 통계가 공개됐다. 딥페이크 피해가 10대를 중심으로 확산되고 있음을 나타낸다. 28일 여성가족부 산하 한국여성인권진흥원에 따르면 올해 들어 지난 25일까지 디지털성범죄피해자지원센터(지원센터)에 딥페이크 피해 지원을 요청한 781명 가운데 36.9%(288명)는 미성년자인 10대 이하였다. 타인의 일상 사진이나 일반 영상물을 성적 불쾌감을 유발할 수 있는 형태로 합성·편집한 것을 의미하는 딥페이크로 인해 피해 지원을 요청한 미성년자는 2022년 64명에서 2024년(8월 25일 기준) 288명으로 2년 만에 4.5배가 됐다. 같은 기간 전체 피해 지원 요청자가 212명에서 781명으로 3.7배 증가한 속도보다 더 빠르다. 지원센터 관계자는 "10~20대와 같은 저연령층에서 관련 피해가 높게 나타난 것은 이들이 다른 연령층에 비해 SNS 등을 이용한 온라인 소통과 관계 형성에 상대적으로 익숙하기 때문"이라며 "최근 딥페이크 기술이 발전하고, 생성형 인공지능(AI)이 등장함에 따라 손쉽게 불법 영상물을 제작할 수 있는 기술이 보급되면서 관련 피해도 증가하고 있다"고 설명했다. 실제로 최근 들어 딥페이크로 인한 피해가 전국 곳곳의 학교에서 급격하게 확산하면서 교육 당국과 각 지역 교육청이 강력 대응에 나섰다. 무단으로 도용된 본인의 사진이 성적 수치심을 유발할 수 있는 형태로 합성돼 유포됐다면 지원센터로 피해 상담을 접수할 수 있다. 피해 지원 상담은 365일 운영하는 전화나 온라인게시판을 통해 신청하면 된다. -
딥페이크 성범죄에 놀란 정치권…관련 법 우후죽순 발의
정치 국회·정당·정책 2024.08.28 05:30:00최근 딥페이크(특정 인물의 얼굴 등을 영상에 합성)를 활용한 디지털 성범죄 파문이 확산하자 여야가 관련 법안 개정안을 우후죽순 발의하고 나섰다. 여당에선 우재준 국민의힘 의원이 27일 타인의 의사에 반하여 얼굴·신체 또는 음성을 대상으로 한 영상물 또는 음성물과 이를 편집·합성·가공한 정보의 유통을 금지하는 '정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정안’을 발의했다. 이를 위반할 경우 7년 이하의 징역과 10년 이하의 자격정지 또는 5천만 원 이하의 벌금을 부과하는 조항도 담았다. 국회 여성가족위원장인 같은 당 이인선 의원은 불법 촬영물로 피해를 입었을 때 국가와 지자체의 영상 삭제 및 피해자 경제적 지원을 의무화하는 ‘성폭력방지 및 피해자보호 등에 관한 법률 일부개정안’ 발의를 준비 중이다. 거대 야당에서도 관련 법안을 쏟아내고 있다. 여성가족위원회 야당 간사인 김한규 더불어민주당 의원은 딥페이크 성범죄물 등 성착취 허위영상물을 소지·구입·저장 또는 시청한 이들을 처벌하는 ‘성폭력방지 및 피해자보호 등에 관한 법률 일부개정안’을 발의했다. 딥페이크 성범죄 이용자에 대한 처벌을 강화하는 방향에 초점을 맞춘 법안으로 소지·저장·시청한 사람 또한 징역 1년 이하 또는 1000만 원 이하의 벌금에 처하도록 했다. 같은 당 박용갑 의원은 딥페이크 합성·유포자에 대해 7년 이하의 징역과 10년 이하의 자격정지 또는 7천만 원 이하의 벌금에 처하는 내용을 담은 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정안’을 발의했다. 이밖에도 민주당에서는 이해식·한정애·황명선 의원 등이 관련 법안을 발의하는 등 딥페이크 성범죄 예방 및 처벌 논의에 앞다퉈 착수했다. 다만 21대 국회에서도 유사 법안이 발의됐지만 양당의 입법 의지 부족했던 탓에 임기 만료로 모두 폐기된 바 있어 "소 잃고 외양간 고친다"는 비판도 나온다. 특히 AI 생성물에 가상의 정보라는 특정 표식을 넣고 플랫폼 기업들은 표식이 없는 AI 생성물을 바로 삭제할 것을 의무화한 ‘정보통신망법 일부개정안’이 앞서 국회를 통과했다면 최근 광범위한 딥페이크 성범죄 파문을 예방할 수 있었을 것이라는 아쉬움도 나오고 있다. -
尹 "딥페이크는 명백한 범죄"…'처벌 강화·워터마크 도입' 목소리 커진다
산업 IT 2024.08.27 17:45:54인공지능(AI) 기술을 이용해 지인이나 소셜네트워크서비스(SNS) 이용자의 사진을 음란물과 합성한 딥페이크 영상물이 심각한 사회문제로 떠오른 가운데 정부가 강력 단속에 나서기로 했다. 정치권에서도 딥페이크 성범죄에 대한 처벌 강화를 추진하기로 했다. 이와 함께 생성형 AI 기술을 디지털 범죄에 악용할 수 없도록 ‘AI 기본법’ 제정을 비롯해 제도 정비에 나서야 한다는 목소리가 높아지고 있다. 윤석열 대통령은 27일 서울 용산 대통령실 청사에서 열린 제37차 국무회의에 참석해 딥페이크 성범죄에 대한 철저한 수사와 엄벌을 주문했다. 윤 대통령은 “최근 불특정 다수를 대상으로 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “명백한 범죄행위로 관계당국은 디지털 성범죄를 뿌리 뽑아야 한다”고 말했다. 윤 대통령이 AI 기술을 악용한 디지털 성범죄에 대한 강력한 대응을 주문하고 나서자 관계부처들도 부랴부랴 대책 마련에 나섰다. 이날 실·국장 회의를 소집해 딥페이크 음란물 확산 사태와 관련한 대책을 마련한 방송통신심의위원회는 28일 전체회의를 열어 해당 내용을 확정할 예정이다. 방심위는 홈페이지에 딥페이크 음란물 피해 신고 전용 배너를 신설하고 관련 모니터링 요원을 기존보다 2배로 늘려 실시간으로 피해 상황을 감시할 방침이다. 텔레그램과도 즉시 협의할 수 있는 ‘핫라인’을 개설하고 피해 확산 차단에 신속성을 기할 예정이다. 경찰청 국가수사본부는 28일부터 내년 3월 31일까지 7개월간 ‘딥페이크 성범죄 관련 특별 집중 단속’을 실시한다. 서울지방경찰청은 이날 딥페이크 성범죄 확산을 막기 위해 서울 1374개 초중고등학교 학생과 교사·학부모 78만 명을 대상으로 긴급 스쿨벨을 발령했다. 정치권에서도 딥페이크 성범죄 근절을 위한 대책 마련에 나섰다. 한동훈 국민의힘 대표는 딥페이크 음란물 제작 및 유포 사건에 대한 대응 방안을 논의하기 위해 29일 긴급 현안 간담회를 주재한다. 이번 간담회는 실무진 당정협의회 차원으로 진행될 예정이다. 더불어민주당은 딥페이크 음란물 범죄에 대한 처벌을 강화하는 방안을 검토하기로 했다. 김용민 민주당 원내정책수석부대표는 이날 국회 원내대책회의에서 “여성가족부가 아무 역할도 못하고 있는 것 아닌가”라며 “딥페이크 성범죄자들을 철저히 수사해 처벌할 수 있도록 미흡한 현행법을 개정할 것”이라고 말했다. 전문가들은 이제라도 AI 기술이 각종 범죄에 악용되는 것을 막는 법안을 마련하거나 관계부처 간 공동 대처가 시급하다고 입을 모은다. AI 생성물임을 알리는 워터마크를 의무적으로 도입하는 등 사람들이 가상 정보라는 사실을 인지해 스스로 판단할 수 있도록 돕는 제도적 장치를 마련해야 한다는 것이다. 21대 국회에서도 이 같은 내용을 담은 AI 기본법이 발의됐지만 임기 종료로 폐기됐다. 22대 국회에서도 유사한 내용의 법안이 발의됐지만 아직까지는 딥페이크 생성물을 제작하는 기술을 가진 기업들이 스스로 AI 생성물임을 밝히는 ‘자율적’ 참여에만 기댈 수밖에 없는 상황이다. 정부 부처의 한 관계자는 “AI 기술 고도화로 지인은 물론 불특정 다수를 대상으로 한 딥페이크 생성물 제작이 쉬워졌다”면서 “딥페이크 AI 생성물에 대한 워터마크 표시를 의무화한 법이 있으면 이 법에 따라 처벌 규정을 만들고 관리·감독을 하기 수월해질 뿐 아니라 사용자들도 경각심을 더 가질 수밖에 없지 않았겠냐”며 아쉬움을 토로했다. 이성엽 고려대 기술경영전문대학원 교수는 “딥페이크 생성물에 따른 사회적 파급 효과가 크다는 점을 고려하면 워터마크를 도입하는 등 플랫폼의 책임을 강화하는 최소한의 규제는 필요하다”면서 “AI 규제가 기술적 한계나 관련 산업 추진 동력을 떨어트릴 수 있다는 우려가 있지만 딥페이크 음란물 확산 속도를 고려할 때 사후적 규제보다는 사전적 규제가 도입돼야 한다”고 강조했다. -
‘딥페이크 성범죄’ 확산에 떠는 맘카페… “SNS에 딸 사진 내려라”
사회 사회일반 2024.08.27 17:44:48딥페이크 기술을 사용해 지인의 사진을 음란물에 합성하는 ‘딥페이크 성범죄’가 전국 각 지역의 중·고등학교에서 발생하고 있다는 사실이 알려지면서 시민사회가 불안에 떨고 있다. 온라인 커뮤니티 등에 피해 학교 명단 등이 올라오자 지역 맘카페를 중심으로 SNS에서 자녀 사진을 삭제하는 움직임이 포착되고 있다. 27일 경찰 등에 따르면 최근 서울경찰청 사이버수사대는 음란 영상이나 사진 등을 여성의 얼굴에 합성한 뒤 이를 유포할 목적으로 만들어진 텔레그램 채널에 대해 입건 전 조사(내사)에 착수했다. 서울경찰청은 이날 서울 1374개 초·중·고등학교 학생과 교사, 학부모 78만 명을 대상으로 긴급 스쿨벨을 발령했다. 앞서 서울경찰청은 성착취·지인능욕 혐의를 받는 올해 7월 말까지 14세 이상 청소년(촉법소년 미적용) 10명을 검거한 바 있다. 최근 딥페이크 음란물 제작·유포를 위해 생성된 텔레그램 대화방이 대규모로 발견되고, 채팅방 접속 인원이 수십만 명 이상이라는 소식이 전해졌다. 해당 텔레그램 대화방은 각 지역과 학교별로 세분화 돼 있다. 대화방 참가자들은 서로 같이 아는 여성, 일명 ‘겹지인’의 사진을 공유한 뒤 딥페이크 기술을 활용해 음란물을 제작하고 이를 유포하는 방식으로 성희롱을 저지르고 있다. 이들은 페이스북이나 인스타그램 등 SNS와 카카오톡 프로필 사진 등을 무단으로 활용해 범행을 저지른 것으로 알려졌다. 일부 가해자들은 즉석 사진 매장에 붙여 놓은 사진과 졸업사진 등을 활용하기도 한 것으로 전해졌다. 이날 온라인 커뮤니티와 카페 등에 딥페이크 영상물 피해자가 소속된 지역과 학교 명단이 올라오는 등 지역 시민사회는 더욱 불안한 상황이다. 현재까지 해당 명단의 진위 여부는 파악되지 않았지만, 명단은 빠르게 퍼지고 있다. 맘카페 등 지역 커뮤니티에서는 “SNS에 게시된 사진을 내려라”는 취지의 조언이 나오고 있다. 한 누리꾼은 “여학생을 자녀로 둔 어머님들은 가급적 아이 얼굴이 나온 사진을 SNS에 게시하지 말라”며 “자녀들에게도 SNS를 사용하지 말라고 권유하는 것이 좋을 것 같다”는 내용의 게시물을 올렸다. 다른 누리꾼은 “지인의 딸이 피해를 입었다는 소식을 들었다. 모두 주의해야 한다”며 “성범죄의 타깃이 될 우려에 개인 SNS 활동도 마음 놓고 하지 못하는 현실이 개탄스럽다”고 말했다. 문제가 심각해지자 각 지역 교육청은 각 학교에 예방교육 공문을 발송하는 등 대응에 나서고 있다. 일부 학교 학생회 또한 학생 보호 차원에서 SNS 등에 개인 사진을 삭제하라고 권장하고 있다. 한국여성인권진흥원의 디지털성범죄피해자지원센터와 여성긴급전화 1366에서도 피해 사례를 접수하고 있다. 해를 거듭할수록 딥페이크 피해 사례가 증가하고 있는 만큼 경찰도 적극 대응에 나서고 있다. 27일 경찰청은 오는 28일부터 내년 3월 31일까지 ‘딥페이크 성범죄 관련 특별 집중단속’을 실시한다고 밝혔다. 지난 2021년 156건이었던 허위영상물 등 범죄는 2022년 160건, 2023년 180건으로 늘어났으며, 올해 상반기에만 297건이 적발됐다. 특히 10대 청소년 범행의 증가세가 가팔라지는 추세다. 2021년 전체 피의자 수 대비 10대 피의자의 비율은 65.4%였지만, 지난해에는 75.8%까지 치솟기도 했다. 경찰청 관계자는 “딥페이크 성범죄는 피해자의 인격을 말살하는 중대한 범죄이다. 이를 발본색원하여 국민의 불안감을 불식시킬 수 있도록 최선을 다하겠다”라며 “국민의 적극적인 신고·제보를 당부드린다”라고 밝혔다. -
여가부 "딥페이크 피해, '디성센터'에서 접수하세요"
사회 사회일반 2024.08.27 17:33:25여성가족부가 대학가에 이어 중·고등학교까지 확산하고 있는 ‘딥페이크’ 성범죄 피해자를 대상으로 디지털성범죄피해자지원센터에서 상담을 지원한다. 여가부는 본인 사진이 무단으로 도용, 성적 수치심을 유발할 수 있는 형태로 합성되거나 편집돼 유포되는 피해를 입은 경우 한국여성인권진흥원 내 디지털성범죄피해자지원센터(디성센터)로 상담을 접수할 수 있다고 27일 안내했다. 여가부 산하 한국여성인권진흥원 내 설치된 디성센터는 △성적 허위 영상물 관련 상담 △삭제지원 및 유포 여부 모니터링 △수사·법률·의료(심리상담치료 등) 지원 연계 등을 원스톱으로 제공한다. 피해 지원 상담은 365일 운영하는 전화나 온라인게시판을 통해 신청하면 된다.방문 상담이나 개별 심리 상담을 원할 경우 지방자치단체 디지털성범죄 피해자 지원 기관(서울, 인천, 경기, 부산) 또는 시도별로 설치된 디지털성범죄 지역특화상담소(14곳)를 이용할 수 있다. 신 차관은 "프로필 사진 한 장으로 누구나 디지털 성범죄 피해자가 될 수 있다는 사실이 국민들을 불안하게 하고 있다"며 "디성센터를 중심으로 상담, 삭제지원, 유포 여부 모니터링부터 심리적 회복까지 피해자를 신속하게 지원하겠다"고 말했다. -
"A군이 동급생 딥페이크 음란물 갖고 있다”…광주서 첫 학생 피해 신고 접수
사회 사회일반 2024.08.27 17:03:35음란물에 여성 얼굴 사진을 합성하는 ‘딥페이크(인공지능 기반 인간 이미지 합성 기술)’ 성범죄물이 기승을 부리고 있는 가운데 광주에서 첫 학생 피해 신고가 접수됐다. 27일 뉴시스에 따르면 광주경찰청 사이버범죄수사대는 이날 광주의 한 학교에서 ‘10대 A군이 동급생 얼굴을 합성한 음란물을 지니고 있는 것 같다’는 신고가 경찰에 접수됐다고 밝혔다. 신고자는 A군의 휴대전화에 복수의 또래 학생의 얼굴과 음란물이 불법 합성된 영상이 저장돼 있다고 주장하고 있다. 경찰은 우선 신고 내용의 진위를 파악하고자 관련 증거물 확보·분석에 나선다. 디지털 포렌식(전자 법의학 감정) 등을 통해 A군이 음란물을 직접 제작한 것인지, 다른 이들에 배포한 정황은 없는지를 들여다볼 방침이다. 다만 경찰은 A군 사례가 메신저 단체 대화방을 통해 딥페이크 영상을 주고받는 최근 화제가 된 형태의 범죄와는 연관성이 있어 보이지 않는다고 전했다. 자세한 범행 경위나 피해자 연령대, 신원 인지 여부에 따라 성폭력범죄의 처벌 등에 관한 특례법 위반(허위 영상물 등 반포) 또는 아동·청소년의 성보호에 관한 법률 위반(아동·청소년 성 착취물 소지·제작·배포 등) 혐의가 적용될 예정이다. 경찰 관계자는 “지역에서 처음으로 관련 피해 의심 신고가 접수돼 기초 사실관계부터 파악 중이다. A군을 상대로 정확한 동기와 경위 등을 조사할 계획이다”라며 “정확한 신원을 밝히기는 어렵지만, A군과 피해 의심 학생이 같은 학교에 재학 중인 것으로 보이는 만큼 수사에 신중을 기하겠다”고 밝혔다. 최근 대학가와 군부대 안에서 딥페이크 성범죄가 잇따른 직후 텔레그램을 통해 피해자 명단이 공유되고 있다. 또한 진위를 알 수 없는 ‘딥페이크 피해 학교 리스트’가 일파만파 공유되면서, 지역 중·고등학생 사이에서도 공포와 불안감이 빠르게 확산하고 있다. -
국회 여가위, '딥페이크 성범죄' 관련 현안질의
정치 정치일반 2024.08.27 16:50:02국회 여성가족위원회가 27일 텔레그램 대화방을 통한 딥페이크 범죄 대응을 위한 긴급 현안질의를 열고 제도 정비에 나서기로 했다. 이인선 여가위원장과 여야 간사인 서범수 국민의힘·김한규 더불어민주당 의원은 이날 국회 소통관에서 기자회견을 열고 “딥페이크 문제의 심각성을 강력히 경고하고, 이에 대한 시급한 대책 마련을 촉구한다”며 이같이 밝혔다. 이 위원장은 “기존의 개인정보 보호법과 명예훼손 법률은 딥페이크 기술을 이용한 범죄의 특수성을 제대로 반영하지 못하고 있다”며 “딥페이크 기술의 악용을 방지하기 위해 법적 제도를 더욱 강화하고, 여성과 미성년자 보호를 위한 법률 개정을 추진하겠다”고 강조했다. 여가위는 다음달 4일 전체회의를 열고 딥페이크 성범죄 문제와 관련된 긴급 현안질의를 실시하기로 했다. 이 위원장은 “기술적 문제는 과학기술정보통신부가, 범죄자 처벌은 경찰청을 통해서 하는 등 전 부처가 나서야 한다”며 관련 부처의 적극적인 대응을 요구했다. 서 의원 또한 "현안질의에 여성가족부 관계자뿐 아니라 경찰청이나 관련 부처 관계자도 불러서 심도 있게 논의해보겠다"고 말했다. 딥페이크를 이용한 성범죄의 심각성이 큰 만큼 여야는 관련 규제에 속도를 낼 전망이다. 김 의원은 법안 발의 계획에 대해 “여러 의원님들이 관련 법안을 내고 있기 때문에, 현안질의 하고 난 다음주에 전체회의를 열어서 합의된 법안을 통과시킬 수 있을 것이라 예상한다”고 말했다. 그러면서 “21대 국회에서 딥페이크 관련 법안을 만들었는데 유포 목적으로 제작한 경우만 처벌하도록 돼있다”며 관련 제도를 보완할 필요성을 언급했다. 여야는 지난 2월 이후 공석인 여가부 장관 문제로 인해 주무부처의 대처가 미비한 것이 아니냐는 지적에 “주무부처에서 이 상황을 키웠다기보다는 터질 때가 돼서 터진 것이다. 꼭 주무 장관의 문제는 아니다”라고 말했다. 반면 김 의원은 “야당 입장에서 장관이 공석이라는 것은 중요한 의사결정을 내릴 분이 차관으로 제한되기 때문에 정상적인 업무 처리에 어려움이 있다”며 “대통령실도 이번 기회에 다시 한번 여가부 장관 임명을 신속하게 고민해주셨으면 한다”고 촉구했다. -
[기자의 눈] '범죄 놀이터'된 텔레그램
사회 사회일반 2024.08.27 16:42:03최근 한 달 새 신문의 헤드라인을 장식한 사건들 중 단연 눈길을 끈 것은 대학가 범죄들이었다. ‘인하대 딥페이크방’ ‘마약 연합동아리’ 등 음지의 범죄가 진리의 상아탑에서 행해졌다는 사실은 많은 이들을 경악하게 했다. 더 충격적인 것은 이 같은 범죄가 이제 중고등학생들까지 파고들었다는 것이다. 26일 서울경찰청이 7월까지 10명의 청소년을 딥페이크 제작·유통으로 입건했다고 밝힌 데 이어 27일에는 인터넷에 ‘피해 학교 명단’까지 돌며 논란이 일파만파 확산됐다. 대통령의 작심 발언을 시작으로 전국 교육청과 경찰도 즉각 피해 사례 접수에 나섰다. 어쩌다가 미래의 꿈나무들이 이 같은 음침한 범죄에 널리 가담하게 된 것일까. 바로 모바일 메신저 ‘텔레그램’ 채널(단체 채팅방)에서 그 실마리를 찾을 수 있다. 텔레그램 채널은 최대 수용 인원이 20만 명에 달해 성착취물 공유 등 ‘집단범죄’의 온상이 됐다. 범죄 행위가 발각될 위기에 처하면 채팅방 ‘폭파’ 기능을 활용해 증거를 쉽게 인멸할 수도 있다. 정보기술(IT)에 능숙한 젊은이들은 텔레그램의 특징들을 적극 활용해 ‘완전범죄’를 저지르고자 했다. 인하대 딥페이크 공유 채널에는 1000명이 넘는 참가자들이 가입해 있었고 ‘마약동아리’ 일당은 텔레그램에서 만난 딜러와 마약을 거래하다가 수사가 시작된 뒤에는 마약 수사 대처법을 알려주는 채널에 가입해 휴대폰 초기화 방법 등을 공유했다. 비록 이들은 붙잡혔지만 온라인 범죄를 놓고 보면 빙산의 일각일 뿐이다. 텔레그램 본사가 수사 협조 요청에 일절 응하지 않는 만큼 현재로서는 채널 잠입 정도가 범죄자 색출을 위해 할 수 있는 최선이기 때문이다. 정부가 2021년 성착취물 유포를 방치한 플랫폼 사업자도 처벌할 수 있는 ‘n번방 방지법’을 대응책으로 내놓았지만 정작 텔레그램은 ‘사적 채팅방’으로 분류해 아예 적용 대상에서 제외했다. 국가가 손을 놓고 있다는 지적이 이어지자 방송통신심의위원회는 이날 텔레그램과 핫라인을 구축하겠다는 등의 대책을 내놓았다. 늦었지만 최소한의 면목을 세우기 위한 좋은 시작이라고 본다. 프랑스처럼 텔레그램 대표를 체포하지는 못하더라도 적어도 독일과 브라질처럼 텔레그램을 앱스토어에서 삭제하는 정도의 강단은 보여주기를 바란다. -
‘딥페이크 성범죄’ 전국적 확산… 경찰, 특별 집중단속 실시
사회 사회일반 2024.08.27 16:01:11경찰청이 딥페이크 성범죄를 단속하기 위해 7개월간 특별 집중단속에 나선다. 27일 경찰청은 오는 28일부터 내년 3월 31일까지 ‘딥페이크 성범죄 관련 특별 집중단속’을 실시한다고 밝혔다. 최근 전국 곳곳의 초·중·고등학교 학생들이 여성의 얼굴에 음란물을 합성한 ‘딥페이크 영상물’을 텔레그램 등에서 유포하는 사태가 발생하면서 경찰이 대응에 나선 것이다. 과거에는 딥페이크 등 합성을 위해 고도의 기술이 필요했다면, 현재는 인공지능 기술이 발전하면서 누구나 인터넷 검색만으로 쉽게 허위 영상물 등을 제작할 수 있게 됐다. 이에 따라 지인이나 유명인의 일상사진이나 영상을 대상으로 나체사진을 합성하는 등 딥페이크 성범죄의 위협이 크게 증대되고 있다. 실제 허위영상물 등 범죄 관련 발생 건수는 해를 거듭할수록 늘어나고 있다. 지난 2021년 156건이었던 허위영상물 등 범죄는 2022년 160건, 2023년 180건으로 늘어났으며, 올해 상반기에만 297건이 적발됐다. 특히 10대 청소년 범행의 증가세가 가팔라지는 추세다. 2021년 전체 피의자 수 대비 10대 피의자의 비율은 65.4%였지만, 지난해에는 75.8%까지 치솟기도 했다. 일부 누리소통망에서는 참여자들끼리 특정 지역 및 학교의 공통 지인을 찾아 그 지인을 대상으로 허위영상물등을 공유하는 등 범행 수법이 구체화·체계화되고 있는 상황이다. 경찰은 시·도경찰청 사이버성폭력수사팀을 중심으로 적극적으로 단속해나갈 예정이며, 딥페이크 제작부터 유포까지 추적, 검거할 방침이다. 또한 경찰청은 시·도경찰청에 △딥페이크 탐지 소프트웨어를 활용한 분석 △국제공조 등 수사에 필요한 사항을 지원할 예정이다. 특히 딥페이크 대상이 아동·청소년일 경우 아동·청소년성착취물에 해당하므로, 청소년성보호법을 적용해 엄격하게 대응할 방침이다. 또한 10대 청소년들의 ‘딥페이크’ 등 디지털 성범죄를 예방하기 위해 학교전담경찰관(SPO)을 중심으로 △범죄첩보 수집 △경각심 제고를 위한 사례 중심 예방 교육 △홍보 등 예방 활동을 병행할 예정이다. 경찰청은 “딥페이크 성범죄는 피해자의 인격을 말살하는 중대한 범죄이다. 이를 발본색원하여 국민의 불안감을 불식시킬 수 있도록 최선을 다하겠다”라며 “국민의 적극적인 신고·제보를 당부드린다”라고 밝혔다. -
[속보] 서울경찰청, 청소년 딥페이크 관련 '긴급 스쿨벨' 발령
사회 사회일반 2024.08.27 15:27:24최근 청소년을 대상으로 한 ‘딥페이크(AI 기반 합성 이미지)’ 불법합성물 범죄 공포심이 확산하는 가운데 올해 두번째 ‘긴급 스쿨벨’이 발령됐다. 서울경찰청과 서울시 자치경찰위원회는 최근 딥페이크 성범죄가 증가하는 상황에서 특히 10대의 비율이 높다는 점을 감안해 이 같은 조치를 취했다고 27일 밝혔다. 서울청은 관계기관과 협력해 집중적인 예방 활동을 펼치기로 했다. 긴급 스쿨벨은 청소년과 관련한 중요 이슈가 발생하면 학교(1347개) 및 학부모(약 78만 명)에게 주의·대응 요령 등을 'E-알리미'를 통해 실시간으로 전파하는 것을 뜻한다. 긴급 스쿨벨 내용에는 딥페이크는 일상을 파괴하는 성범죄로 강력히 처벌된다는 점과 피해자에게 씻을 수 없는 상처를 유발할 수 있다는 메시지가 담겼다. 더불어 소셜미디어(SNS) 단체 채팅방 등에서 딥페이크로 의심되는 게시글을 인지할 경우 112나 117로 신고 또는 학교전담경찰관(SPO)으로 알려달라고 당부했다. 앞서 서울청은 전날 “지난 7월 말까지 초·중·고등학교 텔레그램 성착취 신고가 10건 접수됐고 이와 관련해 14세 이상 청소년 10명을 입건했다”며 “해당 범죄에 대해서도 촉법소년 규정이 적용되며, 시 교육청 등과 함께 사례, 처벌 조항 등을 정리해 학교별로 진출해 예방 교육을 할 예정”이라고 밝힌 바 있다. 서울청은 이외에도 신학기를 맞아 딥페이크 피해사례와 정보 등을 입수하고 범죄예방 교육 활동에도 힘쓸 계획이다. 특히 딥페이크 범죄 수사에 있어선 사안에 따라 구속수사 등 엄정 대응을 할 방침이다. -
경남 청소년 일상에도 퍼진 딥페이크 성범죄
사회 사회일반 2024.08.27 14:26:53경남에서도 청소년 사이에 첨단조작기술(딥페이크)을 쓴 불법 합성물 성범죄 피해 우려가 커지고 있다. 경남교육청은 27일 하동에서 발생한 중학생 디지털성범죄 딥페이크 관련 브리핑을 열고 피해 학생은 4개 학교 12명이라고 밝혔다. 가해 학생은 1학년 남학생 6명이다. 이 사건은 지난 3월 27일 하동 모중학교 남학생 6명이 텔레그램 단체방을 만들어 피해 여학생 12명의 사진을 합성해 자신들의 텔레그램 단체방에 공유했다가 지난 7월 가해 학생 1명이 영상의 존재를 선배에게 알리면서 공론화됐다. 도교육청은 가해학생들이 공유한 사진은 경찰에서 포렌식 조사를 한 결과 외부로 유출되지 않았고, 현재 피해 사진은 전부 삭제했다고 밝혔다. 도교육청은 현재 피해학생과 보호자를 대상으로 심리상담과 치료 지원을 하고 있으며 정상 등교 중이다. 가해 학생 징계 등을 논의할 학교폭력대책심의위원회는 29일 열린다. 하동 뿐 아니라 경남 곳곳에서도 피해가 이어지고 있다. 올해 경남지역 학교에서 딥페이크 관련 사안이 접수된 것은 총 24건이다. 지역별로는 창원과 진주, 김해에서 각각 5건, 통영 4건, 거제 2건, 사천과 함안, 하동에서 각각 1건이다. 또 초등학교가 1건, 중학교 13건, 고등학교 10건의 범죄가 발생했다. 특히 하동에서 발생한 사건과 같이 중학생은 촉법소년에 해당하는 경우가 많아 형사처벌이 어렵다. 도교육청은 온라인 커뮤니티에 공개된 텔레그램 딥페이크 피해자 학교 명단에 경남지역학교도 20여 개가 포함돼 있는 것을 확인하고 실제 관련 여부에 대해서도 확인 중이다. 배경환 도교육청 민주시민교육과장은 "초중고교 학생들이 손쉽게 앱에 접근해 영상과 사진 등을 합성할 수 있어 디지털 성범죄 사건이 다수 발생하고 있는 것으로 보인다"며 "앱 운영 업체에 음란물 차단 등 협조를 구하고 성인지 교육과 사이버범죄 예방 교육 등을 강화하고 경찰, 경남도와 공조해 성범죄에 대응하겠다"고 말했다. 한편 정재욱(국민의힘·진주1) 도의원은 지난 6월 18일 도의회 본회의 5분 발언에서 “경남도 디지털 성범죄 방지 및 피해 지원 조례와 경남도교육청 디지털 성범죄 예방 및 교육에 관한 조례가 있지만 딥페이크 내용은 빠져 신종 성범죄에 대응하기에는 부족하다”고 밝힌 바 있다. -
與 우재준 "딥페이크 범죄 '7년 이하 징역' 법안 발의"
정치 국회·정당·정책 2024.08.27 13:52:04우재준 국민의힘 의원이 가짜뉴스와 딥페이크 유포 방지를 위한 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정안’을 대표 발의했다고 27일 밝혔다. 개정안은 최근 불특정 다수를 대상으로 하는 딥페이크 영상물이 SNS, 텔레그램 등 플랫폼을 통해 유포·확산되고 있는 것에 대한 조치로 정보통신망에서의 권리 보호 및 지능정보사회 윤리 확립 강화를 목표로 한다. 이를 위해 △딥페이크 기술을 악용한 동영상 피해 예방 △타인의 의사에 반하여 얼굴·신체 또는 음성을 대상으로 한 영상물 또는 음성물과 이를 편집·합성·가공한 정보의 유통 금지 등을 법안에 담았다. 이를 위반해 타인의 권리를 침해한 자에게는 7년 이하의 징역과 10년 이하의 자격정지 또는 5천만 원 이하의 벌금을 부과하는 조항도 신설했다. 앞서 윤석열 대통령은 최근 텔레그램 기반 딥페이크 음란물 제작 및 유포 사건이 확산하는 것과 관련해 "디지털 성범죄를 뿌리뽑아 달라"며 강력 대응할 것을 주문한 바 있다. 우 의원은 “인공지능의 급격한 발전을 악용하는 사례가 늘고 있다”며 “가짜정보와 딥페이크 영상 등이 무분별하게 확산돼 심각한 경제적·정신적 피해를 야기하고 있다”고 말했다. 이어 “이미 발생한 피해에 철저한 실태조사가 진행될 수 있도록 노력해야 한다”며 “윤석열 정부를 도와 건전한 디지털 문화가 자리매김할 수 있도록 최선을 다하겠다”고 강조했다. -
野, 딥페이크 처벌 강화법 내놓는다
정치 정치일반 2024.08.27 11:43:05딥페이크 성범죄물 등 성착취 허위영상물을 소지·구입·저장 또는 시청한 이들을 처벌할 수 있도록 하는 법안이 더불어민주당에서 나왔다. 국회 여성가족위원회 민주당 간사인 김한규 의원은 27일 이같은 내용을 담은 성폭력방지 및 피해자보호 등에 관한 법률 일부개정법률안을 발의했다고 밝혔다. 법안은 딥페이크 성범죄에 대한 처벌을 강화하는 방향에 초점을 맞췄다. 현행법은 딥페이크 성범죄물 등엔 이용자에 대한 처벌 규정이 없어 처벌 공백이 있다는 지적이 있었다. 이에 개정안은 딥페이크 성범죄물 등 성착취 허위영상물을 소지·저장·시청한 사람 또한 징역 1년 이하 또는 1000만 원 이하의 벌금에 처하도록 하는 내용을 담고 있다. 김 의원은 “모 대학 내 익명 커뮤니티에선 법적 공백을 언급하며 처벌을 피할 수 있다는 식의 글들이 올라온 것으로 알려졌다”며 “딥페이크 성범죄 가담자들에게 경각심을 주기 위해 이번 개정안을 신속하게 준비했고, 빠르게 통과시켜 일벌백계해야 한다”고 강조했다. -
‘퇴원’ 이재명 “국회 차원의 딥페이크 범죄근절 대책 마련하라”
정치 정치일반 2024.08.27 11:15:36이재명 더불어민주당 대표가 최근 딥페이크 범죄 확산과 관련 “딥페이크 범죄 근절을 위한 국회 차원의 대책을 마련하라”고 지시했다. 민주당은 27일 출입기자들에게 보낸 메시지에서 이같이 밝히며 “특히 피해자 보호 방안과 딥페이크 제작·배포자에 대한 강력한 처벌규정을 강구하라고 당부했다”고 전했다. 이 대표는 지난 20대 대선 당시 딥페이크 범죄를 강력 처벌하겠다는 공약을 내건 바 있다. 한편 코로나19 확진으로 입원 치료를 받던 이 대표는 이날 퇴원한 뒤 28일 최고위원회의를 시작으로 당무에 복귀한다. -
尹 "딥페이크, 피해자 미성년자 많아…디지털 성범죄 뿌리 뽑아야"
정치 정치일반 2024.08.27 10:59:20윤석열 대통령은 27일 “최근 불특정 다수를 대상으로 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “명백한 범죄행위로 관계 당국은 디지털 성범죄를 뿌리 뽑아야 한다”고 강조했다. 윤 대통령은 이날 제37차 국무회의에서 “딥페이크 영상물은 피해자가 미성년인 경우가 많고, 가해자 역시 대부분 10대로 드러나고 있다”며 “단순 장난이라 둘러대기도 하지만, 익명의 보호막에 기대 기술을 악용하는 명백한 범죄행위”라고 규정했다. 특히 윤 대통령은 “우리 누구나 이러한 디지털 성범죄의 피해자가 될 수 있다”며 “관계 당국에서는 철저한 실태 파악과 수사를 통해 이러한 디지털 성범죄를 뿌리 뽑아달라”고 말했다. 윤 대통령은 “건전한 디지털 문화가 자리매김할 수 있도록 교육 방안도 강구해 주기 바란다”고 주문했다. 한편 여성의 얼굴과 나체 사진을 합성하는 일명 ‘딥페이크’ 성범죄가 기승을 부리면서 피해가 확산하고 있다. 김봉식 서울경찰청장은 26일 정례 기자간담회에서 “학생들은 물론이고 교사에 대한 (영상물)도 만들어서 확산하는 상황”이라며 “IT 기기에 익숙한 청소년 중심으로 확산해서 굉장히 우려스럽게 생각한다”고 밝혔다. 서울경찰청에 따르면 지난달 말 기준 올해 서울에서 딥페이크 영상물과 관련해 검거된 청소년 피의자는 10명이다. 형사 미성년자(촉법소년)인 만 14세 미만 피의자는 입건 대상에서 제외됐다. 관련 수사는 서울청 사이버 수사대가 맡고 있다.
오늘의 핫토픽
이시간 주요 뉴스
영상 뉴스
서경스페셜
주소 : 서울특별시 종로구 율곡로 6 트윈트리타워 B동 14~16층 대표전화 : 02) 724-8600
상호 : 서울경제신문사업자번호 : 208-81-10310대표자 : 손동영등록번호 : 서울 가 00224등록일자 : 1988.05.13
인터넷신문 등록번호 : 서울 아04065 등록일자 : 2016.04.26발행일자 : 2016.04.01발행 ·편집인 : 손동영청소년보호책임자 : 신한수
서울경제의 모든 콘텐트는 저작권법의 보호를 받는 바, 무단 전재·복사·배포 등은 법적 제재를 받을 수 있습니다.
Copyright ⓒ Sedaily, All right reserved
서울경제를 팔로우하세요!
서울경제신문
텔레그램 뉴스채널
서경 마켓시그널
헬로홈즈
미미상인