-
“딥페이크 과잉규제로 갈까 우려"라는 이준석…정부에 ‘이것’ 주문했다
정치 정치일반 2024.08.28 16:13:46특정 인물의 얼굴 등을 영상에 합성하는 ‘딥페이크’ 성범죄가 이슈로 떠오른 가운데 이준석 개혁신당 의원이 과잉 규제 부작용을 우려하며 “위협이 과대 평가되고 있다”고 주장했다. 이 의원은 27일 오후 국회 과학기술정보방송통신위원회 전체회의에 참석해 강도현 과학기술정보통신부 2차관을 상대로 “텔레그램 차단 외에 현실적인 방법이 있나. 과잉규제로 결론이 날까봐 (우려된다)”라며 이같이 말했다. 최근 서울대와 인하대 등 100개 이상 학교에서 텔레그램 딥페이크 성범죄 피해가 드러나 파문이 일었다. 게다가 중·고교생 등 미성년자도 포함된 것으로 알려졌으며 여군을 대상으로 한 딥페이크 텔레그램방도 운영된 것으로 확인됐다. 윤석열 대통령은 “철저한 실태 파악과 수사를 통해 디지털 성범죄를 뿌리 뽑아 주기 바란다”며 관계 당국에 철저한 실태 파악과 엄정한 수사를 주문했다. 이에 이 의원은 “대통령이 조기에 대책을 세우라는 취지로 말한 것은 좋지만 한편으로는 과잉 규제가 나타날 수 있는 가능성이 있어 보인다”며 “기술적으로 어떻게 막나”라고 질의했다. 강 차관은 “딥페이크가 인공지능(AI) 기술에 의해 만들어지니까 표시 의무를 부여할 수 있다. 의원님 말씀처럼 굉장히 심각한 상태”라며 “관계 부처랑 면밀하게 얘기해야 하는데 규제를 조금 더 철저하게 봐야 할 것 같다”고 답했다. 이 의원은 이어 “대통령이 관심을 가지는 사안이다 보니 어떻게라도 방법을 만들기 위해 반농담으로 ‘학교폭력을 없애는 가장 확실한 방법은 학교를 없애는 것’ 이런 식의 대책이 나오면 안 된다”며 “기술적으로 말이 되는 제안이 나와야 될 것 같다”고 강조했다. 김태규 방송통신위원장 직무대행을 향해서는 “정부 쪽에서 신속한 대응을 요구하다 보니 광주에서는 10대 학생이 동급생 얼굴을 합성한 음란물을 지니고 있는 것 같다는 신고가 접수되자마자 바로 가서 학생을 수사했다”며 “실제 수사하면 어떤 결과가 나올진 모르지만 말 한마디면 동급생 수사가 이뤄지는 정도로까지 민감해진 상황”이라고 설명했다. 특히 이 의원은 여성의 사진을 넣으면 이를 합성해 나체 사진으로 만드는 불법합성물 제작 프로그램(봇)을 탑재한 텔레그램방 이용자 수가 22만여 명에 이른다는 보도를 언급하며 “위협이 과대평가되고 있다”고 주장했다. 이 의원은 그러면서 방송통신위원회에 “불안이 실제보다 과장되지 않도록 신경써달라"고 당부했다. -
방심위, 딥페이크 모니터링 강화…"범죄 뿌리 뽑을 것"
산업 IT 2024.08.28 16:11:52방송통신심의위원회가 최근 텔레그램 등을 통해 급속 유포되고 있는 딥페이크 성범죄영상물을 근절하기 위해 모니터링을 대폭 강화한다고 28일 밝혔다. 또 국내·외 플랫폼 기업들과의 협력 체계를 강화해 빠른 시정 조치가 이뤄질 수 있도록 하겠다는 방침이다. 방심위에 따르면 딥페이크 성범죄영상물에 대한 올해 7월 말까지 시정요구 건수가 6343건으로, 전년 동기 대비 약 4배에 달한 것으로 집계됐다. 먼저 방심위는 모니터 인력을 대폭 늘린 '집중화 모니터링'을 통해 딥페이크 주요 유통경로를 신속히 파악하는데 집중한다. 이를 통해 SNS 대상 중점 모니터링, 24시간 내 시정요구, 즉각 수사의뢰 등 ‘강화된 3단계 조치’를 통해 피해를 신속히 구제하기로 했다. 주요 유통 수단으로 최근 지적되고 있는 텔레그램에 대해서는 직접 상시협의를 위한 핫라인을 확보하고 사업자 협력회의, 불법정보 자율규제 협의 등 단계적 조치를 추진한다. 또 텔레그램을 시정요청 협력 대상에 공식 등재하고, 기타 해외 플랫폼 11개에 대해서도 성범죄영상물 정보의 자율적·근원적 삭제를 유도하는 등 시정요청 협력 대상에 대한 관리를 강화하기로 했다. 최근 방심위는 딥페이크 성범죄영상물 전용 신고배너 설치, 1377 신고 안내 메시지·절차 전면 개편 착수 등 텔레그램 피해 신고 본격 접수에 돌입한 바 있다. 아울러 방심위는 글로벌온라인안전규제기관네트워크(GOSRN)를 비롯한 해외 유관기관·국제협의체에 위원장 명의의 서신 발송 등 후속조치도 진행한다. 이를 통해 텔레그램 문제 핵심 의제화 등 국제적 여론 형성에도 적극 동참할 예정이다. 방심위 관계자는 "딥페이크 성범죄영상물 종합대책 시행을 통해 범죄를 뿌리 뽑을 수 있도록 노력하겠다"고 밝혔다. -
"국회의원이 손흥민 딥페이크 공개 왜?"…"우량주 3개 무료로 공유해요"
정치 국회·정당·정책 2024.08.28 15:46:31국회 과학기술정보방송통신위원회(과방위)에서 딥페이크 기술을 악용한 디지털 성범죄의 위험성을 경고하는 영상이 28일 공개됐다. 이날 오전 국회 과방위 전체회의에 참석한 김장겸 국민의힘 의원은 축구선수 손흥민을 활용한 딥페이크 영상을 공개했다. 해당 영상에서 손흥민으로 보이는 인물은 "저는 축구선수이자 경험 많은 투자자입니다. 우량주 3개를 무료로 공유해 드립니다"라며 불법 투자를 유도하는 내용을 발언했다. 영상은 기존 손흥민 선수의 목소리와 입 모양을 그대로 재현해 실제와 구분하기 어려울 정도였다. 김 의원은 김태규 방송통신위원회 직무대행에게 "이 딥페이크 영상이 유튜브와 SNS에서 노출되고 있다"며 대책을 질의했다. 이에 김 직무대행은 "딥페이크 영상물 피해자 신상정보 긴급 심의, AI 생성물 표시제 도입, AI 서비스 이용자 보호 법규 마련, AI 피해 신고 창구 활용 등을 검토 중"이라고 답변했다. 또 "텔레그램 관련 그룹채팅방이나 채널 서비스 등 공개 영역에서의 불법 촬영물 삭제 및 유통 방지 의무 부여, 제재 강화 방안에 대해 법률 검토를 진행할 예정"이라고 덧붙였다. 딥페이크 기술을 이용한 디지털 성범죄가 급증하면서 사회적 우려가 커지고 있다. 전문가들은 "딥페이크 기술의 발전 속도가 매우 빠른 만큼, 관련 법규와 대응책 마련이 시급하다"고 지적했다. 정부는 이에 대응해 AI 윤리 가이드라인 수립, 딥페이크 탐지 기술 개발 지원 등을 추진하고 있지만 아직 실효성 있는 대책 마련에는 어려움을 겪고 있는 것으로 알려졌다. -
딥페이크 강력 대응 교육부…전담팀 꾸려 매주 1회 조사
사회 사회일반 2024.08.28 14:49:53최근 여성의 얼굴에 음란물을 합성한 '딥페이크' 영상물이 텔레그램 단체 대화방 등을 통해 확산하고 있는 가운데 교육 당국이 학생·교원들의 불안감을 해소하기 위해 전담팀을 꾸려 매주 조사에 나서기로 했다. 다음 달 관계부처 대책회의 등을 거쳐 10월 중 교육 분야 딥페이크 대응 후속조치도 마련한다. 교육부는 차관을 단장으로 하는 ‘학교 딥페이크 대응 긴급 TF(가칭)’를 구성해 대응에 나서기로 했다고 28일 밝혔다. TF는 △상황 총괄팀 △학생 피해 지원팀 △교원 피해 지원팀 △디지털 윤리 대응팀 △현장 소통 지원팀 △언론 동향팀 등 6개 팀으로 구성됐다. TF는 매주 한 번씩 학교 딥페이크 사안을 조사하고, 경찰청·여성가족부·방송통신위원회 등 관계부처와 공조·협력체계를 구축하는 한편 시도 교육청과 비상 연락망을 운영하는 등 현장 소통을 총괄한다. TF는 학생·교원 피해 사안 처리, 학생·교원 심리 지원도 맡는다. 학교폭력과 관련된 딥페이크의 경우 학교폭력 사안 처리를 지원하고, 학생 상담 프로그램인 '위(Wee) 클래스', '위(Wee) 센터'를 통해 학생 상담·치유를 지원한다. 피해로 충격이 큰 위기 학생에게는 외부 전문기관을 연계해주고, 정신건강 관련 진료·치료비를 최대 300만 원까지 지원한다. 피해 학생의 불안감을 해소하고 2차 피해를 방지하기 위해 가해자·피해자 분리에도 나선다. 직·간접 피해를 본 교원의 경우 심리 상담과 치료, 법률 지원 등 보호 방안을 마련한다. 이를 위해 교권 침해 직통번호(☎1395)를 통해 피해 사안을 신고받고, 심리·법률 상담까지 원스톱으로 지원한다. TF는 또 학생들이 디지털 기술과 미디어를 안전하고 책임감 있게 활용할 수 있도록 방과후 학교 프로그램 등을 통해 디지털 시민교육 강화에도 나선다. 교육부는 딥페이크 관련 아동·청소년 피해 사실을 알게 될 경우 경찰청(☎112)이나 학교폭력 신고센터(☎117), 디지털 성범죄 피해자 지원센터(☎02-735-8994), 교육부 홈페이지 내 '교육 분야 성희롱·성폭력 신고센터'(www.moe.go.kr)로 즉시 신고해달라고 안내했다. 오는 30일에는 시도교육청 부교육감과 긴급회의를 열고, 다음 달 중 여가부, 과학기술정보통신부, 경찰청 등 관계부처와 대책회의를 개최한다. 전문가·유관기관·시도교육청 자문단을 구성해 다음 달부터 운영하고, 10월 중으로 '교육 분야 딥페이크 대응 후속 조치'를 발표할 예정이다. 한편 교육부가 17개 시도교육청을 통해 파악한 결과 올해 1월부터 전날까지 학생·교원 딥페이크 피해 건수는 총 196건으로 집계됐다. 학생 피해가 186건, 교원 피해가 10건이었다. 이 가운데 179건은 수사 당국에 수사를 의뢰한 상태다. -
과기부·여가부, 딥페이크 근절 공동 대응
산업 IT 2024.08.28 14:00:00과학기술정보통신부와 여성가족부가 최근 텔레그램 등 소셜네트워크서비스(SNS)에서 불거진 디지털 성적 허위영상물(딥페이크) 사태 근절을 위한 공동 대응에 나선다고 28일 밝혔다. 강도현 과기정통부 2차관과 신영숙 여가부 차관은 이날 한국여성인권진흥원 산하 디지털성범죄피해자지원센터를 방문해 운영 현황을 살피고 딥페이크 예방 및 피해자 지원방안을 긴급 점검했다. 디지털성범죄피해자지원센터는 365일 디지털 성범죄 피해 상담과 피해 촬영물 삭제, 수사와 무료 법률 서비스 등을 지원한다. 2018년 4개월 개소 후 3만 2000여명의 피해자를 대상으로 피해촬영물 상담과 삭제, 수사‧법률‧의료 연계 지원 등 총 100만 4000건의 서비스를 제공했다. 두 부처는 최근 생성형 인공지능(AI)을 활용해 손쉽게 딥페이크를 제작할 수 있게 됐고 일반인 대상 디지털 성범죄 피해가 빠르게 확산됨에 따라 신속한 대응을 위해 센터를 공동 방문했다. 두 부처는 딥페이크 탐지하고 사진 한 장으로도 추적할 수 있도록 시스템을 고도화하는 방안 등에 대해 협력할 방침이다. 지난달부터 ‘딥페이크 기반 디지털 성범죄 피해 예방 및 보호 방안 마련’을 위해 정책 연구를 추진하는 등 협업을 이어온 바 있다. 강 차관은 “디지털 성범죄는 피해자의 삶을 송두리째 파괴하고 사회질서를 위협하는 용서할 수 없는 범죄”라며 “ 딥페이크 성범죄를 예방하고 피해자를 빠르게 지원할 수 있는 기술 개발과 새로운 사업 기획 등을 적극 지원하겠다”고 말했다. 신 차관도 “딥페이크 성착취물을 빠르게 탐지할 수 있는 삭제시스템 고도화 등 현장에서 개선이 필요한 사항을 중심으로 과기정통부와 협력방안을 논의하여 건전한 디지털 환경을 함께 조성해 나가겠다”고 했다. -
'서울대 딥페이크' 징역 5년…法 "입에 못 담을 역겨운 내용"
사회 사회일반 2024.08.28 11:35:22서울대 졸업생들이 동문 여성 얼굴을 합성한 음란물을 만들어 유포한 이른바 '서울대 딥페이크'(서울대 N번방) 사건의 공범에게 징역형이 선고됐다. 서울중앙지법 형사14단독 김유랑 부장판사는 28일 성폭력처벌법상 허위영상물편집·반포 등 혐의로 구속기소된 박 모(28)씨에게 징역 5년을 선고했다. 검찰은 징역 10년을 구형했다. 재판부는 40시간의 성폭력 치료 프로그램 이수와 5년간의 정보통신망을 통한 공개·고지, 5년간의 아동·청소년·장애인 관련 시설 취업제한도 명령했다. 재판부는 "허위 영상물 내용은 일반인 입장에서 입에 담기 어려운 역겨운 내용"이라며 "익명성과 편의성을 악용해 수치심이나 부끄러움을 느끼지 못한 채 스트레스를 풀 이용으로 도구화해 피해자의 인격을 몰살해 엄벌이 요구된다"고 지적했다. 또 "공소제기 이후 5명의 피해자와 합의했고 6명에게 형사공탁을 했지만, 적어도 총 16명 외에 인적 사항이 밝혀지지 않은 성명불상 피해자가 존재한다"며 "학업·진로·연애 스트레스를 해소하기 위해 범행했다고 하지만 영상물의 개수와 피해자와의 관계 등을 고려할 때 죄질이 불량하다"고 했다. 박 씨는 2020년 7월부터 올해 4월까지 상습적으로 허위 영상물 400여 개를 제작하고 1700여 개를 유포한 혐의 등으로 지난 5월 기소됐다. 그는 주범인 서울대 출신 박 모(40·구속기소)씨와 온라인 메신저로 연락을 주고받으며 음란물을 만들어 유포한 것으로 조사됐다. 이날 유죄가 선고된 박씨는 서울대 졸업생은 아닌 것으로 알려졌다. 주범 박 씨의 속행 공판은 다음달 예정돼 있다. 피해자 1명을 대리하는 김민아 법률사무소 이채 변호사는 선고 이후"구형보다 많이 깎인 점은 아쉽지만 일상에서 SNS를 이용해 서로 안부를 묻는 것이 범죄에 이용됐다는 점 등을 재판부가 양형에 많이 참고했다는 데 의미가 있다"며 "범죄 근절을 위해 엄벌할 필요성이 있다"고 말했다. -
방심위 “텔레그램 등과 딥페이크 대응 협의체 만들겠다”
산업 IT 2024.08.28 10:40:28방송통신심의위원회가 최근 텔레그램 소셜네트워크서비스(SNS)에서 불거진 디지털 성적 허위영상물(딥페이크) 사건에 대응하기 위해 사업자들과 협의체를 구성하기로 했다. SNS 사업자들의 협조를 이끌어내 신속하게 게시물이 삭제·차단될 수 있도록 하겠다는 것이다. 류희림 방심위원장은 28일 전체회의에서 “국내 주요 포털사이트는 물론 텔레그램, 페이스북, 엑스(옛 트위터), 인스타그램, 유튜브 등 글로벌 온라인 플랫폼 사업자들과 긴밀한 협의체를 구성해 신속한 삭제·차단 조치와 함께 자율적인 규제를 강력히 요청할 계획”이라고 밝혔다. 그는 “해외에 서버가 있는 글로벌 온라인 플랫폼 사업자 중 국내 공식 협의체가 없는 사업자들에 대해서는 면대면 협의 채널을 이끌어내 상시적인 협의가 될 수 있도록 추진하겠다”고 말했다. 텔레그램 등에서 일반인 다수를 대상으로 한 딥페이크 게시물이 노골적으로 공유되고 있지만 서버가 해외에 있는 탓에 국내 SNS에 비해 수사가 쉽지 않은 상황이다. 류 위원장은 “딥페이크 기술이 대학과 중고등학교뿐 아니라 초등학교까지 유포됨으로써 우리 사회를 정조준해 위협하는 상황이 됐다”며 이날 전체회의를 통해 사업자 협의체 구성을 포함한 종합대책을 구체화하고 시행하기로 했다. 방심위는 텔레그램 등 주요 SNS에 대한 자체 모니터 인원을 2배 이상 늘려 집중 모니터링을 통해 불법 성범죄영상물을 신속하게 적발하고 향후 디지털 성범죄 전담인력도 늘릴 계획이다. 또 전자심의를 강화해 24시간 이내 삭제·차단이 될 수있도록 시정을 요구하고 악성 유포자는 즉각 경찰에 수사 의뢰하기로 했다. 류 위원장은 “현행 법과 심의규정의 미비로 디지털 성범죄영상물의 제작이나 소지, 유포 등에 대한 처벌이 미약하다”며 “관련 범죄가 확산되고 있다는 지적에 대해서도 보완 입법을 관계기관에 건의하고 관련 전문가들과 협력해 보완 입법 이전에 할 수 있는 최대한의 심의 규정 보완도 강구하겠다”고 덧붙였다. -
"여동생 잔다" 영상 공유하자 "부럽다"…텔레그램 '가족능욕방' 참여자가 무려
사회 사회일반 2024.08.28 10:25:13올 들어 ‘서울대 N번방’, ‘인천 소재 대학 딥페이크 채팅방’ 등 모바일 메신저 텔레그램에서 불법합성물(딥페이크)을 제작·유포하는 성범죄가 기승을 부리고 있다. 이 가운데 대학생과 중·고교생 등 미성년자는 물론 교사, 여성 군인, 심지어는 가족까지 범죄의 대상이 됐다는 주장이 나왔다. 최근 텔레그램에서는 여성 얼굴을 나체 사진에 합성하는 딥페이크 채널이 잇따라 발견되고 있다. 온라인상에는 ‘딥페이크 피해 학교 명단’으로 떠도는 곳만 100곳 이상이며, 피해 학교 지도까지 생성돼 퍼지고 있다. 텔레그램에서 ‘XX능욕방’, ‘겹지방(겹지인방)’ 등 관련 채널이 우후죽순 발견되고 있는 가운데, 범죄 대상이 지인뿐 아니라 가족까지 확산된 것으로 알려져 우려가 커지고 있다. 최근 프레시안 보도에 따르면 ‘가족능욕’이라는 이름으로 개설된 텔레그램 단체채팅방 참여자들은 엄마·누나·여동생·사촌 등 친족들의 사진을 공유하고 성적 모욕을 주는 발언을 일삼았다. 이 방에는 2000여명이 들어가 있는 것으로 전해졌다. 참여자들은 여성 친족이 소셜미디어(SNS)에 올린 사진이나 본인이 직접 찍은 사진을 채팅방에 공유했다. 친족의 속옷 사진, 옷을 갈아입는 사진, 목욕하는 사진은 물론 친족이 잠든 사이 옷을 들추거나 성추행하는 영상도 있었다. 온라인 커뮤니티에 퍼진 해당 채팅방 대화 내용을 보면 한 이용자가 “여동생 잘 때”라며 동영상을 올리자 다른 이용자들이 “부럽다", "용기 있다"며 호응했다. 또 다른 대화방에서는 “엄마 사진 공유하고 나니까 뭔가 영웅이 된 느낌인데 뿌듯하다” 등의 내용이 포착되기도 했다. 대화방 참여자들은 채팅창에 올라온 사진과 영상을 이용해 딥페이크 성범죄물을 만들어 다시 공유하고 있는 것으로 추정된다. 대화방에는 사진과 영상뿐만 아니라 가족의 신상 정보가 공유되기도 했다. 이 같은 사실이 알려지자 시민사회가 불안에 떨고 있다. 맘카페 등 온라인 커뮤니티에는 “딥페이크 범죄가 가족을 타깃으로도 한다는데 어떡하냐”, “세상이 미쳐가는 것 같다”, “자녀의 텔레그램 사용 여부 등을 확인해야 한다” 등 불안함을 호소했다. 사태가 커지자 방송통신심의위원회(방심위)도 문제 해결에 나섰다. 방심위는 실·국장 회의, 오는 28일 전체 회의를 소집해 최근 텔레그램 딥페이크 음란물 확산 사태와 관련해 대책을 마련할 예정이다. 방심위는 먼저 텔레그램 피해 신고 접수와 모니터링을 강화하고, 경찰 수사 의뢰 등 할 수 있는 모든 조처를 할 방침이다. 서울경찰청 사이버수사대는 음란 영상이나 사진 등을 여성의 얼굴에 합성한 뒤 이를 유포할 목적으로 만들어진 텔레그램 채널에 대해 입건 전 조사(내사)에 착수했다. 서울경찰청은 27일 서울 1374개 초·중·고등학교 학생과 교사, 학부모 78만 명을 대상으로 긴급 스쿨벨을 발령했다. 앞서 서울경찰청은 성착취·지인능욕 혐의를 받는 올해 7월 말까지 14세 이상 청소년(촉법소년 미적용) 10명을 검거한 바 있다. 경찰청 관계자는 “딥페이크 성범죄는 피해자의 인격을 말살하는 중대한 범죄이다. 이를 발본색원하여 국민의 불안감을 불식시킬 수 있도록 최선을 다하겠다”며 “국민의 적극적인 신고·제보를 당부드린다”고 밝혔다. -
[특징주] 딥페이크 성범죄 급증에 보안주 상한가
증권 증권일반 2024.08.28 09:43:18딥페이크 성범죄가 급증하면서 데이터 보안 종목이 급등세다. 28일 오전 9시 14분 기준 데이터베이스 보안 업체인 신시웨이(290560)는 전 거래일 대비 30% 오른 8590원이다. 인터넷 보안 업체 디지캡(197140)(25.17%), 안면인식 인공지능(AI) 기업 씨유박스(340810) 11.23%, M83(476080)(18.20%), 한싹(430690)(17.84%), 시큐센(232830)(15.92%), 샌즈랩(411080)(16.48%) 등이 일제히 상승세다. 최근 한 대학에서 여학생의 얼굴에 음란물을 합성한 딥페이크 영상물이 유포된 데 이어 비슷한 종류의 텔레그램 대화방이 잇따라 발견되면서 딥페이크 성범죄가 사회적 문제로 떠올랐다. 피해자 중에는 대학생 뿐만 아니라 중고생 등 미성년자는 물론 교사, 여군 등도 포함된 것으로 알려졌다. ‘피해 학교 명단’으로 떠도는 곳만 100곳 이상이라 공포심이 확산하고 있다. -
"딥페이크 영상 피해 지원 요청 30% 이상은 미성년자"
사회 사회일반 2024.08.28 06:36:27최근 사회적 문제로 부상한 '딥페이크'(Deepfake) 영상물 피해 지원 요청자 30% 이상이 미성년자라는 통계가 공개됐다. 딥페이크 피해가 10대를 중심으로 확산되고 있음을 나타낸다. 28일 여성가족부 산하 한국여성인권진흥원에 따르면 올해 들어 지난 25일까지 디지털성범죄피해자지원센터(지원센터)에 딥페이크 피해 지원을 요청한 781명 가운데 36.9%(288명)는 미성년자인 10대 이하였다. 타인의 일상 사진이나 일반 영상물을 성적 불쾌감을 유발할 수 있는 형태로 합성·편집한 것을 의미하는 딥페이크로 인해 피해 지원을 요청한 미성년자는 2022년 64명에서 2024년(8월 25일 기준) 288명으로 2년 만에 4.5배가 됐다. 같은 기간 전체 피해 지원 요청자가 212명에서 781명으로 3.7배 증가한 속도보다 더 빠르다. 지원센터 관계자는 "10~20대와 같은 저연령층에서 관련 피해가 높게 나타난 것은 이들이 다른 연령층에 비해 SNS 등을 이용한 온라인 소통과 관계 형성에 상대적으로 익숙하기 때문"이라며 "최근 딥페이크 기술이 발전하고, 생성형 인공지능(AI)이 등장함에 따라 손쉽게 불법 영상물을 제작할 수 있는 기술이 보급되면서 관련 피해도 증가하고 있다"고 설명했다. 실제로 최근 들어 딥페이크로 인한 피해가 전국 곳곳의 학교에서 급격하게 확산하면서 교육 당국과 각 지역 교육청이 강력 대응에 나섰다. 무단으로 도용된 본인의 사진이 성적 수치심을 유발할 수 있는 형태로 합성돼 유포됐다면 지원센터로 피해 상담을 접수할 수 있다. 피해 지원 상담은 365일 운영하는 전화나 온라인게시판을 통해 신청하면 된다. -
딥페이크 성범죄에 놀란 정치권…관련 법 우후죽순 발의
정치 국회·정당·정책 2024.08.28 05:30:00최근 딥페이크(특정 인물의 얼굴 등을 영상에 합성)를 활용한 디지털 성범죄 파문이 확산하자 여야가 관련 법안 개정안을 우후죽순 발의하고 나섰다. 여당에선 우재준 국민의힘 의원이 27일 타인의 의사에 반하여 얼굴·신체 또는 음성을 대상으로 한 영상물 또는 음성물과 이를 편집·합성·가공한 정보의 유통을 금지하는 '정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정안’을 발의했다. 이를 위반할 경우 7년 이하의 징역과 10년 이하의 자격정지 또는 5천만 원 이하의 벌금을 부과하는 조항도 담았다. 국회 여성가족위원장인 같은 당 이인선 의원은 불법 촬영물로 피해를 입었을 때 국가와 지자체의 영상 삭제 및 피해자 경제적 지원을 의무화하는 ‘성폭력방지 및 피해자보호 등에 관한 법률 일부개정안’ 발의를 준비 중이다. 거대 야당에서도 관련 법안을 쏟아내고 있다. 여성가족위원회 야당 간사인 김한규 더불어민주당 의원은 딥페이크 성범죄물 등 성착취 허위영상물을 소지·구입·저장 또는 시청한 이들을 처벌하는 ‘성폭력방지 및 피해자보호 등에 관한 법률 일부개정안’을 발의했다. 딥페이크 성범죄 이용자에 대한 처벌을 강화하는 방향에 초점을 맞춘 법안으로 소지·저장·시청한 사람 또한 징역 1년 이하 또는 1000만 원 이하의 벌금에 처하도록 했다. 같은 당 박용갑 의원은 딥페이크 합성·유포자에 대해 7년 이하의 징역과 10년 이하의 자격정지 또는 7천만 원 이하의 벌금에 처하는 내용을 담은 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정안’을 발의했다. 이밖에도 민주당에서는 이해식·한정애·황명선 의원 등이 관련 법안을 발의하는 등 딥페이크 성범죄 예방 및 처벌 논의에 앞다퉈 착수했다. 다만 21대 국회에서도 유사 법안이 발의됐지만 양당의 입법 의지 부족했던 탓에 임기 만료로 모두 폐기된 바 있어 "소 잃고 외양간 고친다"는 비판도 나온다. 특히 AI 생성물에 가상의 정보라는 특정 표식을 넣고 플랫폼 기업들은 표식이 없는 AI 생성물을 바로 삭제할 것을 의무화한 ‘정보통신망법 일부개정안’이 앞서 국회를 통과했다면 최근 광범위한 딥페이크 성범죄 파문을 예방할 수 있었을 것이라는 아쉬움도 나오고 있다. -
尹 "딥페이크는 명백한 범죄"…'처벌 강화·워터마크 도입' 목소리 커진다
산업 IT 2024.08.27 17:45:54인공지능(AI) 기술을 이용해 지인이나 소셜네트워크서비스(SNS) 이용자의 사진을 음란물과 합성한 딥페이크 영상물이 심각한 사회문제로 떠오른 가운데 정부가 강력 단속에 나서기로 했다. 정치권에서도 딥페이크 성범죄에 대한 처벌 강화를 추진하기로 했다. 이와 함께 생성형 AI 기술을 디지털 범죄에 악용할 수 없도록 ‘AI 기본법’ 제정을 비롯해 제도 정비에 나서야 한다는 목소리가 높아지고 있다. 윤석열 대통령은 27일 서울 용산 대통령실 청사에서 열린 제37차 국무회의에 참석해 딥페이크 성범죄에 대한 철저한 수사와 엄벌을 주문했다. 윤 대통령은 “최근 불특정 다수를 대상으로 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “명백한 범죄행위로 관계당국은 디지털 성범죄를 뿌리 뽑아야 한다”고 말했다. 윤 대통령이 AI 기술을 악용한 디지털 성범죄에 대한 강력한 대응을 주문하고 나서자 관계부처들도 부랴부랴 대책 마련에 나섰다. 이날 실·국장 회의를 소집해 딥페이크 음란물 확산 사태와 관련한 대책을 마련한 방송통신심의위원회는 28일 전체회의를 열어 해당 내용을 확정할 예정이다. 방심위는 홈페이지에 딥페이크 음란물 피해 신고 전용 배너를 신설하고 관련 모니터링 요원을 기존보다 2배로 늘려 실시간으로 피해 상황을 감시할 방침이다. 텔레그램과도 즉시 협의할 수 있는 ‘핫라인’을 개설하고 피해 확산 차단에 신속성을 기할 예정이다. 경찰청 국가수사본부는 28일부터 내년 3월 31일까지 7개월간 ‘딥페이크 성범죄 관련 특별 집중 단속’을 실시한다. 서울지방경찰청은 이날 딥페이크 성범죄 확산을 막기 위해 서울 1374개 초중고등학교 학생과 교사·학부모 78만 명을 대상으로 긴급 스쿨벨을 발령했다. 정치권에서도 딥페이크 성범죄 근절을 위한 대책 마련에 나섰다. 한동훈 국민의힘 대표는 딥페이크 음란물 제작 및 유포 사건에 대한 대응 방안을 논의하기 위해 29일 긴급 현안 간담회를 주재한다. 이번 간담회는 실무진 당정협의회 차원으로 진행될 예정이다. 더불어민주당은 딥페이크 음란물 범죄에 대한 처벌을 강화하는 방안을 검토하기로 했다. 김용민 민주당 원내정책수석부대표는 이날 국회 원내대책회의에서 “여성가족부가 아무 역할도 못하고 있는 것 아닌가”라며 “딥페이크 성범죄자들을 철저히 수사해 처벌할 수 있도록 미흡한 현행법을 개정할 것”이라고 말했다. 전문가들은 이제라도 AI 기술이 각종 범죄에 악용되는 것을 막는 법안을 마련하거나 관계부처 간 공동 대처가 시급하다고 입을 모은다. AI 생성물임을 알리는 워터마크를 의무적으로 도입하는 등 사람들이 가상 정보라는 사실을 인지해 스스로 판단할 수 있도록 돕는 제도적 장치를 마련해야 한다는 것이다. 21대 국회에서도 이 같은 내용을 담은 AI 기본법이 발의됐지만 임기 종료로 폐기됐다. 22대 국회에서도 유사한 내용의 법안이 발의됐지만 아직까지는 딥페이크 생성물을 제작하는 기술을 가진 기업들이 스스로 AI 생성물임을 밝히는 ‘자율적’ 참여에만 기댈 수밖에 없는 상황이다. 정부 부처의 한 관계자는 “AI 기술 고도화로 지인은 물론 불특정 다수를 대상으로 한 딥페이크 생성물 제작이 쉬워졌다”면서 “딥페이크 AI 생성물에 대한 워터마크 표시를 의무화한 법이 있으면 이 법에 따라 처벌 규정을 만들고 관리·감독을 하기 수월해질 뿐 아니라 사용자들도 경각심을 더 가질 수밖에 없지 않았겠냐”며 아쉬움을 토로했다. 이성엽 고려대 기술경영전문대학원 교수는 “딥페이크 생성물에 따른 사회적 파급 효과가 크다는 점을 고려하면 워터마크를 도입하는 등 플랫폼의 책임을 강화하는 최소한의 규제는 필요하다”면서 “AI 규제가 기술적 한계나 관련 산업 추진 동력을 떨어트릴 수 있다는 우려가 있지만 딥페이크 음란물 확산 속도를 고려할 때 사후적 규제보다는 사전적 규제가 도입돼야 한다”고 강조했다. -
‘딥페이크 성범죄’ 확산에 떠는 맘카페… “SNS에 딸 사진 내려라”
사회 사회일반 2024.08.27 17:44:48딥페이크 기술을 사용해 지인의 사진을 음란물에 합성하는 ‘딥페이크 성범죄’가 전국 각 지역의 중·고등학교에서 발생하고 있다는 사실이 알려지면서 시민사회가 불안에 떨고 있다. 온라인 커뮤니티 등에 피해 학교 명단 등이 올라오자 지역 맘카페를 중심으로 SNS에서 자녀 사진을 삭제하는 움직임이 포착되고 있다. 27일 경찰 등에 따르면 최근 서울경찰청 사이버수사대는 음란 영상이나 사진 등을 여성의 얼굴에 합성한 뒤 이를 유포할 목적으로 만들어진 텔레그램 채널에 대해 입건 전 조사(내사)에 착수했다. 서울경찰청은 이날 서울 1374개 초·중·고등학교 학생과 교사, 학부모 78만 명을 대상으로 긴급 스쿨벨을 발령했다. 앞서 서울경찰청은 성착취·지인능욕 혐의를 받는 올해 7월 말까지 14세 이상 청소년(촉법소년 미적용) 10명을 검거한 바 있다. 최근 딥페이크 음란물 제작·유포를 위해 생성된 텔레그램 대화방이 대규모로 발견되고, 채팅방 접속 인원이 수십만 명 이상이라는 소식이 전해졌다. 해당 텔레그램 대화방은 각 지역과 학교별로 세분화 돼 있다. 대화방 참가자들은 서로 같이 아는 여성, 일명 ‘겹지인’의 사진을 공유한 뒤 딥페이크 기술을 활용해 음란물을 제작하고 이를 유포하는 방식으로 성희롱을 저지르고 있다. 이들은 페이스북이나 인스타그램 등 SNS와 카카오톡 프로필 사진 등을 무단으로 활용해 범행을 저지른 것으로 알려졌다. 일부 가해자들은 즉석 사진 매장에 붙여 놓은 사진과 졸업사진 등을 활용하기도 한 것으로 전해졌다. 이날 온라인 커뮤니티와 카페 등에 딥페이크 영상물 피해자가 소속된 지역과 학교 명단이 올라오는 등 지역 시민사회는 더욱 불안한 상황이다. 현재까지 해당 명단의 진위 여부는 파악되지 않았지만, 명단은 빠르게 퍼지고 있다. 맘카페 등 지역 커뮤니티에서는 “SNS에 게시된 사진을 내려라”는 취지의 조언이 나오고 있다. 한 누리꾼은 “여학생을 자녀로 둔 어머님들은 가급적 아이 얼굴이 나온 사진을 SNS에 게시하지 말라”며 “자녀들에게도 SNS를 사용하지 말라고 권유하는 것이 좋을 것 같다”는 내용의 게시물을 올렸다. 다른 누리꾼은 “지인의 딸이 피해를 입었다는 소식을 들었다. 모두 주의해야 한다”며 “성범죄의 타깃이 될 우려에 개인 SNS 활동도 마음 놓고 하지 못하는 현실이 개탄스럽다”고 말했다. 문제가 심각해지자 각 지역 교육청은 각 학교에 예방교육 공문을 발송하는 등 대응에 나서고 있다. 일부 학교 학생회 또한 학생 보호 차원에서 SNS 등에 개인 사진을 삭제하라고 권장하고 있다. 한국여성인권진흥원의 디지털성범죄피해자지원센터와 여성긴급전화 1366에서도 피해 사례를 접수하고 있다. 해를 거듭할수록 딥페이크 피해 사례가 증가하고 있는 만큼 경찰도 적극 대응에 나서고 있다. 27일 경찰청은 오는 28일부터 내년 3월 31일까지 ‘딥페이크 성범죄 관련 특별 집중단속’을 실시한다고 밝혔다. 지난 2021년 156건이었던 허위영상물 등 범죄는 2022년 160건, 2023년 180건으로 늘어났으며, 올해 상반기에만 297건이 적발됐다. 특히 10대 청소년 범행의 증가세가 가팔라지는 추세다. 2021년 전체 피의자 수 대비 10대 피의자의 비율은 65.4%였지만, 지난해에는 75.8%까지 치솟기도 했다. 경찰청 관계자는 “딥페이크 성범죄는 피해자의 인격을 말살하는 중대한 범죄이다. 이를 발본색원하여 국민의 불안감을 불식시킬 수 있도록 최선을 다하겠다”라며 “국민의 적극적인 신고·제보를 당부드린다”라고 밝혔다. -
여가부 "딥페이크 피해, '디성센터'에서 접수하세요"
사회 사회일반 2024.08.27 17:33:25여성가족부가 대학가에 이어 중·고등학교까지 확산하고 있는 ‘딥페이크’ 성범죄 피해자를 대상으로 디지털성범죄피해자지원센터에서 상담을 지원한다. 여가부는 본인 사진이 무단으로 도용, 성적 수치심을 유발할 수 있는 형태로 합성되거나 편집돼 유포되는 피해를 입은 경우 한국여성인권진흥원 내 디지털성범죄피해자지원센터(디성센터)로 상담을 접수할 수 있다고 27일 안내했다. 여가부 산하 한국여성인권진흥원 내 설치된 디성센터는 △성적 허위 영상물 관련 상담 △삭제지원 및 유포 여부 모니터링 △수사·법률·의료(심리상담치료 등) 지원 연계 등을 원스톱으로 제공한다. 피해 지원 상담은 365일 운영하는 전화나 온라인게시판을 통해 신청하면 된다.방문 상담이나 개별 심리 상담을 원할 경우 지방자치단체 디지털성범죄 피해자 지원 기관(서울, 인천, 경기, 부산) 또는 시도별로 설치된 디지털성범죄 지역특화상담소(14곳)를 이용할 수 있다. 신 차관은 "프로필 사진 한 장으로 누구나 디지털 성범죄 피해자가 될 수 있다는 사실이 국민들을 불안하게 하고 있다"며 "디성센터를 중심으로 상담, 삭제지원, 유포 여부 모니터링부터 심리적 회복까지 피해자를 신속하게 지원하겠다"고 말했다. -
"A군이 동급생 딥페이크 음란물 갖고 있다”…광주서 첫 학생 피해 신고 접수
사회 사회일반 2024.08.27 17:03:35음란물에 여성 얼굴 사진을 합성하는 ‘딥페이크(인공지능 기반 인간 이미지 합성 기술)’ 성범죄물이 기승을 부리고 있는 가운데 광주에서 첫 학생 피해 신고가 접수됐다. 27일 뉴시스에 따르면 광주경찰청 사이버범죄수사대는 이날 광주의 한 학교에서 ‘10대 A군이 동급생 얼굴을 합성한 음란물을 지니고 있는 것 같다’는 신고가 경찰에 접수됐다고 밝혔다. 신고자는 A군의 휴대전화에 복수의 또래 학생의 얼굴과 음란물이 불법 합성된 영상이 저장돼 있다고 주장하고 있다. 경찰은 우선 신고 내용의 진위를 파악하고자 관련 증거물 확보·분석에 나선다. 디지털 포렌식(전자 법의학 감정) 등을 통해 A군이 음란물을 직접 제작한 것인지, 다른 이들에 배포한 정황은 없는지를 들여다볼 방침이다. 다만 경찰은 A군 사례가 메신저 단체 대화방을 통해 딥페이크 영상을 주고받는 최근 화제가 된 형태의 범죄와는 연관성이 있어 보이지 않는다고 전했다. 자세한 범행 경위나 피해자 연령대, 신원 인지 여부에 따라 성폭력범죄의 처벌 등에 관한 특례법 위반(허위 영상물 등 반포) 또는 아동·청소년의 성보호에 관한 법률 위반(아동·청소년 성 착취물 소지·제작·배포 등) 혐의가 적용될 예정이다. 경찰 관계자는 “지역에서 처음으로 관련 피해 의심 신고가 접수돼 기초 사실관계부터 파악 중이다. A군을 상대로 정확한 동기와 경위 등을 조사할 계획이다”라며 “정확한 신원을 밝히기는 어렵지만, A군과 피해 의심 학생이 같은 학교에 재학 중인 것으로 보이는 만큼 수사에 신중을 기하겠다”고 밝혔다. 최근 대학가와 군부대 안에서 딥페이크 성범죄가 잇따른 직후 텔레그램을 통해 피해자 명단이 공유되고 있다. 또한 진위를 알 수 없는 ‘딥페이크 피해 학교 리스트’가 일파만파 공유되면서, 지역 중·고등학생 사이에서도 공포와 불안감이 빠르게 확산하고 있다.
이시간 주요 뉴스
영상 뉴스
서경스페셜
주소 : 서울특별시 종로구 율곡로 6 트윈트리타워 B동 14~16층 대표전화 : 02) 724-8600
상호 : 서울경제신문사업자번호 : 208-81-10310대표자 : 손동영등록번호 : 서울 가 00224등록일자 : 1988.05.13
인터넷신문 등록번호 : 서울 아04065 등록일자 : 2016.04.26발행일자 : 2016.04.01발행 ·편집인 : 손동영청소년보호책임자 : 신한수
서울경제의 모든 콘텐트는 저작권법의 보호를 받는 바, 무단 전재·복사·배포 등은 법적 제재를 받을 수 있습니다.
Copyright ⓒ Sedaily, All right reserved