-
"한국, N번방 이어 또…'딥페이크 비상사태' 직면했다" 외신들도 주목
국제 국제일반 2024.08.30 03:00:00국내에서 모바일 메신저 ‘텔레그램’을 기반으로 한 ‘딥페이크(인공지능 기반 이미지 합성)’ 음란 영상물 제작·유포 범죄 피해가 속출하고 있는 가운데, 외신도 "한국이 딥페이크 비상사태에 직면했다"며 주목했다. 28일(현지시간) 영국 BBC방송은 “최근 한국에서 미성년자를 포함해 성적으로 노골적인 딥페이크 이미지를 제작하고 공유하는 채팅 그룹이 다수 발견됐다”며 “윤석열 대통령은 '디지털 성범죄를 철저히 조사하고 해결해 근절하라'고 지시했다”고 보도했다. BBC는 “한국은 디지털 성범죄에 대한 어두운 역사를 가지고 있다”며 지난 2019년 발생한 텔레그램 N번방 사건을 언급했다. 아울러 한국 내 온라인 딥페이크 성범죄가 급증하고 있다는 점도 꼬집었다. BBC는 "올 상반기 경찰에 접수된 딥페이크 성범죄는 297건으로 작년 전체(180건), 2021년(160건)을 크게 웃돈다"고 했다. 특히 "지난 3년 동안 이들 범죄의 3분의 2 이상을 10대 청소년이 저질렀다"고 지적했다. 몰카나 딥페이크 성범죄가 급증하는 배경으로는 ‘성별 격차’를 들었다. BBC는 "한국 상장 기업의 임원직 중 여성은 5.8%에 불과하며 한국 여성은 남성보다 평균 3분의 1 정도의 임금을 받고 있어 세계 부국 중 성별 임금 격차가 가장 심하다"고 짚었다. 이어 "급성장하는 기술 산업에 만연한 성희롱 문화가 더해져 디지털 성범죄가 폭발적으로 증가하고 있다"고 했다. 영국 가디언도 이날 “’몰카’를 근절하기 위한 오랜 노력 끝에 한국은 이제 딥페이크 이미지에 맞서 싸우고 있다”고 전했다. 가디언은 “올해 들어 7개월 동안 297건의 딥페이크 범죄가 신고됐다”라며 “문제는 공식적인 수치보다 더 심각한 것으로 추정된다는 것”이라고 강조했다. 가디언 또한 N번방 사건의 주범인 조주빈을 언급하며 “딥페이크 성범죄에 대한 수사는 온라인 성 협박 조직을 운영하는 데 사용됐던 텔레그램의 한국 내 평판에 더 큰 타격을 입힐 것으로 예상된다”고 했다. 월스트리트저널(WSJ)도 ‘누구나 희생자가 될 수 있다: 인공지능(AI) 가짜 음란물이 초래한 위기가 한국을 강타하다’라는 제목의 기사를 내보냈다. 이 기사는 “수십만명의 익명의 텔레그램 사용자들은 이미지와 동영상으로 조작된 한국 여성들의 사진을 (당사자의) 허락 없이 보냈다”면서 “페이크 음란물을 유포하는 채팅창이 한국어로 이뤄졌기에, 해당 채팅방에 있는 사람들이 한국인임을 시사한다”고 지적했다. 2023년 글로벌 보안 회사인 시큐리티 히어로가 낸 보고서에 따르면 온라인에 게시된 딥페이크 음란물에 등장하는 사람들 중 한국 가수와 여배우가 약 절반을 차지했다. 해당 업체는 100개의 웹사이트에서 유포된 10만 개의 영상을 분석했다. 이와 관련 WSJ은 “전세계에 퍼져 있는 딥페이크 음란물 절반 가량의 출처가 한국이라는 점은 (한국이) 직면한 문제의 규모를 반영한다”고 전했다. -
[사설] 딥페이크 범죄 근절 위해 법제도 정비하고 처벌 강화해야
오피니언 사설 2024.08.30 00:00:00인공지능(AI) 기술을 활용한 딥페이크(허위 영상물) 성범죄 피해가 갈수록 확산되고 있다. 개인 얼굴에 음란물을 합성해 만든 가짜 영상들이 대거 제작·유포되며 피해자를 양산하고 있다. 방송통신심의위원회가 성적 허위 영상물 차단·삭제를 요구한 사례는 2020년 473건에서 올해 7월 말 기준 6434건으로 급증했다. 더욱 우려되는 것은 딥페이크 성범죄가 한낱 ‘장난거리’처럼 10대들을 파고들고 있다는 점이다. 올해 경찰에 적발된 피의자 178명 중 73.6%가 10대였다. 피해자 중에도 10대 이하가 36.9%를 차지했다. 교육청에 접수된 전국 학교 피해 사례에는 초등학생 8명이 포함돼 충격을 줬다. 딥페이크 영상의 제작·유포는 피해자의 삶을 송두리째 무너뜨리는 중대 범죄다. 그런데도 많은 가해자들이 ‘가짜 영상’이라는 이유로 큰 잘못이라는 인식도 없이 범죄를 저지르고 있다. 낮은 처벌 기준도 범죄 확산의 한 이유다. 성폭력처벌법상 허위 영상물 편집·반포 행위에 대한 최고 형량은 징역 5년이다. 수십 명의 피해자를 낳은 일명 ‘서울대 n번방’ 사건 공범도 검찰 구형(10년)의 절반인 5년형을 선고받았다. ‘합성 수준이 낮다’는 등의 이유로 형량이 줄어드는 일도 비일비재하다. 유포 목적이 아닌 제작은 아예 처벌 대상도 아니다. 여전히 안일한 정부 인식도 문제다. 디지털 성범죄가 활개를 치는데도 내년도 피해 대응 예산은 15% 넘게 삭감됐다. 이러니 전 세계 딥페이크 음란물 피해자의 절반 이상이 한국인이라는 분석이 나오는 것이다. 인격을 말살하고 사회를 병들게 하는 딥페이크 범죄를 더 이상 방치해서는 안 된다. 국민들을 디지털 성범죄로부터 보호하기 위해 관련 부처들이 긴밀히 협의해 종합 대책을 마련하고 빅테크들과의 협력도 강화해야 한다. 철저하게 단속·수사를 하는 것은 물론 양형 기준을 손보고 딥페이크 제작·소지에 대해서도 엄중하게 처벌해야 한다. AI 범죄 근절을 위한 규범을 마련하고 ‘AI 기본법’ 제정 등 법제 정비도 서둘러야 할 것이다. -
"딥페이크 음란물 韓 가장 취약"…WSJ "세계적 문제의 진앙"
사회 사회일반 2024.08.29 20:01:32여성 얼굴에 음란물을 합성·유포하는 딥페이크 범죄에 대한 우려가 커지고 있는 가운데 전 세계에 유포된 딥페이크 성 착취물의 피해자 절반 이상이 한국 연예인이라는 조사 결과가 나왔다. 28일(현지 시간) 월스트리트저널(WSJ)은 미국 사이버보안 업체인 시큐리티히어로의 2023년 보고서를 인용해 한국이 딥페이크 음란물에서 가장 취약한 국가로 나타났다고 보도했다. 보고서는 지난해 7~8월 딥페이크 음란물 사이트 10곳과 유튜브·비메오·데일리모션 등 동영상 공유 플랫폼의 딥페이크 채널 85개에 올라온 영상물 약 10만 건을 분석한 결과 영상에 등장하는 개인 중 53%가 한국인으로 나타났다고 짚었다. 뒤를 이어 미국인이 20%, 일본인이 10%, 중국인 3% 순으로 나타나 한국과 차이가 컸다. 음란물 피해자의 99%는 여성이었고 94%가 연예계 종사자였다. 보고서는 “한국은 딥페이크 음란물의 가장 큰 표적이 되고 있다”며 “딥페이크는 엔터테인먼트·정치·허위조작정보 등 다양한 목적으로 이용되지만 어떤 국가에서는 특정한 형태의 콘텐츠, 특히 노골적인 콘텐츠에 더 취약하다”고 꼬집었다. 한국인 딥페이크 피해자 대부분은 가수와 배우 등 연예인이었다. 특히 딥페이크 음란물의 최다 표적이 된 개인 10명 중 8명이 한국인 가수였다. 가장 큰 피해를 본 한국인 가수는 딥페이크 성착취물 1595건에 등장했으며 총 561만 회가 조회됐다. 또 다른 한국 가수의 얼굴도 1283건의 성착취물에 등장해 386만 5000회가 조회됐다. 보고서는 2차 피해를 우려해 피해자의 이름 등은 공개하지 않았다. 한편 2022년 3725건이던 딥페이크 음란물은 2023년 2만 1019건으로 464% 급증했다. WSJ는 최근 한국 정부의 딥페이크 음란물 단속 강화 움직임을 보도하며 “가짜 음란물을 생성·유포하는 텔레그램 기반 네트워크 적발은 한국이 전 세계적 문제의 진앙임을 시사한다”고 짚었다. -
韓, 딥페이크 음란물 취약국 1위…“피해자 99%가 여성”
국제 국제일반 2024.08.29 19:46:12국내에서 최근 여성의 얼굴에 음란물을 합성·유포하는 ‘딥페이크(인공지능 기반 이미지 합성) 성착취’ 확산으로 당국이 집중 단속에 나선 가운데, 전세계에 유포된 딥페이크 성착취물 피해자의 절반 이상이 한국인이며 전체 피해자의 99%가 여성이라는 해외 보안 업체의 조사 결과가 나왔다. 28일(현지시간) 미 일간 월스트리트저널(WSJ)에 따르면 미국의 사이버보안 업체인 ‘시큐리티 히어로’는 지난해 7∼8월 딥페이크 음란물 사이트 10곳과 유튜브·비메오·데일리모션 등 동영상 공유 플랫폼의 딥페이크 채널 85개에 게재된 영상물 9만5820건을 분석한 ‘2023 딥페이크 현황’ 보고서를 최근 발간했다. 보고서에 따르면 한국은 딥페이크 음란물에 가장 취약한 국가로 나타났다. 딥페이크 음란물에 등장하는 개인 중 53%가 한국인으로 가장 많았으며 두 번째로 많은 미국인 20%과 격차가 컸다. 그 뒤를 일본인(10%), 영국인(6%), 중국인(3%), 인도인(2%), 대만인(2%), 이스라엘인(1%)이 이었다. 보고서는 “한국은 딥페이크 음란물에서 가장 많이 표적이 되는 국가”라며 “딥페이크는 엔터테인먼트·정치·허위조작정보 등 다양한 목적으로 이용되지만 어떤 국가에서는 특정한 형태의 딥페이크 콘텐츠, 특히 노골적인 콘텐츠에 더 취약하다”고 꼬집었다. 한국인 딥페이크 피해자 대부분은 가수와 배우 등 연예인이었다. 보고서는 또 딥페이크 음란물의 최다 표적이 된 개인 10명을 꼽았는데 이 중 8명이 한국인 가수였다. 1∼7위와 9위가 한국 가수였고 8위는 태국 가수, 10위는 영국인 배우였다. 보고서는 사안의 민감성을 고려해 피해자의 이름은 밝히지 않았다. 가장 큰 피해를 본 한국인 가수는 딥페이크 성착취물 1595건에 등장했으며 총 조회수는 561만 회였다. 또 다른 한국 가수는 성착취물 1238건의 표적이 됐고 조회수는 386만5000회에 달했다. 이번에 분석한 딥페이크 영상물의 98%가 음란물이었으며, 2022년 3725건이던 딥페이크 음란물이 2023년 2만1019건으로 464% 급증했다고 시큐리티 히어로는 밝혔다. 딥페이크 음란물 피해자 99%는 여성이었고 94%는 연예계 종사자였다. 일반 딥페이크 영상물의 경우, 여성의 비율은 77%였다. 시큐리티 히어로는 보고서에서 “딥페이크 음란물은 일정 그룹의 개인이 조작적이고 종종 악의적인 목적에 따른 표적이 된다는 것이 특징”이라며 “유명 인사인 경우가 많은 이들 개인은 딥페이크 창작자들의 시도를 정면에서 마주하게 된다”고 지적했다. WSJ은 한국 정부의 딥페이크 음란물 단속 강화 움직임과 함께 이번 보고서 내용을 전하면서 “가짜 음란물을 생성·유포하는 텔레그램 기반 네트워크 적발은 한국이 전 세계적 문제의 진앙임을 시사한다”고 보도했다. 다른 주요 외신들도 최근 수년간 디지털 성범죄와 싸워온 한국이 딥페이크 음란물과의 전쟁에 직면했다며 주목했다. 영국 일간 가디언은 “비밀리에 촬영된 성적 영상물인 ‘몰래카메라’를 근절하려 오랜 기간 분투해온 한국이 딥페이크 이미지의 물결과도 전투를 벌이고 있다”고 전했다. 영국 BBC방송도 “한국이 딥페이크 음란물 비상사태에 직면했다”며 텔레그램 대화방에서 수많은 성 착취 영상물을 제작·유포한 ‘n번방’ 사건과 탈의실·화장실 등에서의 불법촬영 등 “(한국에는) 디지털 성범죄와 관련한 어두운 역사가 있다”고 봤다. 이어 “만연한 성희롱 문화 속에서 기술 산업 발전이 디지털 성범죄의 폭발적인 증가를 불러왔다”며 그 배경을 지적했다. 한편 경찰은 이번 사태와 관련해 서울경찰청 사이버수사대 내에 태스크포스(TF)를 조직, 딥페이크 성착취 허위영상물 집중 대응에 나섰다고 밝히며 수사에 속도를 내고 있다. TF는 총괄팀장인 서울경찰청 사이버수사과장을 필두로 3개 전담수사팀, 사이버프로파일링팀·디지털포렌식팀·지원부서팀까지 총 6개 팀으로 구성됐으며 내년 3월31일까지 7개월간 운영된다. -
"마약·성범죄 방치" CEO 예비 기소…세계는 지금 SNS와 전쟁 중
국제 경제·마켓 2024.08.29 17:58:18전 세계 9억 명이 사용하는 메신저 앱 텔레그램의 창업자이자 최고경영자(CEO)인 파벨 두로프가 플랫폼에서 사기와 마약 밀매, 아동 포르노 등 성범죄를 허용했다는 혐의로 28일(현지 시간) 프랑스 법원에 예비 기소됐다. 제3자 게재 불법 콘텐츠에 대한 책임을 소셜네트워크서비스(SNS) CEO에게 물어 형사 기소한 것은 이번이 처음이다. ‘딥페이크(인공지능(AI) 기반 불법 합성물)’를 활용한 범죄가 기승을 부리는 가운데 SNS 소유주 및 경영진에게도 책임을 물어야 한다는 여론이 커진 데 따른 것이다. 일각에서는 과도한 정부 검열과 통제가 표현의 자유를 위축시킬 것이라는 반발도 거세다. ◇범죄 온상으로 전락한 SNS=두로프 CEO가 텔레그램의 ‘느슨한 중재’에 따른 범죄 공모 혐의로 기소된 이날 미국 연방항소법원은 틱톡의 ‘기절(블랙아웃) 챌린지’를 따라하다 사망한 10세 소녀의 어머니가 제기했다가 2022년 기각됐던 소송을 재개하기로 했다. 틱톡의 알고리즘 관리 책임을 묻기로 한 것이다. 앞서 1심은 인터넷 기업들이 제3자 게시물에 대한 책임에서 면제될 수 있도록 한 통신품위법을 인용해 소송을 기각했다. 하지만 항소법원은 틱톡이 해당 콘텐츠를 적극적으로 홍보한 결과 통신품위법이 보호하는 ‘수동적인 중개자’ 영역을 넘어섰다고 판단했다. 이 같은 변화는 최근 SNS가 범죄의 온상이 되면서 SNS 유해 콘텐츠에 대한 통제가 필요하다는 목소리가 커지고 있는 흐름과 맥을 같이한다. 실제 영국 보안 업체 섬서브의 보고서에 따르면 지난해 세계 주요국의 딥페이크 사기 범죄는 미국과 캐나다가 전년 대비 각각 30배, 벨기에가 29배, 일본이 28배 등 폭발적으로 늘었다. 필리핀은 45배나 증가하면서 범죄의 집중 타깃이 됐고 한국도 10배가 늘었다. 이에 발맞춰 각종 규제 법안이 속속 도입되고 있다. 프랑스는 올해 SNS가 가짜뉴스, 인종차별, 불법 상거래 등의 콘텐츠를 근절하기 위해 당국과 협력해야 한다는 내용을 골자로 한 법안을 통과시켰고 영국도 지난달 반이민·극우 폭동이 벌어진 후 악의적인 콘텐츠 확산에 대해 더 엄격한 법률이 필요하다는 목소리가 힘을 얻고 있다. 말레이시아는 자국 내 등록 사용자가 800만 명 이상인 SNS의 운영을 계속하려면 올해까지 아동 안전 보호 및 딥페이크 등 유해 콘텐츠 관리, 온라인 성범죄 해결 방안 등을 마련해 당국에 허가를 받도록 했다. ◇표현의 자유 위축 경고도=다만 이 같은 통제 일변도가 온라인 검열로 이어질 수 있다는 우려도 나온다. 두로프의 예비 혐의 중 하나가 ‘프랑스 수사 당국의 정보 요청에 협조하지 않았다’는 점에서 언론 자유 옹호론자들의 반발도 거세다. 실제 월스트리트저널(WSJ)은 두로프의 체포를 놓고 “두로프가 2013년 텔레그램을 개발한 후 세계 몇몇 정부가 그에게 구애를 펼치기도 하고 통제를 시도하기도 했는데 모두 실패했다”며 정부 통제 의혹을 제기했다. 그동안 정부와 콘텐츠 통제 문제로 갈등을 벌여온 SNS 기업 수장들의 불만도 폭발했다. 동영상 플랫폼 럼블의 크리스 파블로브스키 CEO는 “검열을 안 했다는 이유로 두로프를 체포한 것은 레드라인을 넘은 것”이라고 비판했고 X(옛 트위터) 소유주인 일론 머스크 역시 “2030년 유럽에서 당신은 밈(meme·온라인 유행 콘텐츠)을 좋아했다는 이유로 처형될 수 있다”는 글을 올려 프랑스 사법 당국을 비꼬았다. 당사자인 텔레그램 측은 “플랫폼이나 그 소유주가 해당 플랫폼 남용에 대한 책임이 있다고 주장하는 것은 터무니없다”는 입장을 냈다. 두로프에 대한 기소가 앞으로 SNS 단속을 정당화하려는 각국 정부에 의해 악용될 가능성도 거론된다. 튀르키예 정부는 지난달 자국이 지지하는 팔레스타인 무장 정파 하마스의 지도자에 대한 추모 글이 인스타그램에서 삭제되자 자국 내 인스타그램 서비스를 1주일간 전면 차단하는 결정을 내리기도 했다. 브라질 대법원도 올 4월 가짜뉴스 등을 퍼뜨린 계정을 삭제하라고 X에 명령하면서 이를 따르지 않을 경우 브라질 내 법률 대리인을 체포하겠다고 위협했다. 머스크 CEO는 이 같은 명령에 이의를 제기하며 브라질 현지 사업장을 폐쇄하기로 결정했다. -
당정, 딥페이크 징역 5년→7년 강화…촉법 연령 하향도 검토
정치 국회·정당·정책 2024.08.29 17:52:20당정이 딥페이크 성범죄 관련 긴급 당정협의회를 갖고 최대 징역 5년인 형량을 7년으로 강화하고 형사처벌을 받지 않는 촉법소년 기준 하향을 검토하기로 했다. 국민의힘과 정부는 29일 국회에서 열린 ‘딥페이크 성범죄 관련 부처 긴급 현안 보고’에서 이 같은 딥페이크 성범죄 대책을 논의했다고 김상훈 당 정책위의장이 밝혔다. 당정은 일단 입법을 통해 현재 ‘허위 영상물’ 유포 형량인 최대 징역 5년을 ‘불법 촬영물’과 같은 최대 징역 7년으로 강화하기로 했다. 또 딥페이크 영상물 유포자뿐 아니라 제작자도 처벌 대상에 포함시킬 방침이다. 최근 청소년들이 딥페이크 성범죄에 가담한 만큼 현재 형사처벌 대상이 아닌 10세 이상 14세 미만의 촉법소년 기준 연령을 하향하는 방안도 검토된다. 한동훈 국민의힘 대표는 이날 최고위원회의에서 “지난 국회에서 제대로 해결하지 못했던 촉법소년 연령 하향과 같은 국민들의 여망이 큰 제도까지도 합의에 이르러야 한다”고 말했다. 아울러 국민의힘은 10·16 재보궐 선거에서 딥페이크 성범죄에 연루된 사람은 공천에서 원천 배제하기로 했다. 정부는 딥페이크 음란물의 주요 유통 경로로 지목되는 ‘텔레그램’ 운영사 측과 핫라인을 확보해 불법적인 정보를 자율적으로 규제하는 방안을 추진한다. 또 국무조정실 산하 딥페이크 성범죄에 대한 범정부 대응 전담팀(TF)을 설치하고 김종문 국조실 1차장이 TF를 이끌기로 했다. TF는 30일 첫 회의를 열 예정이다. 아울러 교육부 홈페이지에 딥페이크 성범죄 신고센터를 개설하기로 했다. 여군 대상 딥페이크 성범죄와 관련해서 국방부는 경찰 수사에 적극 협조하고 피해자 보호 및 재발 방지 대책을 마련하기로 했다. 한편 딥페이크 성범죄의 급속한 확산에도 불법 영상물 삭제에 투입되는 디지털 성범죄 피해 대응 예산은 올해 12억 2800만 원에서 내년 10억 2600만 원으로 16.4%나 삭감된 것으로 나타났다. 특히 딥페이크와 같이 급속도로 진화하는 디지털 성범죄 기술을 따라 잡기 위한 기술 개발 비용은 전무했다. 신보라 한국여성인권진흥원장은 “디지털 성범죄 증가 속도, 관련 불법 영상물 확산 추세 등을 감안하면 이 같은 예산과 인력으로 불법 영상물 모니터링 및 삭제를 지원하기에는 턱없이 부족한 수준”이라고 말했다. -
이원석 검찰총장 "디지털성범죄는 인격살인"…엄정 대응 지시
사회 사회일반 2024.08.29 17:29:50최근 텔레그램을 기반으로 딥페이크 불법 합성물 피해가 확산되고 있는 것과 관련해 이원석 검찰총장이 신속 엄정대응하라고 일선 검찰청에 지시했다. 대검찰청은 29일 전국 일선 검찰청의 디지털성범죄 전담검사 화상회의를 열고 디지털성범죄의 근절 및 피해 예방 방안을 논의했다고 밝혔다. 이 총장은 이날 회의에서 “디지털성범죄는 사회적 인격살인 범죄이므로, 확산되지 않도록 신속하게 엄정대응하고, 허위영상물 삭제와 피해자 지원에 최선을 다하라”고 주문했다. 구체적으로 성적 수치심 유발 정도가 무거운 아동·청소년 대상 허위영상물, 영리 목적 허위영상물 제작 사범은 원칙적으로 구속 수사를 하도록 지시했다. 아울러 허위영상물 제작 과정에 불법촬영 등 추가 범죄가 의심되는 경우 범행 전모를 규명해 엄단하고, 사건 발생 초기부터 경찰과 긴밀히 협조하는 등 신속하고 적극적으로 대응할 것을 당부했다. 이 총장은 공판단계에서는 허위영상물 유포 등 실질적 피해정도를 양형인자의 가중요소로 필수 적용해 구형에 반영하도록 했다. 또 검찰 의견을 적극 개진하고 판결이 이에 미치지 못하면 상소로 적극 대응하라고 강조했다. 지난 28일 징역 5년이 선고된 서울대 N번방 사건 공범에 대해서도 항소를 적극 검토하라고 지시했다. 또한 허위영상물이 유포되었거나 유포 우려가 있을 경우 대검 사이버·기술범죄수사과 또는 여성가족부 산하 디지털 성범죄 피해자 지원센터에 적극적으로 불법촬영물 삭제 및 차단 지원을 의뢰하도록 했다. 대검은 현재 18개 검찰청에 지정된 ‘디지털성범죄 전담검사’를 31개 검찰청으로 확대해 전문 수사력을 강화하도록 한 상태다. 대검은 허위영상물편집죄의 법정형 상향, 처벌 범위 확대, 허위영상물소지죄 신설 등 입법 논의도 지원할 예정이다. -
"경찰이 못하면 우리가 털자"…'가해자는 ○○고 XXX' 딥페이크 '보복방' 등장
사회 사회일반 2024.08.29 16:33:31전국 학교의 딥페이크(인공지능을 이용한 합성 사진·영상물) 성범죄 피해자가 교육청 등을 통해 확인된 것만 수백명에 달하는 등 파문이 확산하고 있는 가운데 온라인상에서는 ‘가해자 정보방’까지 개설돼 이들의 신상정보가 유포되고 있는 것으로 나타났다. 이 과정에서 실제 딥페이크 범죄와 무관한 이들도 다수 포함돼 있어 논란이 예상된다. 29일 텔레그램 상에는 ‘딥페이크 가해자 정보 방’이라는 이름의 방이 개설됐다. 해당 방에는 이날 오전 11시 기준으로 400명이 넘는 인원이 참여하고 있다. 해당 대화방에서는 "XX 가해자 신상 있나요", "XX ○○고등학교에도 가해자 있다던데 신상 좀 털어주세요" 라는 대화가 오가고 있는 상황이다. 한 참여자는 "가해자 정보 가져왔다"며 누군가의 이름, 생년월일, 학교, 거주지, 사회관계망서비스(SNS) 아이디를 올리기도 했다. 그러면서 “여기 있는 사람이 한통씩만 걸어도 수백통이다. 다 같이 전화를 걸어달라”며 “경찰이 처벌할 수 없다면 우리가 해야 한다”고도 했다. 하지만 이같은 개인의 '사적 보복'은 엄연히 불법이다. 타인의 개인정보를 온라인상에 함부로 유포할 경우 개인정보보호법 위반으로 처벌을 받을 수 있다. 앞서 지난 6월 한 유튜버 역시 밀양 집단 성폭행 사건 가해자들의 신상을 공개하다 사건과 무관한 이의 정보를 올려 여론의 뭇매를 맞기도 했다. 허민숙 국회입법조사처 조사관은 중앙일보에 “4년 전 ‘n번방’ 사건 이후 국가의 입법·사법·행정 기능이 제 역할을 하지 못해 가해자들이 또다시 텔레그램을 무대로 확산한 것”이라며 “공권력을 믿지 못하는 국민들이 이른바 ‘사적 제재’에 나서는 참담한 상황”이라고 짚었다. 이윤호 동국대 경찰행정학과 교수 역시 “신상정보 등 개인정보를 공개하는 경우 명예훼손 등으로 처벌받을 수 있다”며 “무고한 피해자가 양산되거나 2차 가해가 발생할 수 있다는 게 가장 큰 문제”라고 지적했다. -
딥페이크 성범죄대응 긴급 대학생 기자회견
사회 사회일반 2024.08.29 15:49:48평화나비네트워크 회원 등이 29일 오전 서울 종로구 세종문화회관 앞에서 '딥페이크' 성범죄대응 긴급 대학생 기자회견을 하고 있다. -
'범정부 차원 불법합성물 삭제 촉구'
사회 사회일반 2024.08.29 15:49:20전국교직원노동조합 관계자들이 29일 서울 종로구 정부서울청사 앞에서 학교 불법합성물(딥페이크) 성범죄 실태조사 결과 발표 기자회견을 하고 있다. -
학교 딥페이크 성범죄 실태조사 결과 발표
사회 사회일반 2024.08.29 15:48:30전국교직원노동조합 관계자들이 29일 서울 종로구 정부서울청사 앞에서 학교 불법합성물(딥페이크) 성범죄 실태조사 결과 발표 기자회견을 하고 있다. -
전교조, 학교 불법합성물 성범죄 실태조사 결과 발표
사회 사회일반 2024.08.29 15:47:24전국교직원노동조합 관계자들이 29일 서울 종로구 정부서울청사 앞에서 학교 불법합성물(딥페이크) 성범죄 실태조사 결과 발표 기자회견을 하고 있다. -
'딥페이크' 퍼지는데…디지털 성범죄 피해 대응 예산·인력 '태부족'
경제·금융 경제동향 2024.08.29 15:10:50딥페이크(불법 합성물 제작)와 디지털 성범죄 불법 영상물이 청소년을 중심으로 확산하면서 피해가 매우 커지는 가운데, 불법 영상물 삭제에 투입되는 예산과 인력은 태부족인 것으로 나타났다. 29일 관계부처에 따르면 올해 불법 영상물 삭제에 투입된 디지털 성범죄 피해 대응 예산은 인건비를 제외하고 12억 2800만 원인 것으로 나타났다. 지난해(10억 원)보다 늘었지만, 이는 진흥원 내 관련 서버 보안을 강화하기 위한 행정·보안 예산이라 사실상의 추가적인 재정적 지원은 전무했다. 급속도로 진화하는 디지털 성범죄 기술을 따라 잡기 위한 기술 개발 비용이나 해외 협력 예산도 없었다. 불법 영상물이 올라오고 확산하는 사이트 대부분이 해외에 서버를 두고 있어 불법 영상물을 삭제하려면 국제 협력이 필요한데 이를 위한 재정적 지원이 없는 것이다. 삭제를 지원하는 직원 역시 대부분이 기간제이고 총인원이 15~20명에 불과해 만성적인 인력난에 시달리고 있다. 지난해 처리한 불법 영상물 삭제 지원 건수가 24만 건이었음을 고려하면 직원 1명당 1만 2000~1만 6000건씩 담당한 셈이다. 문제는 디지털 성범죄 유형과 확산 속도가 급속도로 고도화·가속화되고 있다는 점이다. 실제로 지난해 한국여성인권진흥원의 불법 영상물 삭제 지원 건수는 5년 전인 2018년보다 약 8배, 2020년보다 약 1.5배 급증했다. -
울산서도 고교 여학생 2명 딥페이크 피해 신고…경찰 수사
사회 전국 2024.08.29 15:07:28울산의 한 고등학교에서 딥페이크(불법 합성물 제작) 피해 신고가 들어와 경찰이 수사에 나섰다. 29일 울산경찰청에 따르면 울산의 모 고등학교에 재학 중인 여학생 2명이 자신과 연관된 딥페이크 사진이 사회관계망서비스(SNS)에 유포됐다고 최근 신고했다. 이 여학생들은 친구들이 SNS에서 해당 사진을 발견하고 알려줘 피해 사실을 확인한 것으로 전해졌다. 경찰은 음란물에 해당 학생들이 합성된 이미지를 확인했다. 경찰은 구체적인 범행 경위 등 제작, 유포자를 찾고 있다. -
'딥페이크 성범죄 즉시 신고'…네이버·카카오, 신고 채널 안내
산업 IT 2024.08.29 13:59:11최근 텔레그램 등에서 벌어진 '딥페이크 성범죄' 관련 사회적 우려가 커지고 있는 가운데 네이버와 카카오(035720)는 신고 방법을 안내하고 나섰다. 카카오는 29일 고객센터 공지사항과 카카오톡 공지사항을 통해 "카카오 서비스 내에서 딥페이크 영상물, 이미지 등 관련 콘텐츠를 발견하신 경우 즉시 신고해 주시기를 바란다"며 관련 링크를 첨부했다. 이어 "본인을 포함한 특정인의 초상과 성적 이미지를 합성한 정보 또는 합성 제작을 제안·요청하는 정보가 있다면 신고해 주시기를 바란다"며 경찰청 사이버범죄수사과, 디지털성범죄피해자지원센터 등의 연락처도 소개했다. 카카오는 "허위 영상물을 제작하거나 유포하는 행위는 법적 규제 대상에 해당하며 개인의 명예 훼손, 사생활 침해, 개인정보 보호법 위반 등과 관련된 법적 처벌을 받을 수 있다"며 주의를 당부했다. 네이버도 전날 고객센터 공지사항 등을 통해 딥페이크 이미지나 영상에 대한 신고 채널을 안내했다. 네이버는 "만약 딥페이크 기술을 사용해 성폭력처벌법 등 관련 법령을 위반하거나 제3자의 권리를 침해하는 이미지나 영상을 발견하셨다면 아래의 신고 채널을 통해 접수해 주시기 바란다"며 관련 링크를 안내했다. 네이버는 고객센터뿐 아니라 게시물 신고센터, 그린UGC 공식 블로그를 통해서도 딥페이크 유포에 대한 주의 및 신고를 당부했다. 네이버는 "딥페이크 기술을 악용한 범죄 행위는 심각한 법적 처벌을 받을 수 있다"며 "타인의 콘텐츠를 단순히 게시하거나 유통하더라도 해당 콘텐츠가 딥페이크나 생성형 인공지능(AI) 등을 이용한 경우 문제가 될 수 있기 때문에 각별한 주의가 필요하다"고 강조했다. 이어 "딥페이크 기술을 악용한 디지털 성범죄와 관련해 네이버는 이용자 여러분의 안전과 개인정보 보호를 최우선으로 생각한다"고 전했다.
이시간 주요 뉴스
영상 뉴스
서경스페셜
주소 : 서울특별시 종로구 율곡로 6 트윈트리타워 B동 14~16층 대표전화 : 02) 724-8600
상호 : 서울경제신문사업자번호 : 208-81-10310대표자 : 손동영등록번호 : 서울 가 00224등록일자 : 1988.05.13
인터넷신문 등록번호 : 서울 아04065 등록일자 : 2016.04.26발행일자 : 2016.04.01발행 ·편집인 : 손동영청소년보호책임자 : 신한수
서울경제의 모든 콘텐트는 저작권법의 보호를 받는 바, 무단 전재·복사·배포 등은 법적 제재를 받을 수 있습니다.
Copyright ⓒ Sedaily, All right reserved