-
[속보] 尹 "딥페이크 영상 유포…단순 장난 아닌 명백한 범죄"
정치 정치일반 2024.08.27 10:18:15 -
학생에 교사, 군인까지…여성들 일상에 침투한 ‘딥페이크’ 공포
사회 사회일반 2024.08.27 10:10:33모바일 메신저 ‘텔레그램’ 내에서 성행하는 ‘딥페이크(인공지능 기반 이미지 합성)’ 음란 영상물 제작·유포 범죄에 따른 공포심이 확산하고 있는 가운데, 최근 운영자가 검거된 서울대·인하대를 포함한 대학가와 중·고등학교, 군대에서도 유사한 종류의 대화방이 잇따라 발견되고 있다. 최근 사회관계망서비스(SNS)에서 여성의 얼굴에 음란물을 합성해 편집한 허위 영상물을 제작하고 유포하는 것으로 의심되는 텔레그램 단체 대화방 관련 제보 글이 쏟아지면서 파문이 커지고 있다. 피해자 중에는 대학생뿐 아니라 미성년자는 물론 교사, 여군 등도 포함된 것으로 전해졌으며 ‘피해 지역·학교 명단’으로 떠돌고 있는 곳만 100곳이 족히 넘는 것으로 확인됐다. 이외에도 전국 지역별로 세분된 대화방이 다수 만들어져 대화방마다 수천 명이 참여 중인 것으로 알려졌다. 이들은 이른바 ‘겹지인방’이라는 이름으로 참가자들이 서로 같이 아는 특정 여성의 정보를 공유하고 딥페이크 영상물을 제작해 유포하는 방식으로 성희롱했다. 실제 텔레그램의 채팅방 검색을 지원하는 웹사이트 ‘텔레메트리오’에서 ‘겹지방(겹지인방)’을 검색한 결과 이날 기준 3500여 명이 구독하고 있는 ‘대학별 겹지방’이 검색됐다. 이 외에도 1800여 명이 구독 중인 ‘대학 겹지방’ 등 유사한 텔레그램 채널도 발견됐다. 특히 참여 인원이 22만 명에 이르는 텔레그램 채널까지 성행하고 있는 것으로 확인됐다. 해당 채널에는 불법합성물 제작 프로그램이 탑재돼 있어 여성의 사진 한 장만으로도 음란물을 제작할 수 있는 것으로 알려졌다. 가해자들은 주로 인스타그램 등 SNS에 올라온 피해자들의 사진을 무단으로 저장해 범행에 활용한 것으로 전해졌다. 여군을 상대로 딥페이크 영상을 제작·유포하는 대화방도 있었다. ‘군수품 창고 대기방’이라는 이름의 해당 대화방은 참여 인원이 900명이 넘으며 대다수가 현역 군인인 것으로 알려졌다. ‘군수품’은 군사 목적을 위해 쓰이는 무기와 식량 등을 일컫는 말로, 대화방 참여자들은 여군을 해당 용어로 칭하며 비하했다. 이 방에 참여하기 위해선 △특정 여군의 군복 사진과 전화번호, 소속, 계급과 나이 등 개인정보를 운영자에게 제출 △텔레그램 비밀 대화로 현역 군인임을 인증 △합성 장인(匠人) △관리자가 지정한 여군에게 능욕 메시지를 보내고 반응을 운영자에 제출하는 등 4가지 조건 중 하나를 충족해야 한다. 이들은 최근 인하대 사건으로 논란이 커지자 “당분간 3번, 4번 미션을 수행한 사람 외에는 받지 않겠다”는 추가 공지를 내걸기도 했다. 전국적으로 딥페이크 음란물이 제작·유포되고 있다는 의혹이 퍼지자 여성들의 불안도 확산 중이다. 여성들을 대상으로 자신의 사진이 담긴 SNS 계정을 비공개로 설정하고 사진을 내리라는 조언이 공유되기도 했다. 경기도의 한 고등학교 학생회 SNS 계정에는 “현재 텔레그램을 통해 (본교) 학생들의 신상 및 딥페이크 합성 사진이 유포되고 있다”며 “SNS에 게시한 개인 사진을 내려 피해를 예방하시기 바란다”는 게시물이 올라오기도 했다. 한편 서울경찰청도 이날 10대 청소년의 딥페이크 음란물 제작·유포 범죄가 촉법소년 규정에 적용된다고 강조했다. 경찰청에 따르면 올해 서울에서만 10대 청소년 10명이 텔레그램 기반 딥페이크 음란물 제작·유포 사건으로 입건됐다. 서울경찰청 관계자는 “지난 7월 말까지 초·중·고등학교 텔레그램 성착취 신고가 10건 접수됐고 이와 관련해 14세 이상 청소년 10명을 입건했다”며 “해당 범죄에 대해서도 촉법소년 규정이 적용되며, 시 교육청 등과 함께 사례, 처벌 조항 등을 정리해 학교별로 진출해 예방 교육을 할 예정”이라고 밝혔다. 이와 관련해 김봉식 서울경찰청장은 “학생은 물론이고 교사에 대한 것도 만들어 퍼지고, 정보기술(IT) 기기에 익숙한 청소년 중심으로 확산해 굉장히 우려스럽다”며 “심각한 범죄 행위로서 처벌받을 수 있고, 이러한 범죄 전력은 향후 사회생활에 큰 장애가 될 수 있다는 점을 시 교육청과 협의해 학생들에게 교육할 계획”이라고 강조했다. 그러나 텔레그램이 서버를 외국에 두고 있을 뿐만 아니라 높은 보안성·익명성을 특징으로 하기 때문에 수사에 한계가 있다는 지적도 나온다. 수사기관이 신고나 제보를 받고 수사에 착수해도 손쉽게 채널에 업로드된 영상물과 활동 내역을 삭제할 수 있기 때문이다. 이러한 점 때문에 텔레그램이 유해 콘텐츠의 새로운 온상으로 떠오르고 있다는 우려도 나온다. 텔레그램 창업자이자 최고경영자(CEO)인 파벨 두로프가 24일(현지시간) 프랑스에서 전격 체포된 것도 이런 배경 속에서 주목된다. 두로프는 텔레그램이 범죄에 악용되는 것을 막기 위한 조치를 하지 않은 혐의를 받는 것으로 전해졌다. -
방심위, '텔레그램 딥페이크' 대책마련 긴급회의 소집
산업 IT 2024.08.27 09:58:59방송통신심의위원회가 텔레그램 기반 딥페이크 음란물 제작 및 유포 사건가 관련해 긴급회의를 소집하고, 대책 마련에 나섰다. 방심위는 27일 실·국장 회의를 소집하고, 오는 28일에는 전체회의를 열기로 했다. 최근 텔레그램 딥페이크 음란물 확산 사태와 관련해 대책을 마련하기 위해서다. 방심위는 텔레그램 피해 신고 접수와 모니터링을 강화하고, 경찰 수사 의뢰 등을 추진한다. 텔레그램에도 영상 삭제 등 강력한 대책을 요구할 계획이다. 또 방심위는 매일 개최되는 전자심의를 활용해 24시간 이내에 성적 허위영상물을 시정요구 조치하기로 했다. 아울러 중점 모니터링 과정에서 파악된 악성 유포자 정보는 수사의뢰하는 등 3단계 조치를 취할 예정이다. 방심위 관계자는 "디지털성범죄정보는 무한 복제·유포 등 확산 속도가 빠르기 때문에 초동대처가 무엇보다 중요한 만큼 인터넷 이용자들이 위원회에 적극적으로 신고해줄 것"을 당부했다. 한편, 방통심의위는 작년 한 해 성적 허위영상물에 대해 총 7187건의 시정요구를 결정했다. 올해는 7월말까지 2023년 대비 약 90%에 달하는 총 6434건을 시정요구 결정했을 정도로 성적 허위영상물의 확산세가 빠른 상황이다. -
교육부 "딥페이크 현황파악 해 달라"…교육청에 협조요청
사회 사회일반 2024.08.27 09:34:11교육부가 전국 시도교육청에 사회관계망서비스(SNS) 이용자의 사진을 합성해서 만든 '딥페이크(Deepfake) 음란물' 현황파악을 요청했다. 피해 사례를 모은 제보방에 전국 각급학교 300여 곳의 이름이 오르고, 경찰 수사도 일부 지역에서 착수되는 등 파문이 확산할 조짐을 보이자 긴급 대응에 나선 것이다. 교육부 관계자는 27일 서울경제신문에 “학교명까지 거론되며 공포감이 커짐에 따라 시도교육청에 공문을 보내 현황을 파악해 달라고 요청했다”고 밝혔다. 교육부는 전날에는 딥페이크 음란물에 대응할 수 있도록 신고 기관 등이 담긴 공문을 시도교육청에 전달했다. 서울시교육청도 이르면 이날, 늦어도 28일 ‘스쿨벨’을 발령할 예정이다. 스쿨벨은 신종 학교폭력 등이 발생할 경우 서울경찰과 교육청이 협력해 서울 시내 1374개교 학부모 78만 명에 전파해 범죄를 예방하는 알림 시스템이다. 또 딥페이크 기술을 악용한 청소년 성범죄를 예방하기 위해 관련 교육 자료를 제작해 각 학교에 배포할 계획이다. -
"'군수품'으로 만들고 싶은 여군 사진 보내라"…이번엔 '군인 딥페이크 능욕방' 논란 일파만파
사회 사회일반 2024.08.26 22:07:28올 들어 ‘서울대 N번방’, ‘인천 소재 대학 딥페이크 채팅방’ 등 모바일 메신저 텔레그램에서 불법합성물(딥페이크)을 제작·유포하는 성범죄가 기승을 부리고 있다. 이 가운데 현역 군인으로 추정되는 이들이 여군들을 상대로 유사한 대화방을 운영 중이라는 제보가 나오면서 파장이 일고 있다. 여군 대상 불법합성물 텔레그램 채널의 운영자는 20명 이상, 참가자 수는 900명 이상인 것으로 확인됐다. ‘군수품 창고 대기방’이라는 텔레그램 채널의 운영자는 여성 군인을 ‘군수품’으로 비하하며 참가자들에게 “’군수품'으로 만들고 싶은 여군의 군복 사진과 전화번호와 소속, 계급과 나이 등을 제출하라”고 요구했다. 운영자는 “(본인이) 지정한 여군에게 능욕 메시지를 보내고 반응을 인증샷으로 보내라”는 조건도 내걸었다. 최근 인하대 재학생과 졸업생 등이 타깃이 된 단체 대화방 운영자들이 검거되자, 해당 채널 운영자는 “인하대 사건으로 시끄럽다. 당분간 일부 조건만 받겠다”는 메시지도 보낸 것으로 확인됐다. 해당 채팅방에서 실제 피해를 당한 전직 군인의 사례도 드러났다. 26일 한국일보에 따르면 현역 여군 A씨는 "실제 제작된 여군 성착취물을 확인해 보니 피해자 얼굴, 이름, 소속, 사단 마크까지 적나라하게 나와 있다”며 “한 피해자는 수년 전 자신의 사적 SNS에 올린 사진이 성착취물에 활용된 사실을 실제로 확인했다”고 전했다. 최근 텔레그램에서는 대학생과 여군뿐 아니라 중·고교생 등 미성년자는 물론 교사 등을 대상으로 음란물을 합성·유포하는 등 유사한 채널이 잇따라 발견되고 있다. 이른바 '겹지인방'이라는 이름으로 운영되는 채팅방에서는 참가자들이 서로 같이 아는 특정 여성의 정보를 공유하고 딥페이크 영상물을 제작·유포하고 있다. 가해자들은 주로 인스타그램 등 소셜미디어(SNS)에 올라온 피해자들의 사진을 무단으로 저장해 범행에 활용한 것으로 알려졌다. 실제 텔레그램의 채팅방 검색을 지원하는 '텔레메트리오'에서 '겹지방'(겹지인방)을 검색한 결과, 26일 기준 3500여명이 구독하고 있는 '대학별 겹지방'이 바로 검색됐다. 외에도 대전, 수원, 남양주 등 지역별 겹지방이 나왔다. 딥페이크 성적 허위 영상물로 인한 피해는 갈수록 커지고 있다. 국회 행정안전위원회 소속 조은희 국민의힘 의원실이 21일 경찰청에서 제출받은 '딥페이크 범죄 현황'에 따르면, 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가했다. 특히 올해 서울에서만 텔레그램 기반 딥페이크 음란물 제작·유포 사건으로 10대 청소년 10명이 입건됐을 정도로 연령대를 막론하고 관련 범죄의 영향력이 커지고 있다. 이처럼 일상 전반에서 ‘딥페이크 집단 성범죄’ 사건이 확산하는 것과 관련, 박지현 전 더불어민주당 비상대책위원장은 “국가적 재난 상황을 선포하고 시급히 대안을 마련해야 한다”고 밝혔다. 그는 26일 자신의 SNS를 통해 “누구나 디지털성범죄의 피해자가 될 수 있는 상황이다. 정부는 디지털 성범죄 뿌리를 뽑아야 한다”고 강조했다. -
'텔레그램 성범죄' 가해 청소년, 올 들어 서울서만 10명 입건됐다
사회 사회일반 2024.08.26 12:00:00올해 ‘서울대 n번방’, ‘인하대 딥페이크 채팅방’까지 모바일 메신저 ‘텔레그램’을 활용한 성범죄가 연이어 터지고 있는 가운데 성착취·지인능욕 범죄를 저질러 경찰에 붙잡힌 14세 이상 청소년들이 올 들어 7월까지 서울에서만 열 명에 달하는 것으로 집계됐다. 26일 서울경찰청 관계자는 오전 10시 종로구 서울경찰청에서 기자간담회를 열고 “올해 7월 말까지 14세 이상 청소년(촉법소년 미적용) 10명을 텔레그램 성착취·지인능욕 혐의로 검거했다”고 밝혔다. 이어 서울청 측은 “피해 대상이 학생은 물론이고 교사로도 확산되고 있는 상황”이라며 “이같은 범죄 전과가 향후 사회 생활에 큰 장애가 될 수 있다는 점을 학생들에게 알릴 수 있도록 시교육청 등과 협의해서 학교별로 예방 교육을 할 예정”이라고 덧붙였다. 서울청은 지난 16일 갑작스럽게 폐업해 수많은 피해자를 양산한 온라인 쇼핑몰 ‘알렛츠’의 정산금 지연 등 사기혐의 관련 수사상황도 전했다. 서울청 관계자는 “23일 기준으로 103건(고소·고발)이 접수돼 성동경찰서를 집중 수사관서로 지정했다”며 “피해자 조사를 진행중이고 회사 대표를 출국금지시키는 등 신속하게 수사하고 있다”고 전했다. 성동경찰서는 지난 19일 박성혜 인터스텔라(알렛츠 운영사) 대표를 특정경제범죄가중처벌법상 사기 혐의로 입건하고 출국금지 조치를 내렸다. 경찰은 알렛츠에서 일했던 직원 등 관계자를 조사했으며 조만간 박 대표를 소환해 조사할 예정으로 알려졌다. 지난 22일까지 상품 미배송 및 환급 지연 피해자들의 한국소비자원에 접수한 소비자 상담은 470건을 넘어섰다. 입점 판매자들은 사실상 7월부터 정산금을 받지 못한 경우가 많아 피해액이 최대 수백억원대에 이를 것으로 추산된다. 티몬·위메프 및 해피머니 사태와 관련해선 “92건(고소·고발)이 접수돼 그 중 53건을 서울청 광역수사단 금융범죄수사대에서 수사 중”이라며 “나머지는 강남경찰서에서 수사하고 있으며 검찰과도 긴밀히 협의하고 있다”고 말했다. -
"극단적 'AI 공포', 딥페이크 등 당면문제 가려"
산업 IT 2024.08.22 17:39:22“인공지능(AI)에 의한 인류 절멸은 과학소설(SF)에 불과합니다. 언젠가는 ‘파괴적인 AI’가 나타날 수도 있겠지만 가까운 미래에는 그럴 능력이 없습니다. 도리어 이런 ‘판타지스러운’ 우려가 현재 AI가 초래하는 실질적 피해를 정확하게 파악하는 데 방해가 될 수 있습니다.” 제임스 랜데이 미국 스탠퍼드대 컴퓨터공학과 교수 겸 인간중심인공지능연구소(HAI) 공동 소장은 최근 서울경제신문과 만나 “AI로 인한 지구 종말이라는 낮은 가능성도 누군가에게는 연구할 가치가 있지만 우리의 관심 대부분은 당면 과제인 ‘4D 문제’ 해결에 집중돼야 한다”고 강조했다. 극단적 상황에 대한 공포심이 외려 눈앞에 닥친 문제를 가릴 수 있다는 이유에서다. 랜데이 교수가 우려하는 4D 문제는 딥페이크(Deep fake), 허위 정보(Disinformation), 차별(Discrimination), 일자리 대체(Displacement of Jobs)를 뜻한다. AI로 생성된 딥페이크와 허위 정보는 이미 광범위한 정치·사회적 문제를 일으키고 있다. 랜데이 교수가 말하는 차별은 인종·성별·세대 등에 대한 편견을 학습한 AI가 정치·경제 등 중요 결정을 내리는 데 오용될 수 있다는 점을 의미한다. 마지막으로 언급한 일자리 대체는 “잠재적 문제”라면서도 “상업 예술과 글쓰기 분야에서는 이미 어느 정도 벌어지고 있을지 모른다”고 봤다. AI의 ‘현재’에 집중하는 랜데이 교수는 AI가 폭발적으로 발전해 인간의 이해를 뛰어넘는 특이점(Singularity)에 대해서도 회의적인 시각을 드러냈다. 그는 “대규모언어모델(LLM)은 인간 지능의 극히 일부만을 나타낼 수 있어 완전히 새로운 기술이 등장하지 않는다면 특이점 발생 가능성은 매우 낮다”고 했다. 특이점 도래 시기를 제시하는 미래학자들에 대해서도 “2045년에 무슨 일이 일어날지 예측할 수 있다면 엄청난 부자가 돼 있을 것”이라며 “10년 이상 미래에 대한 예측은 회의적”이라고 지적했다. 인간컴퓨터인터페이스(HCI) 분야 권위자인 랜데이 교수는 일론 머스크 테슬라 최고경영자(CEO)의 뇌신경과학 스타트업 뉴럴링크가 이끄는 뇌 임플란트 삽입 기술에 대해서도 조심스러운 입장을 내비쳤다. 그는 “몸이 마비된 사람들의 삶을 변화시킬 수 있는 훌륭한 기술이지만 뇌에 무언가를 삽입하는 일은 매우 위험해 수십 년 내 주류 기술이 될 가능성은 적다”고 봤다. 랜데이 교수가 페이페이 리 교수와 공동 소장을 맡고 있는 스탠퍼드대 HAI는 글로벌 AI 연구의 선두 기관 중 하나다. HAI는 이름처럼 ‘인간 중심 AI’ 연구에 집중하고 있다. 랜데이 교수는 이에 관해 “AI 설계 초기부터 법률·의학·환경·사회과학·디자인 등 다양한 전문가들이 함께해 향후 AI가 사회 전체에 적용되는 시점에 부정적 영향을 최소화하는 연구”라고 설명했다. 인간 중심 AI가 가져올 긍정적인 변혁에 대해서도 강조했다. 특히 헬스케어와 교육 분야에서 기회가 크다고 봤다. 랜데이 교수는 “한국은 물론 세계 각지에서 고령화 문제가 심각하고 AI를 활용한 노인 간병이 사회 전체의 건강과 경제에 매우 중요한 문제로 떠오를 것”이라며 “노인뿐 아니라 간병인 또한 AI를 통해 나은 서비스를 제공하고 삶의 질을 높이는 방안을 연구하고 있다”고 말했다. AI 활용에 따른 혼란이 큰 교육 분야에서도 장기적으로는 더 나은 방향으로 갈 것이라며 낙관론을 폈다. 그는 “당분간 혼란스럽겠지만 10년 후 돌아보면 과거보다 더 나은 방식의 교육이 이뤄지고 있음을 깨닫게 될 것”이라고 했다. AI 시대의 도래로 단순 암기에 의존한 현재의 공장식 ‘20세기 교육’이 종말을 맞고 인간 각각의 개성과 잠재력을 키우는 방향으로 나아갈 것이라는 믿음이다. -
여가부 "대학가 딥페이크 사건, 신고 접수 시 영상 삭제 지원"
사회 사회일반 2024.08.22 14:35:15최근 대학생 텔레그램 단체 채팅방에서 여학생들의 얼굴을 나체 사진에 합성하는 이른바 ‘딥페이크’ 사진이 공유된 사건과 관련해 여성가족부가 여성가족부가 경찰에 피해자 연계를 요청했다고 22일 밝혔다. 향후 산하 기관인 디지털성범죄피해자지원센터에서 영상물 삭제 등도 지원한다는 방침이다. 여가부는 이날 정부서울청사에서 열린 정례브리핑에서 “관련 사건에 대한 피해 접수는 아직까지 없었고, 피해 사실이 들어올 경우 수사기관에 피해자 연계를 요청해 둔 상태”라며 “경찰청의 불법 촬영물 추적시스템에 (해당 영상물이) 업로드되면 디지털성범죄피해자지원센터와 함께 삭제 지원에 나서겠다”고 말했다. 여가부는 “지난 2월 인천 디성센터를 통해 피해자 지원 방안을 문의하는 상담이 들어와 지원 방법을 안내했다”며 “다만, 이후에 정식 피해 사실 신고나 지원 신청이 들어오진 않았다”고 설명했다. 딥페이크 등 허위 영상물과 관련해 입법 미비사항이 많다는 지적에 대해서는 “인식하고 있다”며 “과학기술정보통신부와 협업해 법제도 개선과 정책 연구를 추진하고 있으며 11월께 마무리할 예정”이라고 답했다. 그러면서 “앞서 경찰청 등 범부처 합동 대응체계 강화 방안을 세우고 있고, 허위 영상물 탐지 시스템을 고도화하는 예산을 확보하려고 노력 중”이라고 강조했다. 최근 인천경찰청 사이버범죄수사대는 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 텔레그램 단체 대화방 운영자 A씨 등을 수사하고 있다고 밝혔다. 경찰에 따르면 이들은 인공지능(AI)을 이용한 '딥페이크' 기술로 여성 얼굴을 나체 사진에 합성한 성범죄물을 텔레그램 단체 대화방에서 공유한 혐의를 받는다. -
"참여자만 1000명 넘어" 인천 소재 대학서 또 여대생 성범죄 터졌다
사회 사회일반 2024.08.19 23:34:32인천 소재 대학교에서 여학생들의 얼굴을 나체 사진에 합성하는 이른바 '딥페이크' 사진을 공유하는 단체 채팅방이 운영됐다는 신고가 접수돼 경찰이 수사에 착수했다. 인천경찰청 사이버범죄수사대는 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 텔레그램 단체 대화방 운영자 A씨 등을 수사하고 있다고 19일 밝혔다. 경찰이 현재 파악한 피해자는 4명이며, 아직 피해 사실을 모르는 피해자들을 감안하면 피해 학생은 더욱 늘어날 전망이다. A씨 등은 2020년부터 피해자 얼굴을 나체 사진에 합성한 딥페이크 사진을 텔레그램 단체 대화방에서 공유한 혐의 등을 받고 있다. 1000여명 넘게 참여한 단체 대화방에는 허위 성 영상물을 공유하고 있는 것으로 알려졌으며, 참가자들의 신원은 아직 확인되지 않았다. 대화방에서는 딥페이크를 통한 합성 사진 외에도 피해자 연락처 등 개인정보도 공유되면서 일부 피해자들이 협박을 받기도 했다고 전해졌다. 지난해 피해자 신고를 받고 수사에 착수한 경찰은 지난 3월 피해 영상물을 재유포한 텔레그램 참가자 1명을 붙잡아 검찰에 구속 송치했다. 경찰 관계자는 "텔레그램은 추적하기가 어려워 주범의 신원은 아직 확인하지 못했다"며 "구체적인 수사 상황은 밝히기 어렵다"고 말했다. -
"차세대 인력 육성"…국정원, '디지털포렌식 챌린지' 개최
산업 IT 2024.08.08 16:54:04국가정보원이 한국정보보호학회와 8일부터 10월 8일까지 두 달간 '디지털포렌식 챌린지 2024'를 개최한다고 밝혔다. 2018년부터 전 세계 디지털포렌식 전문가와 학생들이 참가해 기술을 겨뤄온 이 행사는 가상자산·딥페이크·랜섬웨어 등 최신 트렌드 포렌식 '문제 풀이'와 지정 주제 관련 디지털포렌식 도구를 개발하는 '기술 공모'로 나눠 진행된다. 대회 공식 홈페이지를 통해 참가 신청하면 된다. 대회 종료 후 평가를 거쳐 시상하며 기술 공모 대상팀에는 국가정보원장상을 수여한다. 국정원 관계자는 “이번 대회는 진화하는 사이버 범죄에 맞설 차세대 포렌식 전문인력을 발굴·육성하는 중요한 기회”라며 “참가자들이 자신의 기술을 발전시키고 글로벌 무대에서 역량을 인정받기를 기대한다”고 말했다. -
'딥페이크' 활개치는데…국회 발묶인 AI기본법
사회 사회일반 2024.07.23 17:48:05기술 발달에 따른 성폭력·명예훼손 범죄가 매년 증가하고 있지만 처벌 수준은 미미하다는 지적이 꾸준히 제기되고 있다. 전문가들은 인공지능(AI) 등을 활용한 허위 조작 정보의 경우 빠른 속도로 광범위하게 유통되고 피해 회복이 어려운 만큼 선제적인 대응책과 함께 강력한 처벌이 필요하다고 입을 모은다. 23일 경찰에 따르면 딥페이크(AI를 이용해 만든 가짜 이미지·영상물) 관련 범죄로 경찰에 검거된 인원은 2021년 79명에서 2023년 100명으로 증가했다. 해외에 서버를 둔 플랫폼에서 유포했을 때는 가해자를 찾는 것 자체가 쉽지 않아 실제 행해지는 범죄는 훨씬 많을 것으로 추정된다. 같은 기간 방송통신심의위원회가 처리한 성적 허위 영상 정보 건수도 1913건에서 7187건으로 기하급수적으로 증가했다. 최근 동문 여성들의 사진으로 허위 성착취물 영상을 만들어 재판에 넘겨진 ‘서울대 N번방’ 사건이 대표적인 딥페이크 범죄다. 경찰 관계자는 “텔레그램 등 온라인 플랫폼상에서 유포되는 가짜 영상물의 용의자가 특정되면 영장 청구를 할 수 있다”면서도 “현재 용의자 특정 자체가 어려워 협조가 힘들어 검거하는 데 고충이 있는 실정”이라고 토로했다. 날로 진화하는 AI 기술이 성범죄를 포함한 다양한 범죄 영역에 악용되고 있는 만큼 적극적이고 체계적인 규제가 필요하다는 목소리가 나온다. 해외의 경우 글로벌 빅테크들을 중심으로 AI 제작물 표시를 의무화하는 등 본격적인 규제에 나섰다. 유럽연합(EU)은 3월 딥페이크를 생성·조작하는 AI 시스템의 배포자는 해당 콘텐츠가 인위적으로 생성 또는 조작됐다는 사실을 공개해야 한다고 명시한 인공지능법(AI ACT)을 통과시켰다. 미국은 이미 지난해 AI 생성물에 워터마크(식별표시) 표시를 의무화했다. 반면 우리나라의 경우 아직까지 구체적인 규제책이 없는 실정이다. 2020년 21대 국회에서 처음으로 처음 ‘AI 기본법’이 발의됐으나 폐기됐다. 22대 국회에서는 딥페이크 영상, 음향 등 AI 기술을 이용해 제작한 정보를 온라인에 게재할 때 워터마크 표시를 의무화하는 내용을 골자로 하는 정보통신망법 일부 개정 법률안이 계류 중이다. 한편 딥페이크 범죄가 입증되더라도 처벌이 솜방망이 수준에 머물러 있는 점도 지적된다. 2020년 도입된 이른바 딥페이크 방지법(성폭력 범죄의 처벌 등에 관한 법률 개정안)은 성적 수치심을 유발할 수 있는 허위 영상물을 제작하거나 퍼뜨리면 5년 이하의 징역 또는 5000만 원 이하의 벌금에 처할 수 있다고 규정한다. 그러나 2020~2023년 딥페이크 범죄 관련 1·2심 판결 71건 중 딥페이크 범죄만으로 실형을 선고받은 경우는 4건에 불과한 것으로 파악됐다. 장윤미 여성변호사회 공보이사는 “딥페이크 범죄 등 디지털 성범죄의 경우 피해자의 피해가 잘 헤아려지지 않는 경향이 있다”며 “피해가 광범위하게 확대 재생산되는 만큼 사회적인 인식 제고와 함께 가벌의 범위를 높일 필요가 있다”고 말했다. -
학교 성폭력·성희롱 신고 2.6배 증가…청소년 도박도 3배 급증
사회 사회일반 2024.07.22 12:00:00지난 3년간 매년 늘어났던 학교폭력 신고 건수가 올해 상반기에도 증가세를 이어간 것으로 나타났다. 성폭력·성희롱 신고가 무려 2.6배 치솟아 가장 큰 증가폭을 보였다. 같은 기간 청소년 범죄는 도박·마약은 각각 228%, 59.1% 급증했다. 서울경찰청은 22일 이같은 내용의 2024년 상반기 학교폭력 및 청소년 범죄 분석 결과를 발표했다. 분석 결과 학교폭력 신고 건수는 4688건으로 전년 대비 7.7%, 검거건수는 1344건으로 30.2% 늘었다. 학교폭력은 코로나19가 발생했던 2020년 급감했다가 이후 매년 증가 추세다. 연령별로는 초등학교(47%), 중학교(34%), 고등학교(15%) 순으로 많이 발생했다. 전년 대비 초등학교는 5.2% 감소한 반면 중학교, 고등학교는 각각 21.6%, 35.2% 늘었다. 장소는 학교 안(45.4%)보다 학교 밖(54.6%)이 많았으며 사이버 학교폭력이 630건에서 776건으로 23.2% 증가했다. 유형별로는 성폭력·성희롱이 가장 큰 폭 증가한 것으로 나타났다. 신고건수는 253건에서 662건으로 161.7%, 검거건수도 217건에서 315건으로 45.2% 늘었다. 신고된 662건을 분석한 결과 강제추행이 55.9%로 가장 많았고 성희롱이 16.8%, 카메라등이용촬영죄 11.3% 순이었다. 강제추행은 이성(47.3%)보다는 동성(51.9%)에 의한 게 더 많았으며 이 중 남성 간 89% 여성 간은 11%였다. 성희롱의 경우 오프라인(36.9%)보다는 온라인(63.1%) 비중이 높았으며 특히 딥페이크에 대한 신고도 20건이나 발생해 최신 기술을 활용한 범죄가 증가하는 추세로 분석됐다. 한편 청소년(14~18세) 범죄는 전년 동기 대비 1.3% 증가했다. 살인·강도 등 강력범죄는 22% 줄어들었으나 도박은 7건에서 23건으로 228%, 마약은 22건에서 35건으로 59.1% 증가했고 절도도 128% 증가했다. 청소년 교제폭력과 스토킹은 각각 같은 기간 11.6%, 15.8% 감소했으나 연간으로 따져봤을땐 2021년부터 매년 증가세로 각별한 주의가 필요하다는 분석이다. 서울청은 이번 분석 결과를 바탕으로 여름방학 기간 동안 신종 학폭 알림 시스템인 ‘스쿨벨’을 가동하고 청소년 성범죄 예방교육 자료를 제작하는 등 대응에 나선다. 도박·마약 중독청소년에 대한 전문기관 연계 상담도 강화한다. 조지호 서울청장은 “청소년 범죄를 예방하기 위해 교육청 등 유관기관과 협력하여 다양한 예방활동을 전개할 방침”이라고 밝혔다. -
"즉석에서 찍기엔 너무 완벽"…트럼프 '세기의 사진' 두고 '음모론' 퍼지는 이유
국제 국제일반 2024.07.16 14:17:50“연극용 물감과 플라스틱 BB탄을 쓴 트럼프의 자작극.” 11월 미국 대선을 앞두고 공화당 대선후보로 내정된 도널드 트럼프 전 대통령이 유세중 저격을 당한 사건과 관련한 음모론이 쉽게 잦아들지 않고 있다. 13일(현지 시각) 트럼프 전 대통령 암살 시도 사건 뒤 미국 사회에서 사회관계망서비스(SNS)를 중심으로 근거 없는 음모론이 확산되고 있다. 진영을 막론하고 일부 극단주의 세력이 생성해 퍼나르는 거짓말에 정치인까지 가세하며 상대방에 대한 혐오를 부추기고 있는 것이다. 미 시사매체 디애틀랜틱은 14일 “트럼프 암살 시도와 관련된 음모론이 현실을 잠식하고 있다”며 “입증되지 않은 가설이 (실제처럼) 자리 잡는 데 몇 분밖에 걸리지 않는다”고 전했다. 암살 시도가 맞는지, 용의자가 누구인지 파악되기 전부터 음모론이 들끓었단 의미다. 실제로 암살 시도 직후 SNS 등에선 ‘BB탄’ ‘내전’ ‘바이든은 어디 있나’ 같은 키워드의 언급량이 상위권을 기록했다. 일론 머스크 테슬라 최고경영자(CEO) 또한 “비밀경호국(Secret Service·SS)의 무능이 의도됐을 수 있다”며 암살 시도가 묵인됐다는 주장을 SNS에 제기했다. 조 바이든 대통령이 은밀히 암살 지령을 내렸다는 가설까지 제기됐다. 스티브 게스트 전 공화당 전국위원회 대변인은 SNS에 “바이든 대통령이 8일 “TV토론 이야기는 그만하자. 트럼프에 ‘초점’을 맞추자”고 말했다”라고 썼다. 이후 이 글이 널리 공유되는 과정에서 일각에서는 바이든 대통령이 의미한 ‘초점’을 ‘과녁’으로 해석해 “바이든이 암살을 지시했다”고 주장하기 시작했다. 마이크 콜린스 공화당 하원의원 또한 ‘바이든 지시설’ 확산에 동참했다. 특히 오른쪽 귀에 총탄을 맞고 단상에서 내려오던 트럼프 대통령이 결연한 표정을 지은 채 나부끼는 성조기를 배경으로 주먹을 치켜드는 모습이 담긴 AP 통신 에번 부치 기자의 사진도 음모론의 대상이 되고 있다. 미국 대선 판도를 뒤흔들 '세기의 사진'으로 꼽히며 회자되는 이 사진의 구도가 즉석에서 찍었다기엔 지나치게 완벽하다는 이유에서다. 한 미국내 유튜브 이용자는 "(사진이) 너무 심하게 완벽하다"면서 "깃발은 물론 모든 것이 완벽하게 배치됐다"고 적었다. 워싱턴포스트에 따르면 특히 이런 음모론을 빠르게 유포하고 있는 건 ‘큐어논’과 ‘블루어논’이다. 트럼프를 지지하는 큐어논은 2020년 대선이 조작됐다며 이듬해 1월 6일 미 의사당 습격을 이끌었던 반지성주의 극우 세력이다. 이들에 빗대 좌파 진영의 음모론 집단을 일컫는 블루어논은 트럼프 전 대통령이 성조기를 배경으로 주먹을 치켜든 AP통신 사진이 “연출된 것”이란 주장을 퍼뜨리고 있다. 용의자 신상에 대한 허위 정보도 무차별적으로 확산했다. 자신이 총격범이라고 사칭한 SNS 사용자의 사진이 널리 확산됐으며, 긴 금발 머리 남성의 사진을 이용해 “트럼프를 혐오한다”고 말하는 딥페이크 영상도 제작됐다. 미 연방수사국(FBI)은 “온라인상 폭력 위협이 암살 시도 이후 급증했다”고 밝혔다. -
“딥페이크 신종범죄 잡는다”…KETI-국과수, 과학수사 R&D 맞손
산업 중기·벤처 2024.07.09 12:00:00한국전자기술연구원(KETI)이 9일 경기 성남 본원에서 국립과학수사연구원과 과학수사 분야 연구 협력을 위한 업무협약(MoU)을 체결했다고 밝혔다. 양 기관은 인공지능(AI) 기반 영상·음성 분석 등 첨단 분야의 공동 기술 개발을 추진하고 과학수사 분야 내 기술 확산을 지원하기로 했다. KETI는 딥러닝 기반의 영상 인식추적 및 영상 화질개선 등 지능형 영상처리 기술, 멀티모달 인터랙션 및 추론, 자연어 처리 등의 인공지능 기술 등 첨단 지능 분야의 핵심 기술 육성에 집중하고 있다. 국과수는 행정안전부 소속의 과학수사 감정연구기관으로 CCTV·비디오·사진을 포함하는 각종 영상 및 음성 판독·개선 기술 등 범죄수사에 필요한 법공학 분야의 연구개발을 수행한다. KETI와 국과수는 이번 협약을 통해 △과학수사에 필요한 영상 및 음성 분석 기술 교류 △영상 및 음성 분석 기술 활용을 위한 인적 교류 △과학 수사 분야 신기술 수요 공동 발굴 및 정부 전략 수립 지원 등 첨단 분야에서의 연구개발(R＆D) 협력을 강화할 계획이다. 신희동 KETI 원장은 “다가오는 미래 치안의 핵심은 첨단 과학 기술의 개발이며 KETI는 유망 정보통신(ICT) 기술의 구현과 확산에 필요한 최적의 파트너일 것”이라며 “두 기관의 협약이 향후 국민 안전을 보장하는 과학치안 사회로 이어지길 기원한다”고 밝혔다. 이봉우 국과수 원장은 “최근 AI 기술 발달에 따른 딥페이크 같은 신종범죄로 인해 국민들의 안전이 위협받고 있다”며 “두 기관의 힘을 모아 기술을 연구·개발해 국민이 안전한 사회를 구현할 수 있도록 노력하겠다”고 말했다. -
같은 학교 여학생 얼굴로 딥페이크 음란물 제작한 고등학생
사회 사회일반 2024.07.02 22:01:13여학생들의 얼굴을 도용해 딥페이크 기술로 음란물을 만들고 판매한 고등학생이 적발됐다. 2일 교육계에 따르면 부산시교육청은 같은 학교와 인근 학교에 있는 여학생의 얼굴을 음란물에 합성해 판매한 혐의로 부산의 한 고등학교 2학년 A군을 조사하고 있다. A군은 딥페이크 기술로 같은 학교나 주변 학교의 여학생 얼굴을 합성해 음란물을 만든 뒤 판매했다. A군은 SNS에서 음란물 속 여학생이 직접 동영상을 판매하는 것처럼 위장했다. A군은 구매자들의 동영상을 구입한 후기까지 모아 SNS에 올리기도 했다. 딥페이크란 딥러닝(Deep learning)과 가짜(Fake)란 말의 합성어로, AI 기술을 기반으로 만들어낸 가짜 이미지, 오디오, 비디오 등을 의미한다. 지금까지 드러난 피해 여학생만 여러 명으로 알려졌다. 해당 학교는 가해자와 피해자를 분리 조치했으며, 교육청은 진상 조사에 나섰다.
오늘의 핫토픽
이시간 주요 뉴스
영상 뉴스
서경스페셜
주소 : 서울특별시 종로구 율곡로 6 트윈트리타워 B동 14~16층 대표전화 : 02) 724-8600
상호 : 서울경제신문사업자번호 : 208-81-10310대표자 : 손동영등록번호 : 서울 가 00224등록일자 : 1988.05.13
인터넷신문 등록번호 : 서울 아04065 등록일자 : 2016.04.26발행일자 : 2016.04.01발행 ·편집인 : 손동영청소년보호책임자 : 신한수
서울경제의 모든 콘텐트는 저작권법의 보호를 받는 바, 무단 전재·복사·배포 등은 법적 제재를 받을 수 있습니다.
Copyright ⓒ Sedaily, All right reserved
서울경제를 팔로우하세요!
서울경제신문
텔레그램 뉴스채널
서경 마켓시그널
헬로홈즈
미미상인