최근 딥페이크 기술을 악용해 동영상을 만들고 “자녀를 납치했다”며 부모에게 금전을 갈취하는 사례가 발생했다.
7일 경찰청 국가수사본부는 “최근 딥페이크 기술로 자녀의 얼굴을 합성한 가짜 영상을 제작해 부모에게 전송하고, ‘자녀를 납치를 했다’라며 금전을 요구한 외국인 대상 전화금융사기가 발생했다”고 밝혔다.
경찰에 따르면 지난 10월께 외국에 거주하는 한 외국인 부부는 불상의 외국 범죄조직으로부터 한국을 여행 중이던 딸이 방 안에 감금된 채 울면서 살려달라고 하는 영상을 받았다. 범인은 “당신 딸을 납치했다, 딸을 살리고 싶으면 합의금을 보내라”라고 부모를 협박했다.
부모는 이 사실을 영사관에 알렸고, 영사관에서는 한국 경찰에 신고했다. 경찰 확인 결과 영상에 등장한 딸의 모습은 딥페이크 기술로 만들어진 가짜였으며, 딸의 신변은 안전한 것으로 파악됐다.
또한 경찰은 목소리를 가짜로 꾸며낼 수 있는 딥보이스 기술 또한 주의가 필요하다고 밝혔다. 범인이 자녀의 목소리를 복제한 뒤 부모에게 전화하여 마치 납치된 것처럼 흐느끼며 살려달라고 한다거나 급한 일이 있다면서 돈을 빌려달라는 목소리를 들려주는 방식으로 범행에 이용할 수도 있다.
경찰은 딥페이크와 딥보이스에 악용되는 사진과 영상, 목소리 등을 평소에 사회관계망 서비스(SNS) 등에 불특정 다수가 볼 수 있는 공개 설정으로 올리는 것을 지양해 달라고 당부했다.
경찰청 마약조직범죄수사과장은 “인공지능(AI) 기술의 발전이 일상생활을 더 편리하게 만들었지만, 동시에 이러한 기술이 범죄에 악용될 수 있는 환경을 제공할 수 있기 때문에 항상 조심해야 한다”라며 “경찰은 AI 기술을 악용한 피싱범죄를 예방하기 위해 홍보 콘텐츠를 제작해 국내는 물론 해외 주재관과 한인회를 통해서도 전파하여 국민 보호에 힘쓰겠다”고 밝혔다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
vegemin@sedaily.com
