최근 딥페이크를 이용한 범죄가 사회적 문제로 떠오르고 있는 가운데 국내 벤처기업이 이를 방지할 수 있는 서비스를 무료 내놨다.
정보기술(IT) 보안 기업 샌즈랩은 생성형 인공지능(AI) 역기능 중 하나인 딥페이크를 탐지하는 서비스 페이크체크를 출시했다고 5일 밝혔다.
페이크체크는 사용자가 직접 웹사이트에 접속해 딥페이크가 의심되는 이미지를 업로드하면 수 초 내로 위조 진위 여부를 분석해 판별 결과를 알려준다. 남녀노소 누구나 쉽게 서비스를 이용할 수 있도록 회원가입이나 인증 등 번거로운 절차들을 없애고 순수한 기능에 집중했다.
해당 서비스는 무료로 제공되며 누구나 이용 가능하다. 샌즈랩은 현재 국민들이 직면한 사회적 이슈에 도움을 주기 위해 해당 서비스를 자체 구축하고 유지하는데 드는 클라우드 서비스 등의 모든 비용을 사회 공헌 차원에서 직접 부담하기로 했다.
페이크체크는 다양한 AI 모델을 활용해 사람의 얼굴 이미지의 위·변조 여부 판별이 가능하도록 개발됐다. 범죄 예방 목적의 서비스다 보니 사람 얼굴 외 동물이나 사물의 딥페이크 이미지는 판별하지 않는다. 다만 아직까지는 일종의 오픈 베타 테스트 버전 형태로 출시했기 때문에 지속적인 의견 수렴과 업데이트를 통해 탐지 대상 확대나 탐지율 향상은 물론 영상의 위·변조 여부 판별도 추후 지원될 수도 있다는 게 회사의 설명이다. 샌즈랩은 생성형 AI 역기능 탐지 및 대응 기술에 대한 국가 연구개발(R&D) 과제를 수행해왔다.
김기홍 샌즈랩 대표는 “페이크체크 서비스는 딥페이크 침해 사고에 대한 대응책이 필요한 사회적 기대에 부응하기 위해 임직원들이 한마음 한 뜻으로 만들어낸 실질적인 대안 확보 사례”라며 “이번 서비스 출시로 생성형 AI 역기능 억제를 위한 국민 체감형 플랫폼 구축 토대를 견고히 다지고 미래 사이버 보안을 위한 AI 기술 개발로 사회에 이바지할 수 있도록 앞장서겠다”고 말했다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
coldmetal@sedaily.com
