“과학이 감성을 만나 눈물 없이는 못 볼 감동을 선물했다.”
한 유튜브 이용자가 세상을 떠난 가수 ‘터틀맨’ 임성훈 씨의 공연 영상에 남긴 댓글이다. 과거 방송 출연 영상이 아니라 지난 9일 방송된 엠넷의 ‘AI 음악 프로젝트 다시 한번’ 프로그램 중 일부다. 12년 전 사망한 고인이 올해 방영된 드라마 ‘이태원클라쓰’의 OST를 생전 모습처럼 부르는 장면이 재연됐다. 이 영상 클립은 14일 기준 유튜브 조회 수 250만 회를 넘을 정도로 뜨거운 호응을 얻고 있다.
신종 코로나바이러스 감염증(코로나19) 여파로 고통받는 사회에 인공지능(AI) 기술이 감동을 선사한 것이다. 터틀맨의 표정과 목소리 등 데이터를 딥러닝으로 학습한 AI가 생전 모습을 그대로 재현했다. 이 기술은 교육·문화 예술 등 다양한 분야에서 무궁무진하게 활용될 수 있다.
하지만 AI 기술은 딥러닝과 가짜(fake)를 합친 ‘딥페이크’라는 단어처럼 악용될 수도 있다. 네덜란드 보안 기업 딥트레이스에 따르면 온라인에 게재된 딥페이크 영상의 96%가 불법 음란물이다. 목소리를 위조한 보이스피싱 등 사기부터 정치인을 사칭하는 가짜 뉴스 제작 등까지 폭넓게 악용된다.
국내에서 딥페이크 같은 악용을 막기에는 역부족으로 보인다. 관련 법은 아직 걸음마 단계다. 6개월 전에서야 딥페이크 불법 음란물 영상 제작·배포 행위가 처벌 대상이 됐고 지난 9일 피해자의 대리인이 딥페이크 불법 음란물을 삭제를 요청할 수 있는 법안이 국회 본회의 문턱을 통과했다. 정책 입안자들의 인식은 여전히 구시대에 머물러 있다. 3월 딥페이크 불법 음란물 처벌 법안을 논의하는 과정에서 김오수 당시 법무부 차관은 “청소년들이 자기 컴퓨터에서 합성 영상을 만드는 일을 자주 한다”고 말한 것이 대표적이다. 사회적·문화적·교육적 관점의 종합적 논의는 부족한 상태일 수밖에 없다.
지금 이 순간을 놓치면 AI 영상 합성 기술은 ‘불법 영상물’로만 각인된다. “딥페이크는 산업적 잠재력이 큰 기술이지만 기존의 허위 정보와는 차원이 다른 위험성을 내포하고 있다”는 김유향 국회입법조사처 기획관리관의 말을 정부와 국회가 되새기길 바란다.
/kim@sedaily.com
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
kim@sedaily.com
