러시아가 온라인상에 허위 정보를 퍼뜨려 서방의 인공지능(AI) 챗봇 데이터를 오염시키는 방식으로 선전전에 나서고 있다는 지적이 나왔다.
AFP통신은 9일(현지시간) 미국 허위 정보 추적 사이트 뉴스가드의 조사 결과 10개 AI 챗봇이 러시아 선전 네트워크인 ‘프라브다’가 퍼트린 허위 사실을 33% 이상 되풀이하며 친(親)러시아 의제를 확산하고 있는 것으로 나타났다고 보도했다. 프라브다는 러시아에 우호적인 정보를 전파하는 선전 네트워크다. 이 네트워크는 자체적으로 콘텐츠를 생산하지는 않는다. 대신 러시아 국영 언론 기사나 친러시아 정보를 올리는 인플루언서의 소셜미디어(SNS) 내용을 인용해 퍼나르는 방식으로 선전전을 펼친다.
뉴스가드 조사에 따르면 프라브다는 대형언어모델(LLM)에 허위 정보를 퍼뜨려 AI 챗봇의 데이터를 왜곡시키고 있다. 이른바 ‘LLM 그루밍’이라고 불리는 방식이다. 이 방식은 방대한 양의 정보를 학습시켜 러시아에 우호적인 결과가 표출되도록 한다. 뉴스가드는 지난해에만 360만개에 달하는 러시아 선전 글과 기사 등이 서방의 AI 시스템으로 침투했다고 밝혔다. 이에 따라 챗GPT4와 그록, 코파일럿, 메타AI, 제미니 등 대표적인 AI챗봇들이 모두 왜곡 정보에 영향을 받았다. 특히 7개 챗봇의 경우 프라브다에 실린 기사를 출처로 직접 인용하는 사례도 있었다.
전문가들은 미국이 급속히 러시아 쪽으로 밀착하는 상황에서 이런 허위 선전정보가 더 확산할 수 있다고 우려했다. 미국은 최근 트럼프 대통령이 친러시아 행보를 보이는 가운데 러시아를 겨냥한 사이버 작전도 중지한 상태다.
비영리단체 ‘아메리칸 선라이트 프로젝트’의 니나 잔코위츠는 프라브다의 영향력이 커져 친러시아 콘텐츠가 LLM 학습데이터에 넘쳐날 수 있다고 경고했다. 그는 “허위 정보를 대규모로 확산시키는 프라브다의 능력이 전례 없는 수준”이라며 “러시아의 영향력이 확대되고 고도화됨에 따라 전 세계의 민주주의 담론에도 직접적인 위협이 되고 있다”고 짚었다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
ssong@sedaily.com
