빠르게 진화하는 인공지능(AI)이 인류를 멸종시킬 수준의 위협이 될 수 있다는 경고가 미국에서 나왔다.
12일(현지시간) 미국 CNN방송에 따르면 AI 정책 컨설팅 기업 글래드스톤 AI는 미국 국무부의 의뢰를 받아 작성해 최근 공개한 보고서에서 “가장 발전한 AI 시스템이 최악의 경우 인류 멸종 수준의 위협이 될 수 있으며 미국 정부가 개입해야 한다”고 지적했다. 미국 연방 정부가 재앙을 피할 수 있는 시간이 얼마 남지 않았다는 경고도 보고서에 포함됐다. 보고서는 주요 AI 기업의 최고 경영진, 사이버 보안 연구원, 대량살상무기 전문가, 국가 안보 정부 당국자 등 200여명을 1년여에 걸쳐 인터뷰한 내용을 토대로 작성됐다.
보고서는 AI의 대표적인 위험으로 우선 가장 발전한 AI 시스템이 무기화돼 잠재적으로 돌이킬 수 없는 피해를 줄 수 있다고 경고했다. 어느 시점이 되면 개발 중인 AI 시스템에 대한 통제력을 상실해 잠재적으로 세계 안보에 파괴적인 결과를 초래할 수 있다는 우려도 제기했다. 보고서는 "AI와 AGI(범용인공지능)의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다"며 AI 군비 경쟁과 분쟁, 대량살상무기 규모의 치명적인 사고의 위험이 있다고 진단했다.
그러면서 이러한 위협에 대응하기 위해 획기적인 조치에 나설 것을 촉구했다. 새로운 AI 감독 기관과 긴급 규제 안전장치를 만들고 AI 모델 훈련에 사용할 수 있는 컴퓨터 성능을 제한하는 방안 등을 제시했다.
글래드스톤AI 공동 설립자이자 최고경영자(CEO)인 제러미 해리스는 CNN에 "AI는 이미 경제적으로 혁신적인 기술"이라며 "하지만 또한 우리가 알아야 할, 재앙적인 위험을 포함한 심각한 위험을 가져올 수 있다"고 지적했다. 그는 "세계 최고의 AI 회의들에서 발표된 경험적 연구와 분석을 포함해 늘어나는 증거들은 특정 능력의 한계점을 넘어서면 AI가 잠재적으로 통제할 수 없게 될 수 있음을 시사한다"고 말했다.
보고서에 따르면 AI 전문가들은 올해 AI로 인한 사고(AI incident)가 전 세계적으로 돌이킬 수 없는 영향을 미칠 가능성을 4%에서 최대 20%까지로 추정했다. 다만 이 같은 추정치는 비공식적이며 상당히 편향된 것일 가능성도 있다고 부연했다.
보고서는 AGI의 진화 속도를 AI가 인류에 위험을 미칠 지 여부를 좌우할 가장 큰 관건으로 꼽았다. 보고서는 "AGI는 통제력 상실로 인한 재앙적 위험의 주요 요인으로 간주되고 있다"며 오픈AI, 구글 딥마인드, 앤트로픽, 엔비디아는 모두 2028년까지 AGI에 도달할 수 있다고 공개적으로 밝혀왔다고 덧붙였다.
미국 정부는 국내외에서 미국의 국익을 보호하려는 목표에 AI가 어떻게 부합하는지를 평가하기 위해 글래드스톤AI에 보고서를 의뢰했고, 이 보고서가 미국 정부의 견해를 나타내는 것은 아니라는 입장이다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
socool@sedaily.com
