스스로 업무를 수행하는 인공지능(AI) 에이전트가 기업 업무와 일상생활에서 영향력이 커지면서 부작용에 대한 우려도 하나둘 제기되고 있다. 기술 고도화와 함께 사회가 겪게 될 문제에 대한 대비가 필요하다는 지적이 나온다.
13일 정보기술(IT) 업계에 따르면 AI 에이전트의 활용이 일상화될수록 개인정보 보안 문제가 더욱 복잡해질 수밖에 없다. 이용자가 자신의 일정, 연락처, 업무 내용, e메일 정보, 금융 정보 등 다양한 민감 정보를 AI 에이전트에 전달하면 정보 유출에 대한 위험성도 커지기 때문이다. 특히 AI 에이전트가 해킹 등의 공격을 받으면 민감한 개인정보와 기업 기밀이 외부로 유출되면서 막대한 피해가 발생할 수 있다. 탈취된 정보는 사기 등 범죄에 악용되거나 기업의 명운마저 좌우할 수도 있다. AI안전연구소 소장인 김명주 서울여대 정보보호학과 교수는 “AI 에이전트가 고도의 권한을 행사하는 형태이기 때문에 공격받을 시 발생할 수 있는 피해 규모 역시 상당하다”며 “은행 등 금융 분야에 적용된 AI 에이전트가 해킹되면 막대한 자산 피해 발생 우려가 있다”고 말했다.
AI 에이전트가 이용자에게 잘못된 정보를 제공하거나 비논리적인 의사 결정을 유도할 가능성도 제기되고 있다. AI 에이전트는 학습 데이터에 기반해 작동되기 때문이다. 허위 정보의 무분별한 확산으로 사회적 혼란을 초래할 수 있다. 아울러 AI 에이전트의 확산은 기술적 측면 외에도 사회 전반에 걸쳐 다양한 파장을 일으킬 것으로 분석된다. 일자리를 대체할 수 있다는 우려와 함께 인간 간의 상호작용 감소로 인해 사회적 고립이나 소통 단절 문제가 심화될 수 있다는 주장도 나온다.
이 때문에 기술 진흥책과 제도적 안전장치를 정부가 동시에 마련해야 한다는 목소리가 높다. 에이전트 오작동 시 발생할 수 있는 문제의 책임 소재 등과 관련된 법적·윤리적 기준도 시급히 마련해야 한다는 것이다. 김 교수는 “AI 에이전트의 잠재적 위험에 대비하기 위해서는 사회적 논의를 바탕으로 한 체계적인 대응 전략이 마련돼야 한다”며 “긴급 상황 발생 시 중단할 수 있는 ‘킬 스위치’도 제대로 작동하도록 해야 한다”고 말했다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
kim@sedaily.com
