김희진 서울대 데이터사이언스대학원 교수는 “치안은 국민의 기본권과 안전을 보호하는 동시에 이를 제한할 수 있는 특성을 가지고 있기 때문에 다른 분야보다 더욱 강화된 윤리 원칙이 적용된다”며 “무조건 신기술을 도입해 기술적 발전을 이뤄내기보다는 치안 행정 과정에서 규범이나 윤리 원칙을 지키며 도입할 수 있는 부분을 먼저 찾아내는 것이 맞다고 생각한다”고 밝혔다. 김 교수는 경찰청의 인공지능(AI) 기반 치안 혁신과 활용 전략을 설계한 인물이다.
김 교수는 11일 서울경제신문과의 인터뷰에서 치안 분야에서의 AI 도입이 기술의 고도화뿐 만이 아니라 윤리 문제를 중요시해야 한다고 강조했다. 치안은 특정 그룹을 대상으로 하는 것이 아니라 다수의 층위로 나뉘어져 있는 전 국민을 상대로 하기에 기술적 접근만으로 판단하기 어려운 윤리적 기준이 다양하게 존재하기 때문이다.
이의 연장선에서 김 교수는 ‘AI 치안’ 도입은 윤리적 방향성을 갖고 진행돼야 한다고 강조했다. ‘행정의 효율화를 통한 치안 투자 확대’가 그것이다. 김 교수는 “AI 시스템이 가장 잘하는 것 중 하나인 패턴이 반복되는 업무를 하는 대내 행정 파트에 AI 기술을 적용해 조직 구성원들과 국민들에게 치안 AI라는 개념과 인식을 먼저 심어주는 것이 좋다”며 “행정적인 부분에서 AI를 적용해 인력과 예산 등 자원 배분을 최적화하는 혁신을 이뤄낸다면 치안 분야에 대한 투자도 효율적으로 이뤄지고 국민의 반감 또한 일정 부분 잠식시킬 수 있을 것”이라고 전했다.
경찰 조직의 전문성 확대도 강조했다. 김 교수는 “현재는 기존 인력을 대상으로 전문성을 갖출 수 있게 재교육을 하는 방식을 사용했다면 이제는 전문 인력을 신규 도입하는 것 역시 고려해야 한다”며 “또한 예비 AI 시스템 사용자인 일선 경찰관들의 ‘AI 문해력’을 키워 조직 전반의 역량을 끌어올릴 필요가 있다”고 조언했다.
김 교수는 “그간 AI 기술 발전은 주로 성능과 정확도를 중심으로 평가됐고, 이를 검증하는 과정을 통해 이뤄졌다”며 "그러나 현재는 기술 발전과 사회적 영향을 분리해서 볼 수 없게 됐다. 특히 윤리적 고려 사항이 많은 치안 분야는 신중하고 중장기적인 기획을 통해 AI 기술 적용을 추진해야 한다”고 강조했다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
vegemin@sedaily.com
