[책꽂이-빅나인]AI 개발...이대론 민주주의 종말

■에이미 웹 지음, 토트 펴냄

구글·애플·바이두·알리바바 등

美·中 9개 기업이 AI 개발 좌우

더 나은 미래 고민없이 효율 추구

특정 집단에 인류 지배당할수도

국제연합 통한 구조개혁 시급

기술개발과정 투명성 확보해야

2049년, 모든 집에는 인공지능(AI) 로봇 집사가 고용된다. 집사 로봇은 각 가정의 환경에 맞춰 훈련되고 적응돼 맞춤형 서비스를 제공한다. 지구 상에 감기는 더 이상 존재하지 않는다. 어떤 바이러스가 우리를 아프게 하는지 진단하며 약은 특수 훈련을 받은 AI 약사가 조제한다. AI는 창의적인 활동도 수행한다. 영국의 전설적인 록그룹 롤링스톤스 멤버들은 몇 년 전 세상을 떠났지만 복제 알고리즘으로 여전히 새로운 음반을 발표한다. 종이신문은 사라지고 컴퓨터 저널리스트를 고용한 언론사들이 스마트 뉴스 에이전트를 통해 독자들에게 맞춤형 뉴스를 전달한다.

먼 미래의 이야기인 것 같지만 2019년 현재에도 AI는 이미 의료, 농업, 교통, 스포츠 등 우리 삶 깊숙한 곳까지 개입하고 있다. 일상에서 운전자가 내비게이션을 통해 교통 체증을 피해 빠른 길로 빠져나갈 수 있도록 안내하고, 인터넷에서는 사용자가 잘못 입력한 단어의 정확한 의미를 찾아주기도 한다. 개인정보를 바탕으로 무엇을 사고, 보고, 먹고, 들어야 할지를 나 대신 결정해주는 역할도 하고 있다. 과연 AI와 더불어 살고 있는 인류는 10년, 30년, 50년 뒤 꿈꾸던 유토피아에서 살고 있을까.

미국 뉴욕대 전략예측 교수인 미래학자 에이미 웹이 쓴 신간 ‘빅나인’은 AI 기술 개발에 따른 3가지 미래 시나리오를 그려낸다. 책에 따르면 실제 데이터와 연구 자료를 바탕으로 모델링한 미래는 낙관적·실용적·파국적 3가지 시나리오 중 하나로 전개된다. 그 중심에는 AI 산업을 선도할 9개 테크 타이탄, 즉 미국의 ‘G-MAFIA’(구글·마이크로소프트·애플·페이스북·IBM·아마존)와 중국의 ‘BAT’(바이두·알리바바·텐센트)가 자리하고 있다. 저자는 미·중으로 나뉘는 이들 기업의 패권전쟁에 따라 우리의 미래는 전혀 다른 방향으로 흘러갈 수 있다는 전망을 내놓고 있다.

현재 빅 나인 기업들의 AI 개발은 단순한 업무를 반복적으로 처리할 수 있는 ‘약 인공지능(ANI)’에서 스스로 생각하고 판단하는 ‘강 인공지능(AGI)’ 단계로 접어들었다. AI가 특정인의 패턴을 인식해 신속하게 의사 결정을 내리고 빅 데이터에 숨겨진 규칙성을 찾아내 정확하게 예측을 할 수 있는 기술이다. 이는 알파고 제로가 인간이 1,000년간 개발한 바둑 전략을 찾아낸 것처럼 스스로 개발한 지능에 따라 훈련하고 승리하면서 더욱 명확해지고 있다. AI가 인간의 인식 수준에 더욱 근접해가고 있다는 의미이기도 하다.



문제는 투명성이다. 빅 나인에 의해 구축된 AI 기술은 몇몇 개발자들의 개인적인 아이디어와 집단 이데올로기를 기반으로 하고 있다. 이는 AI 생태계, 코드베이스, 알고리즘, 프레임 워크, 하드웨어와 네트워크 설계에 고스란히 반영된다. 이 때문에 더욱 빠르고 효율적으로 작업할 수 있지만 동시에 예외적인 상황을 고려하지 않는 오류를 낳기도 한다. 여성, 흑인과 같은 소수자들에 대한 정보부족이 대표적이다. 저자는 “빅 나인의 AI 개발은 문화, 정치, 종교, 성생활, 도덕성에 대한 인류의 수십억 가지 미묘한 차이가 AI 프로그램 내에서 어떻게 최적화되고 있는지, 잘못된 젠더 문화나 인류의 보편적 가치가 간과된 상황에서 AI가 인간과 같은 도덕적 판단을 하지 않는다면 어떻게 할 것인가에 대한 고민이 담겨 있지 않다”며 “AI 기술 개발이 특정 세력이나 정치적인 편향에 연결돼 있다면 인류에 심각한 해를 끼칠 수 있을지도 모른다”고 지적한다.

책은 현재와 같은 상황으로 AI 개발이 진행될 경우 인류는 최악의 상황에 직면할 수 있다고 경고한다. 저자가 내다본 파국적 시나리오를 보자. AI 섹스 로봇을 고용한 성매매 업소가 난립하고 기술자는 부족한 반면 화이트칼라의 일자리는 사라진다. 몸속에 주입된 나노봇은 질병을 치료하지만 예측할 수 없는 행동으로 인간의 의사결정을 방해한다. 나노봇은 태아 조직에 조금이라도 이상 증상이 발견되면 부모 동의 없이도 태아를 유산시킨다. 또 중국은 전 세계 150여개국과 네트워크를 구축하는 동안 미국의 동맹국 시스템은 붕괴하고, 이는 결국 민주주의 종말로 이어진다. 저자는 “앞으로 벌어질 일은 지금까지 만들어진 어떤 폭탄보다도 위협적이고 즉각적이며 정확하다”고 밝히고 있다.

책은 인류의 더 나은 미래를 위해서는 빅 나인의 단기중점적 개발 방향성을 돌려놔야 한다고 주장한다. 성별, 인종, 종교, 정치 다양성을 반영한 멤버로 구성된 국제인공지능증진연맹(GAIA)을 설립해 장기적인 관점에서 AI 기술개발에 전면적인 구조개혁을 서둘러야 한다는 것이다. 이를 통해 빅 나인을 주축으로 한 AI 개발이 인류에게 최대한 이익을 가져다주고 투명하게 개발되며 모든 사람에게 혜택이 돌아갈 수 있도록 하는 원칙에 전 세계가 합의할 것을 주문하고 있다. 1만7,000원. /최성욱기자 [e-mail]