美·英, AI 안전성 협력 합의…"AI 위험 막아야"

FT "AI 안전 관한 세계 최초 양자 협약"

"사이버보완과 생물무기 설계 등 악용 우려"

로이터연합뉴스

미국과 영국이 인공지능(AI) 기술의 안전성을 검사하는데 힘을 모으기로 했다. AI 안전에 관해 국가가 맺은 첫 공식적인 양자 협약이라는 데 의의가 있다는 평가다.

1일(현지 시간) 파이낸셜타임스(FT)에 따르면 지나 러몬도 미국 상무부 장관과 미셸 도넬란 영국 과학혁신기술부 장관은 이날 워싱턴DC에서 AI 기술의 위험성을 검사하고 평가하는 방법에 대해 양국이 협력한다는 양해각서(MOU)에 서명했다.

양국은 지난해 11월 세계 최초로 열린 ‘AI 안전 정상회의’에서 이 같은 내용을 합의했고 이날 공식적인 절차를 진행했다. FT는 이번 협약이 “AI가 각국 정부에 대한 사이버 공격이나 생물무기 설계에 사용되며 실존적 위험이 커지고 있다는 우려 속에서 나온 대응”이라고 평가했다.



MOU에는 AI 안전에 관한 기술지식과 정보, 인재를 공유한다는 내용이 담겼다. 이에 따라 양국은 공개적으로 접근 가능한 AI 모델에 대해 최소 한 차례의 공동 테스트를 수행할 계획이다. 테스트는 사이버 보안을 포함한 기술 오용과 관련된 위험에 초점을 맞출 전망이다.

양국은 또 각국에 설치될 AI안전연구소의 연구원을 서로 파견해 전문 지식을 교환하고, 오픈AI·구글 등 민간이 구축한 AI 모델을 독립적으로 평가하는 방법에 대해서도 협력할 방침이다. 미국 대선 등 각종 선거에서 AI가 미치는 영향이나 AI 컴퓨팅 인프라 구축의 필요성 등 대중에 이익을 줄 수 있는 공동의 과제도 발굴한다는 계획이다.

러몬도 장관은 AI에 대해 “우리 세대를 정의하는 기술”이라며 “이번 파트너십을 통해 국가 안보다 더 넓은 영역에서 나타날 수 있는 모든 위험에 대한 두 기관의 협업이 가속화될 것”이라고 말했다. 이어 “두 나라의 협력을 통해 양 기관은 AI 시스템을 더 잘 이해하고 더 강력한 평가를 수행하며 더 엄격한 지침을 발표할 수 있을 것”이라고 덧붙였다.