챗GPT의 취약점을 찾아내면 최대 2만 달러(약 2600만 원)을 받게 된다. 이용자들의 집단지성을 통해 내부 인력이 파악하지 못한 취약점을 빠르게 찾아내기 위한 목적이다.
15일 정보기술(IT) 업계에 따르면 오픈AI는 11일(현지시간) 공식 블로그를 통해 자신들의 AI 제품을 이용하는 과정에서 오류나 보안 취약점 등을 발견해 보고하면 현금보상을 하는 '버그 바운티'(bug bounty) 프로그램을 시행한다고 발표했다. 전날 오후 8시 기준(한국시간) 보상이 인정된 버그는 29건으로 평균 보상금은 694달러 73전(약 88만 원)이다.
오픈AI는 버그 1건당 최저 200달러부터 최고 6500달러를 보상한다. 보상 금액은 이용자가 제보하는 결함의 심각성에 따라 달라진다. 최대 2만 달러까지 보상을 해준다. 이용자는 챗로그인 오류, 데이터 노출, 시스템 중단 등 문제를 보고하면 포상금을 받을 수 있다. 시스템 자체를 변경하는 ‘탈옥’을 유도하는 명령어와 악성코드를 작성하도록 유도하는 질문 등은 보상에서 제외된다.
오픈AI가 버그 바운티를 시행하는 이유는 사용자들의 집단지성을 통해 취약점을 빠르게 찾아내기 위해서다. 내부 인력이 파악하지 못한 문제점을 발견해 선제 대응 할 수 있고, 이를 통해 발생할 사고를 막을 수 있기 때문이다. 최근 일부 챗GPT 사용자들의 질문 내용과 개인 정보가 유출되며 논란을 빚으며 문제 발굴 및 해결에 더욱 힘을 쏟는 것으로 보인다. 지난 달 오픈AI는 오류가 발생한 9시간 동안 유료 계정인 '챗GPT 플러스'를 사용한 회원 중 1.2%의 이름, 이메일 주소, 청구 주소, 신용카드의 마지막 4자리와 유효기간 등 결제 관련 정보가 의도치 않게 노출됐다고 설명한 바 있다. 오픈AI 보안 총괄인 매튜 나이트는 "이 프로그램이 안전한 첨단 AI를 개발하는 노력의 필수적인 부분"이라며 "안전하고 신뢰할 수 있는 기술과 서비스를 개발하기 위해 여러분의 도움이 필요하다"고 강조했다.
한편 정부는 6월까지 'AI 데이터 안전 활용 정책방향'을 수립할 예정이다. 개인정보보호위원회는 데이터 수집-AI 학습-서비스 제공 등 전 과정에서 지켜야 할 개인정보 보호원칙과 데이터 처리기준을 제시할 계획이다. 특히 AI 학습을 위해 공개돼있는 정보나 사용자가 생성한 데이터가 빈번하게 수집되고 있는 만큼 이에 대한 명확한 원칙을 세울 예정이다. 또 AI 학습 시 적절한 가명처리 기준을 제시하고, 영상·음성 등 비정형 데이터의 가명처리 방법도 안내한다. 5월 범부처 합동 가명정보 이용 활성화 종합대책을 발표할 예정이다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
kim@sedaily.com
