미국 유수 대학인 캘리포니아주립대(UC) 버클리에서 박사 후 과정을 수료하고 구글에서 경력을 쌓은 한국과학기술원(카이스트) 신진 학자가 국내 스타트업 자문역을 맡는다.
인공지능(AI) 스타트업 콕스웨이브는 이기민 카이스트 부교수를 자문역(어드바이저)으로 영입했다고 10일 밝혔다. 콕스웨이브는 각종 생성형 AI 기반 대화형 제품을 분석하는 솔루션 ‘얼라인 AI’를 운영하는 기업이다. AI와의 대화를 통해 축적되는 각종 데이터를 자동 분석하고 AI 모델의 성능, 보안 등을 검증한다.
이 교수는 국제머신러닝학회(ICML), 신경정보처리시스템학회(NeurIPS), 국제표현학습학회(ICLR) 등 AI 분야 각종 국제 학회에 논문을 다수 게재한 신진 학자다. 신진우 카이스트 석좌교수 지도를 받으며 박사 학위를 취득한 후 AI 강화 학습 분야 권위자인 피터 아빌 UC버클리대 교수 연구실에서 박사 후 과정을 수료했다. 이후 구글 리서치 소속 리서치 사이언티스트를 거쳐 현재 카이스트 김재철 AI 대학원에서 부교수로 재직 중이다.
콕스웨이브는 이 교수를 자문역으로 선임해 솔루션 안정성을 강화한다는 계획이다. 이 교수는 AI 모델이 잘못된 결과물을 냈을 때 사람이 피드백을 주며 강화 학습을 시키는 기술을 연구해왔다. 이런 연구를 얼라인 AI 솔루션에 적용해 AI 시스템이 겪을 수 있는 주요 위험·악용 사례를 식별하고 모델 취약점을 보완한다는 계획이다.
이 교수는 “AI 안전성에 대한 논의가 활발해지고 있다”며 “연구 및 논의에 그치지 않고 이를 적용해 더 나은 제품을 만드는 데 기여하려 한다”고 말했다. 김기정 콕스웨이브 대표는 “이번 영입으로 기업 고객들이 더 안전한 AI 서비스를 제공할 수 있도록 솔루션 분석 및 평가 기술을 고도화할 것”이라고 말했다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
gravity@sedaily.com
