SK텔레콤이 실시간 전화 통역 기능을 포함하는 인공지능(AI) 전화 서비스를 올해 1분기 안드로이드 운영체제(OS)에서 지원할 계획이다.
김용훈 SK텔레콤 AI서비스사업부장(CASO)은 10일(현지시간) 미국 라스베이거스에서 열린 세계 최대의 가전·정보기술(IT) 전시회 ‘소비자가전쇼(CES) 2024’에서 국내 취재진을 만나 통화 녹음, 실시간 통역 기능 등을 제공하는 에이닷 AI 전화 기능을 이르면 올해 1분기 안에 안드로이드에도 탑재할 수 있도록 개발 중이라고 밝혔다.
김 부사장은 “완성도 등을 고려할 때 출시 일정이 조율될 수는 있다”며 “안드로이드가 다소 늦은 감은 있지만 원래 계획보다 많이 당겨 완결성을 좀 더 빠르게 시장에 보여주려고 노력하고 있다”고 말했다. 그는 “서비스 개선을 위해 다양한 기술을 개선하고 있고, 그게 결과적으로 통역콜뿐 아니라 에이닷이 PAA(개인형 AI 비서)가 되기 위해 필요한 기술과 일맥상통한다”며 “필요한 여러 기술을 항목별로 계속 고도화해야 할 부분이 있다”고 했다.
SK텔레콤은 에이닷에 거대언어모델(LLM)을 탑재하는 방안도 검토 중이다. 김 부사장은 “용량이 충분히 작은 상태에서도 퍼포먼스(성능)를 내야겠지만 파라미터(매개변수) 수가 좀 적은 LLM은 앱 안에 담을 수 있을 정도가 되지 않을까 싶다”고 말했다. 외부 연결 없이도 기기 스스로 AI 기능을 구현할 수 있는 온디바이스(내장형) AI를 소프트웨어 방식으로 에이닷에 적용할 가능성이 점쳐진다.
김 부사장은 “온디바이스 LLM이 분명 하나의 기술 기조를 이룰 것”이라며 “예전에는 하드웨어에 LLM을 심는 게 힘든 작업이었지만 지금은 칩도 많이 좋아지고 LLM도 많이 경량화됐다”고 설명했다. 그러면서 “엣지 컴퓨팅(데이터 일부를 분산된 소형 서버로 처리하는 방식)처럼 특정 디바이스 LLM이 탑재됐을 때 더 빠른 속도나 비용 절감이 가능할 것 같다”며 “실제로 얼마나 좋은 퍼포먼스를 낼 수 있을지는 계속 테스트해 봐야 할 영역”이라고 했다.
김 부사장은 “사이즈가 작아지다 보니 장치 자체적으로 구동하는 LLM만으로는 낼 수 있는 성과가 제한적일 수 있다”며 “장기적으로는 온디바이스로 할 수 있는 일은 로컬(기기)에서 하고, 성능 고도화가 필요한 것은 클라우드와 연동하는 하이브리드 방식으로 성능 향상을 해나갈 것 같다”고 덧붙였다.
그는 에이닷 정식 출시 후 성장세에 대해 “내부에서는 고무적”이라며 “아이폰 통화 녹음이라는 AI 전환 기능을 내면서 내부적으로 수치는 크게 상향 곡선을 그리고 있다”고 했다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
sookim@sedaily.com
