가족·친구의 목소리로 위변조 된 인공지능(AI) 조작 음성을 잡아내는 기술이 도입된다.

 
LG유플러스는 26일 AI로 조작된 음성을 잡아내는 ‘안티 딥보이스’ 기술을 오는 30일부터 자사 AI 통화 에이전트 서비스 ‘익시오’에 탑재한다고 밝혔다. 서버에 연결하지 않고 단말기 내에서만 통화내용이 저장되는 온디바이스(On-device) AI 형태로 이 기술을 상용화하는 것은 LG유플러스가 처음이다.

안티 딥보이스 기술은 AI로 조작된 목소리를 통화 중 실시간 탐지하는 기술이다. 음성구간 탐지(VAD), 음성→텍스트 변환(STT), 안티스푸핑(위변조 판별) 등의 기술들을 결합해 만들었다. 지난 3월 MWC(모바일 월드 콩그레스)에서 처음 공개됐는데, 지인 혹은 기관 사칭 같은 보이스피싱 범죄가 급증하는 상황에서 큰 주목을 받았다. LG유플러스는 기술 개발을 위해 AI 엔진에 약 3000시간 분량의 통화 데이터를 학습시켰다. 통화 건수로는 200만건에 달하는 양이다.

익시오에 탑재된 안티 딥보이스는 통화 중인 상대의 음성이 조작됐다는 사실을 5초 만에 잡아낸다. 음성의 비정상적인 주파수나 부자연스러운 발음 등을 분석하고, 음성이 위·변조된 경우 팝업 알림을 통해 고객에게 위험을 경고한다. 전병기 AX그룹장(전무)은 이날 기자간담회에서 “딥보이스 생성 기술은 계속 발전하고 있어 (탐지 기술의) 업데이트 주기도 중요하다”면서 “애자일(짧은 주기로 개선하는) 방식으로 약 6주 단위 업데이트를 고려하고 있다”고 밝혔다.

 


LG유플러스가 온디바이스로 이 기술을 내놓은 이유는 고객 데이터 보호를 위해서다. AI 분석을 위해서는 연락처부터 통화 요약까지 다양한 고객 데이터를 학습해야 하는데, 이때 회사의 서버를 거치면 개인 정보 침해 등 문제가 생길 수 있어서다. AI를 기기에 탑재하기 위해서는 용량을 낮추는 경량화 작업이 필수다. 한영섭 AI테크랩장은 “퀀타이제이션(연산 간소화) 경량화 기법을 중심으로 기존 수백MB(메가바이트)~GB(기가바이트)급 모델을 수십 MB 수준으로 가볍게 만들었다”고 설명했다. 이어 “원래 3분기로 예정돼 있던 경량화 작업을 상용화를 위해 서둘렀다”면서 “동일한 성능을 유지하면서 기기 구동에 부담을 주지 않도록 용량을 낮추는 것이 핵심”이라고 덧붙였다.

 
이날 LG유플러스는 영상이나 이미지를 분석해 AI로 합성된 흔적을 잡아내는 ‘안티 딥페이크’ 기술도 개발했다고 밝혔다. 맨눈으로 잘 보이지 않는 픽셀 단위의 질감, 패턴의 불균형, 프레임 간 일관성이 떨어지는 현상 등을 탐지하는 것이 핵심이다. LG유플러스는 해당 기술을 통해 딥페이크 영상을 이용한 범죄를 차단하고, 위·변조된 유해 콘텐트를 신속하게 식별하겠다는 계획이다. 한영섭 랩장은 “안티딥페이크 기술은 현재 경량화 개발이 진행 중”이라며 “먼저 서버 기반에서 기술의 성능을 최대한으로 끌어올린 뒤, 사용자 개별 기기에서 일정 성능을 유지할 수 있도록 구현할 계획”이라고 말했다.