“나 지금 100만원만 보내줄 수 있어?”
A는 목소리를 학습하는 인공지능(AI) 기술로 만든 음성, B는 같은 문장을 직접 읽어 녹음한 음성이다. 5분가량의 샘플 목소리만 있으면 어떤 문구로든 특정인의 목소리를 따라 만들 수 있다.
딥페이크 보이스 이른바 ‘딥보이스’로 불리는 이 기술은 최근 보이스피싱이나 사기 등 범죄 수법에 악용되고 있다. 실제 목소리와 나란히 비교하면 차이가 나지만 AI 음성만 듣고서는 실제 목소리와 구분하기 어려운 수준이다.
정수환 숭실대 정보통신전자공학부 교수는 21일 조선닷컴과의 통화에서 “딥보이스 기술은 하루가 다르게 발전하고 있다. 최근에는 목소리만 들어서 합성이냐 아니냐를 구분하기는 어려운 단계에 와 있다”며 “딥보이스 기술을 연구하는 전문가들조차 10개 샘플 중 6개 정도만 알아맞힐 수 있는 수준”이라고 말했다.
딥보이스는 인공지능의 딥러닝 기술을 통해 만들어진다. 인공지능 음성 합성기가 미리 입력한 목소리 샘플의 특성을 학습한 뒤, 텍스트로 입력한 문장을 학습한 목소리로 변환해낸다. 목소리 샘플의 길이가 길수록 실제와 가까운 음성을 구현해낼 수 있는 게 특징이다. 다양한 상황에서의 목소리를 구할 수 있는 유명 정치인이나 연예인 등의 ‘딥보이스’가 실제처럼 들리는 것도 이 이유 때문이다.
조선닷컴이 이날 국내 한 인공지능 서비스 업체가 만든 합성기를 통해 가짜 음성을 만들어본 결과, 만들어진 음성은 실제 목소리와 비슷하다는 반응이 나왔다.
가격은 약 4만원으로 비교적 저렴한 음성 합성기를 이용했다. 가짜 음성 제작에 필요한 음성 녹음 파일의 길이는 ‘최소 5분’. 목소리에 원하는 감정을 입히는 기능은 업체가 미리 만들어둔 일부 AI 캐릭터 음성으로만 가능했다. 음성은 4가지 버전으로 변환할 수 있다. 이 중 가장 실제 말투와 비슷한 음성을 골랐다.
“엄마 바빠? 나 지금 100만원만 보내줄 수 있어? 차끌고 나왔다가 살짝 긁었거든. 수리비 100 달래 너무 짜증나. 나 집에 현금 있어서 저녁에 바로 줄 수 있어.”
특정 부분에서 책을 읽는 듯 딱딱한 느낌을 내기도 하지만 이는 애초 샘플 목소리로 책을 읽어 올렸기 때문이다. 정 교수는 “샘플 목소리로 다양한 발음이 제공될수록, 말할 때 나오는 다양한 목소리 주파수나 억양이 잘 드러날수록 실제와 더 비슷한 목소리와 말투를 만들어낸다”며 “아무래도 샘플이 부족하면 결과물이 어색하고 실제와 다르게 들릴 가능성이 높다”고 말했다.
딥보이스 기술이 먼저 발달한 외국에서는 더 짧은 목소리 샘플로도 실제와 비슷한 음성을 만들어낼 수 있다. 인공지능이 당사자 목소리뿐 아니라 여러 샘플에서 상황에 따른 감정 표현법 등을 익힐 수 있어서다.
정 교수는 “외국 사이트에서는 2초나 5초짜리 목소리 샘플로도 딥보이스를 만들 수 있다”며 “아직까진 영어 트레이닝이 된 합성기가 위주라 우리말로는 어려운 점이 있다”고 했다.
해외에서는 딥보이스가 실제 피해로 이어진 사례도 잇따르고 있다. 2021년 아랍에미리트(UAE)의 한 대기업 임원이 거래처 전화를 받고 420억원을 송금했다가 딥보이스 범죄라는 사실이 뒤늦게 밝혀졌고, 지난 4월 중국 푸저우시의 한 기업 대표는 지인을 사칭한 피싱범에게 속아 10분 만에 8억원을 이체한 일도 있었다.
국내에서도 딥보이스를 활용한 보이스피싱 범죄 수법이 보고되자 경찰청은 지난해 공식 유튜브를 통해 관련 공익 영상을 올리기도 했다.
영상에는 집에서 요리하며 딸과 통화하는 어머니의 모습이 나온다. 이 어머니는 “엄마, 휴대폰 수리비 80만원만 보내줘. 액정도 나갔고, 부품도 갈고 하면 그 정도 하지. 아무튼 돈 보내줘”라는 딸의 투정에 “무슨 수리비가 그렇게 비싸?”라며 반문한다. 같은 시간 현관문이 열리고 딸이 집으로 들어온다. 여전히 휴대폰에서는 엄마를 찾는 딸의 목소리가 흘러나온다.
정 교수는 “통화 목소리로는 실제 목소리인지 더 구분하기 어렵다”며 “금전을 요구하는 전화를 받았을 때 사적인 질문을 여러 차례 던져 반드시 본인확인을 거치는 방법이 이런 수법의 범죄에 대응하는 방법”이라고 말했다.
