구글에서 인공지능(AI)을 활용한 이미지·음성 합성기술 ‘딥페이크’를 검색하면 수십 개의 딥페이크 생성 앱과 홈페이지가 등장한다. 단순히 사진을 합성해주는 것부터 음성에 맞춰 영상 입모양까지 자연스럽게 바꿔주는 앱도 있다. 딥페이크가 처음 등장할 당시만 해도 팔의 위치가 부자연스럽거나 배경이 흐릿한 등 자세히 들여다보면 알 수 있었지만, AI 기술이 발달하면서 영상의 질적 수준은 급속도로 높아지고 있다.
최근에는 총기 규제를 옹호하기 위해 학교 총기 난사 피해자의 모습을 만들어내거나 가족을 사칭한 보이스 피싱에 활용된 사례도 등장했다. 소피 나이팅게일 영국 랭커스터대 교수는 “딥페이크로 인해 개개인이 신뢰할 수 있는 공간이 점점 줄어들고 있으며, 이는 민주주의의 실질적인 문제가 되고 있다”면서 “1~2년 안에 미국, 러시아, 유럽연합 등 주요 선거에서 큰 문제로 대두될 것”이라고 했다.
◇'고양이와 쥐’ 게임된 딥페이크
딥페이크로 인한 피해가 급증하면서 딥페이크를 가려내는 탐지 기술도 진화하고 있다. 글로벌 시장조사업체 마켓츠앤드마켓츠에 따르면 글로벌 딥페이크 탐지 시장은 2022년 5억달러(약 6770억원)에서 2027년 18억달러로 늘어날 전망이다. 월스트리트저널은 “딥페이크 기술 향상과 함께 새로운 검증 방법이 개발되면서 쫓고 쫓기는 ‘고양이와 쥐’ 게임 같은 양상이 일어나고 있다”고 했다.
딥페이크 탐지 기술 역시 AI를 활용한다. 인텔이 개발한 탐지 프로그램 ‘페이크캐처’는 사람 얼굴의 혈류 변화를 추적해 예상되는 얼굴색과 실제 영상을 비교해가며 실시간으로 딥페이크 유무를 분석한다. 영상을 픽셀 단위로 분석해 96%의 정확도로 영상의 진위 여부를 즉각 판단해낸다.
미국 국방고등연구계획국(DARPA)은 온라인의 딥페이크를 자동 감지하는 포렌식 알고리즘을 만드는 ‘세마포(SemaFor) 프로그램’을 진행하고 있다. 세마포 프로그램은 딥페이크를 생성할 때 만들어지는 ‘AI의 실수’를 단서로 딥페이크를 찾아낸다. 특정 알고리즘으로 생성된 얼굴에는 양쪽 귀의 귀걸이가 서로 다르게 나타나는 등 딥페이크가 가진 공통적 특징을 찾는 식이다. DARPA는 딥페이크를 쉽게 감지할 수 있게 하면, 결국 딥페이크 콘텐츠 생성 비용이 증가하면서 관련 영상이 줄어들 것으로 본다. 장기적으로는 누가, 어떻게, 왜 딥페이크를 만들었는지 추론할 수 있는 기술도 개발할 계획이다. DARPA 관계자는 “오락이나 예술을 위한 기술과 현실에 부정적인 영향을 끼치기 위해 만드는 딥페이크 영상은 분명한 차이가 있다”며 “우리 알고리즘은 악의적 목적으로 위조된 미디어를 자동 식별하는 데 초점을 맞추고 있다”고 했다.
◇진화하는 딥페이크 방지 기술
딥페이크 탐지를 넘어 위조 불가한 워터마크로 딥페이크 이미지를 구별하는 방법도 개발되고 있다. 구글 딥마인드가 지난 8월 선보인 AI 합성 이미지용 워터마크 ‘신스ID(SynthID)’가 대표적이다. AI 이미지 생성 플랫폼에서 만든 이미지에 육안으로 보이지 않는 워터마크를 픽셀 단위로 넣어서 해당 이미지가 실제가 아님을 식별할 수 있게 한다. 구글 외에도 메타와 오픈AI 등 주요 기업들은 미 대선을 앞두고 딥페이크 이미지에 워터마크를 심겠다고 밝힌 바 있다.
이미지의 메타데이터를 토대로 진위 여부를 구분하는 방식도 연구되고 있다. 사진을 찍은 뒤 생성되는 GPS와 타임스탬프가 합법적인 방식으로 설정된 것인지를 확인하는 식이다. 보험회사들은 이러한 방식으로 사고 사진의 진위를 평가할 수 있으며, 로이터통신은 우크라이나 전쟁 사진의 출처를 확인하기 위해 해당 기술을 시험하기도 했다.
다만 딥페이크 탐지·방지 기술은 여전히 보완해야 할 점이 많다. 딥페이크 생성 기술이 계속 발달하기 때문이다. 과학학술지 네이처는 “잘 알려진 딥페이크 생성기에 대한 탐지 성공률은 95% 이상이지만, 새로운 생성기일수록 감지 능력이 떨어질 수밖에 없다”면서 “만드는 쪽과 막는 쪽 사이의 군비 경쟁은 끊임없이 이어질 것”이라고 했다.