‘딥페이크’ 기술을 활용한 디지털 범죄가 기승을 부리는 가운데, 국회에서 토트넘 주장 손흥민(32)이 딥페이크 기술에 악용된 사례가 등장했다.
김장겸 국민의힘 의원은 28일 국회 과학기술정보방송통신위원회 전체회의에서 김태규 방송통신위원회 위원장 직무대행(부위원장)에게 질의하기에 앞서 “딥페이크가 큰 이슈가 됐다”며 영상 하나를 공개했다.
영상에는 손흥민이 투자를 권유하는 모습이 담겼다. 손흥민은 자신을 ‘축구선수이자 경험 많은 투자자’라고 소개한 뒤 “인스타그램 팔로워 1400만명 돌파를 기념해 4월에 급등한 우량주 3개를 무료로 공유해 드린다”며 “’어시스OO’ 카톡을 추가하고 아라비아 숫자를 보내는 선착순 200명에게 무료로 저의 독점 사인 사진과 스톡 나우 팬미팅 티켓을 받을 수 있다”고 특정 업체를 홍보했다. 말투가 다소 어색하긴 하지만, 분명 손흥민 목소리로 들렸다.
사실 이 영상은 실제로 손흥민을 투자를 권유하는 게 아닌, 손흥민이 소속팀 경기를 마치고 영국 매체와 인터뷰하는 화면에 AI로 생성한 손흥민의 목소리를 합성한 것이다.
김 의원은 딥페이크 범죄의 심각성을 환기하기 위해 이 같은 영상을 공개했다고 밝혔다. 김 의원은 “이처럼 딥페이크로 합성된 영상이 인터넷에서 유포되고 있다”며 “우리 같은 경우 딥페이크라는 걸 인지할 수 있지만 일반 국민들은 모를 수 있다”고 했다. 이어 “AI를 활용하면 이런 영상을 쉽게 만들 수 있다”며 “텔레그램을 통해 지역과 학교, 나이를 불문하고 무차별적으로 불법 합성물이 퍼지고 있다”고 했다.
이에 김 부위원장은 “방송통신심의위원회는 삭제 및 차단 요구를 할 수 있고, 시정명령이 이행되지 않을 경우 방송통신위원회가 형사고발 조치할 수 있다”고 답했다. 그러면서 “지금 딥페이크 영상물 피해자의 신상정보도 긴급 심의에 포함하는 내용, AI 생성물 표시제를 도입하는 부분, AI 서비스 이용자에 대한 보호 법규를 마련하는 부분, AI 피해 신고 창구를 활용하는 방법을 고민하고 있다”고 했다.
딥페이크 범죄는 최근 또래 얼굴을 음란물에 합성하는 방식으로 제작 및 유포하는 딥페이크 사건이 잇달아 발생해 사회적 문제로 떠올랐다. 피해는 대학가, 군대, 회사 뿐 아니라 미성년자인 중·고교생에게까지 퍼진 것으로 알려졌다. 이에 따라 경찰은 시·도경찰청 사이버성폭력수사팀을 중심으로 적극적인 단속을 벌여 딥페이크 제작부터 유포까지 철저히 추적·검거할 계획이다.