“지인 능욕함. 협박할 사진이나 비밀 같은 거 말해주면 몸사(신체 사진) 얻어줌. ㄱㅌ(갠텔·개인 텔레그램 메시지). 라인(네이버의 사회관계망서비스)이면 좋음.” “지인 라디(라인 아이디) or 텔디(텔레그램 아이디) 주시면 가서 협박해서 XX는 사진 얻어드려요.”
높은 보안성과 익명성으로 인기를 얻은 글로벌 메신저 플랫폼 텔레그램(Telegram)의 한 채팅방에서는 이 같은 대화가 오갔다. 해당 채팅방은 참여자들이 지인의 사진으로 딥페이크 성범죄물을 제작해 공유하는 곳이다. 딥페이크는 딥러닝(Deep learning)과 페이크(fake)의 합성어로, AI를 이용해 실제처럼 조작한 이미지나 영상을 뜻한다. 딥페이크 성범죄물을 제작 및 공유하는 채팅방은 텔레그램에서 ‘지능방(지인 능욕방)’ ‘겹지방(겹치는 지인방)’ 등의 이름으로 불린다. 이 같은 채팅방은 지역이나 초·중·고교, 대학 단위로 우후죽순 만들어졌다. 특정인의 이름이 언급된 ‘김아무개 능욕방’도 생겨났다. 이들은 여성이 소셜미디어에 올린 일상 사진을 공유해 성범죄물을 제작하고, 여성의 신상정보를 게시한다.
손쉽게 찾아낸 ‘겹지방’ 채널들
지난 9월 3일 기자가 ‘겹지방 tele gram’이라는 검색어로 구글에서 검색한 결과 손쉽게 여러 텔레그램 채널을 찾을 수 있었다. ‘신종 학폭’이라는 이름으로 국내 언론이 딥페이크 성범죄물의 심각성을 본격적으로 집중 보도한 지 3주, 프랑스 수사당국이 파벨 두로프 텔레그램 창업자 겸 최고경영자(CEO)를 온라인 성범죄 방조 및 공모 혐의로 체포한 지 열흘이 지난 시기다. 다수 딥페이크 성범죄물 채팅방이 폐쇄되거나 비공개로 전환되면서 음지로 숨어들었지만, 온라인에는 여전히 그들의 흔적이 남아있었다. 채널이 닫혔다는 ‘인천 겹지방’의 구독자는 800명, ‘남양주 겹지방’의 구독자는 970명이었다. ‘대학별 겹지방’의 구독자는 3525명에 달했다. ‘겹치는 지인방’을 뜻하는 ‘겹지방’은 쉽게 말해 ‘서로 아는 지인들을 욕보이는 방’이라는 의미다.
“이 봇은 자기가 원하는 얼굴이나 사진을 보여주면 30초 정도의 퀄리티 좋은 영상으로 만들어주어 X감을 무한 생성시킬 수 있다. 이전 봇도 애들이 링크 많이 눌러줬는데 이번에도 형 믿고 잘 쓰길 바란다.” 사회관계망서비스 엑스(X·옛 트위터)에서는 딥페이크 성범죄물을 자동 생성하는 텔레그램 봇(bot) 채팅방을 소개하는 글이 아직도 다수 남아있다. 이른바 ‘누디파이(nudify·벌거벗기다)’ 프로그램이다.
이 채팅방에서는 AI프로그램으로 사진 속 사람이 옷을 벗고 있는 것처럼 가짜 이미지를 생성할 수 있다. 가해자가 딥페이크 성범죄물 제작 프로그램을 만든 뒤, 소셜미디어(SNS) 등으로 프로그램 채팅방 링크를 유포해 이용자들을 초대하는 방식이다.
엑스에 게재된 텔레그램 봇 채팅방 초대링크는 대부분 기간이 만료돼 접근이 불가능했다. 아직 초대링크가 만료되지 않은 텔레그램 봇 채팅방에 들어가자 곧바로 공지가 떴다. “What can this bot do? Upload photos to nudify your girls.(이 봇은 무엇을 할 수 있나요? 원하는 여성 사진을 업로드하면 누드사진으로 만들어줍니다.)”
딥페이크 성범죄물은 이처럼 손쉽게 제작·유포되지만, 피해자들이 느끼는 충격은 상당하다. 서혜진 한국여성변호사회 아동청소년특별위원장은 “딥페이크 성범죄물은 수위 자체가 너무 높고, 이전처럼 합성 등이 조악하지 않다. 너무나 정교해 진짜인지 가짜인지 구별이 안 될 정도로 만들어진다”며 “피해자들은 실제로 자신이 이런 촬영을 당한 것처럼, 그 이상의 감정을 느낀다. ‘가짜’ 피해가 아니다”라고 전했다.
딥페이크 등장 개인 중 53%가 한국인
딥페이크 성범죄물 문제가 수면 위로 드러나면서 한국은 ‘딥페이크 공화국’ ‘딥페이크 범죄의 진원지’라는 오명을 쓰게 됐다. 프랑스 일간지 르몽드는 지난 3월 한 기사를 통해 “한국은 오랫동안 ‘불법촬영 공화국’으로 불렸지만 이젠 ‘딥페이크 공화국’”이라고 언급했다. 르몽드는 “사이버 보안회사 딥트레이스의 헨리 아이더는 ‘이미 2019년 딥페이크 피해를 입은 전 세계 유명인 가운데 25%가 여성 K팝 스타였다’고 말했다”며 “5년 후인 2024년 르몽드가 가장 인기 있는 5개 비디오 플랫폼을 조사한 결과 50명의 유명인 중 절반 이상(56%)이 한국 팝스타였다”고 보도했다.
월스트리트저널은 최근 보도에서 “가짜 성착취물을 생성하는 텔레그램 기반 네트워크의 적발은 한국이 전 세계적 문제의 진원지임을 나타낸다”고 전했다. 월스트리트저널이 기사에 인용한 미국 사이버보안업체 시큐리티히어로의 보고서에 따르면 지난해 7~8월 딥페이크 성범죄물 사이트 10곳과 유튜브 등 동영상 공유 플랫폼의 딥페이크 채널 85개에 올라온 영상물 9만5820건을 분석한 결과 딥페이크 성범죄물에 등장하는 개인 중 53%가 한국인으로 나타났다.
국내에서 확산된 공포는 외신의 보도 이상이다. 교육당국은 학생들에게 ‘SNS 메신저에서 프로필 사진을 지우라’는 지침을 내렸다. 2030세대에서도 SNS 계정을 비공개로 설정하거나 올렸던 프로필 사진을 지우는 이들이 증가했다. 사진촬영이 취미였던 직장인 이모(32)씨는 “사진이 게재된 SNS 계정은 모두 비공개로 전환했다”며 “주변의 아마추어 사진작가나 모델들은 ‘당분간 계정을 비공개하겠다’거나 ‘사진 촬영을 하지 않겠다’ ‘사진 삭제를 원하면 메시지를 보내 달라’는 공지를 띄우기도 했다”고 전했다.
실제로 여성가족부 산하 한국여성인권진흥원에 따르면 디지털성범죄피해자지원센터(디성센터)는 지난해에만 24만5416건의 성범죄 촬영물 삭제를 지원했다. 디지털 성범죄 피해자 상담을 지원한 건수는 2만8082건에 달했다. 특히 합성·편집 성착취(딥페이크 성범죄물) 피해는 2018년 69건에서 올해 8월 기준 874건으로 약 12.7배 증가했다. 합성·편집 성착취 피해자 현황은 2022년 212명에서 2023년 423명으로 두 배가량 뛰었고, 8개월 만에 또다시 874건(8월 말 기준)으로 두 배 이상 급증했다. 피해자는 여성 854명, 남성 20명이다.
“예술작품이라 생각하고 만들 수도…”
우리 사회가 온라인 성범죄에 노출된 것은 어제오늘 일이 아니다. 이미 2019년 미성년자 등을 협박해 성착취물을 제작한 뒤 비공개 텔레그램 단체 채팅방 등에서 유포하고, 피해자의 신상 정보 등을 공유하며 스토킹 및 성폭행하는 등 2중·3중의 범죄를 저지른 ‘N번방 사건’이 폭로된 바 있다. 당시 정치권은 2020년 총선을 앞두고 분주했다. 정부는 2020년 4월 범부처 ‘디지털성범죄 근절대책’을 발표했고, 국회는 2020년 5월 ‘N번방 방지법’(전기통신사업법 개정안)을 통과시켰다. 법무부도 이보다 앞선 2020년 3월 자체적으로 ‘디지털 성범죄 대응 TF’를 꾸렸다.
그러나 N번방 사건 당시 함께 수면 위로 떠오른 딥페이크 성범죄는 문제의식이 따라오지 못하면서 다시 가라앉았다. 실제로 2020년 3월 국회 법제사법위원회 법안심사제1소위원회 회의록에서는 당시 딥페이크 성범죄에 대한 정부와 국회의 인식이 드러난다. “자기는 예술작품이라고 생각하고 만들 수도 있거든요.”(김인겸 당시 법원행정처 차장) “쉽게 말하면 청소년들이나 자라나는 사람들은 자기 컴퓨터에서 그런 짓 자주 하거든요.”(김오수 당시 법무부 차관) “나 혼자 스스로 그림을 그린다고 생각하는 것까지 처벌할 수는 없잖아요. 내 일기장에 내 스스로 그림을 그린단 말이에요. 만화 같은 것 잘 그리는 사람은 만화 얼굴같이 해 가지고 그림을 그릴 수가 있잖아요.”(송기헌 당시 법사위 1소위원장)
이런 인식 결과 N번방 사건 이후 5년이 흐른 지금, 끔찍한 범죄는 여전히 반복되고 있다. 오히려 더 교묘해지고, 더 광범위해졌다. 악화일로다. 앞서의 서 위원장은 현 상황에 대해 이렇게 설명했다. “2017년, 2018년 당시 디지털 성범죄가 처음 드러났을 때와 지금의 상황이 똑같다. 그간 범죄가 없었던 게 아니라 너무 하찮게 취급됐던 것이 문제다. N번방 사건은 대중이 디지털 성범죄에 대한 인식을 새롭게 갖게 한 계기가 됐다. 결국 그 사건을 계기로 딥페이크 역시 처음 법률의 범주에 들어왔다. 그러나 딥페이크 성범죄는 역사가 짧고, 여전히 ‘가짜’라는 인식이 있다. 법률에서도 매우 보수적으로 규정했고, 법정형도 직접 촬영한 불법 성착취물보다 낮다. 수사기관 역시 수사력은 있으나 수사 의지가 없다. (지난 5월 수면 위로 떠오른) 서울대 딥페이크 사건은 피해자들이 (고소장을 접수하기 위해) 3년 동안 경찰서를 떠돌았다.”
전문가들은 사태의 책임이 정부에 있다고 입을 모은다. 현 정부의 정책 방향이 ‘성범죄를 중요하게 여기지 않는다’는 메시지를 주고 있다는 것. 윤석열 정부는 출범 직후 법무부의 디지털 성범죄 대응 TF를 해산했고, 여성가족부의 폐지를 추진 중이다. 신경아 한림대 사회학과 교수(전 한국여성학회 회장)는 “여가부의 주요 업무가 젠더폭력 대응, 성평등 교육, 성교육이었다. 여가부 폐지는 결국 사람들에게 ‘젠더폭력에 대한 국가적 차원의 노력이나 관심이 약해질 것’이라는 하나의 신호가 된다”고 지적했다.
박지아 정의당 젠더폭력대응센터장은 “윤 대통령이 후보 시절부터 ‘구조적 성차별은 없다’며 여가부 폐지를 말한 것이 중요한 포인트다. 결국 젠더폭력 역시 개인의 문제로 여기겠다는 건데 이는 사회, 특히 성범죄자들에게 정부가 이 문제를 별로 중요하게 여기지 않고 있다는 메시지를 지속적으로 전달한 것”이라고 전했다. 이어 국무총리실 산하 국무조정실이 지난 8월 30일 대책회의를 열고 오는 10월 중 종합대책을 마련하겠다고 밝힌 데 대해서도 “한 달이나 늦게 대책을 내놓는다는 것을 보고 오타인 줄 알았다. 여성들, 특히 학생들을 중심으로 SNS에서 사진을 지우고 계정을 폭파한다는 것은 딥페이크 성범죄가 일상 깊숙한 곳까지 들어왔다는 뜻이다. 그러나 정부는 이것이 얼마나 심각한 문제인지 모르는 것 같다”고 강조했다.
‘여가부 폐지’의 역효과
정부의 여가부 폐지 추진으로 장관이 반년 가까이 공석인 상태에서도 여가부 산하 한국여성인권진흥원 디성센터는 최전방에서 디지털 성범죄 피해자 구제를 위해 노력하고 있다. 디성센터에서는 총 39명(기간제 13명 포함)의 인력이 △청소년보호팀 △상담연계팀 △삭제지원팀 등 3개 팀으로 나뉘어 활동하고 있다. 그러나 디성센터는 정부의 미흡한 지원 탓에 부족한 인력과 예산으로 어려움을 겪는다. 디지털 성범죄 피해는 최근 2년간 곱절로 급증했지만 디성센터의 인력은 2021년부터 4년째 그대로다. 15명의 삭제지원팀이 지난해 24만5416건의 성범죄 촬영물 삭제를 지원한 것을 단순 계산하면 한 명당 1만6361건을 담당한 셈이 된다.
더불어 정부는 내년 디성센터 예산을 올해 34억7500만원보다 6.3% 줄인 32억6900만원으로 편성했다. 불법촬영물 삭제를 위한 국제협력 예산이 신규로 4000만원 반영됐으나, 디성센터가 불법촬영물 식별 기술 고도화를 위해 요청한 예산 30억원은 반영되지 않았다. 이와 관련 한국여성인권진흥원 관계자는 “인력 충원과 함께 기술 고도화 작업이 병행되어야 하기 때문에 시스템 개발 비용을 요청드렸었다”며 “정부예산안이 국회에서 심의 과정을 거치고 있는 만큼, 부처와 협의하고 국회에도 호소하고 있는 상황이다. 증액이 반영될 수 있도록 노력하고 있다”고 전했다. 이어 “불법촬영물이 유포되는 서버가 대부분 해외에 있는데, 해외에서는 삭제 요청을 잘 받아들이지 않았다. 이런 부분을 해결하기 위해 국제협력이 절실했는데, 그래도 이번에는 처음으로 국제협력 예산 4000만원이 반영됐다”고 전했다.
정부는 여가부 예산을 ‘가족정책 및 돌봄지원’에 올인하고 있다. 2023년 3973억원이던 ‘가족정책 및 돌봄지원’ 예산은 지난해 4976억원으로 25.2% 증가했다. 국회에 제출한 2025년도 예산안에는 올해보다 12.5% 늘어난 5598억원이 편성돼 있다. 반면 ‘여성·아동인권보호’ 예산은 2023년 273억원에서 2024년 248억7800만원으로 9.1% 줄었고, 2025년 예산안에는 또다시 248억1700만원으로 6000만원가량 적게 편성됐다.
이 같은 지적에 여가부는 지난 9월 3일 보도설명자료를 내고 디지털 성범죄 대응 예산은 올해 47억8200만원에서 내년 50억7500만원으로 6.1% 증액됐다고 밝혔다. 또 디성센터 예산이 2억원가량 줄어든 데 대해서는 “삭제지원 시스템 서버 이중화 작업이 올해 완료됨에 따라 순감한 부분”이라며 “디지털 성범죄 피해자 지원을 위한 사업 및 인건비는 2100만원 순증했다”고 해명했다. 또 내년 디성센터의 인력을 2명(정규직) 증원한다고 밝혔다.