“얼굴 사진 다 내리세요. 딥페이크 확산 중.”
서울에 사는 중학교 2학년 박모(13)양은 26일 오전 친구에게 이런 글을 받고 깜짝 놀랐다. 박양은 곧바로 소셜미디어 계정을 비공개로 돌렸다. 하지만 이미 자기가 온라인에 올린 얼굴 사진을 누군가 가져다가 성범죄에 도용했을까봐 온종일 무서웠다.
대학가에서 발생한 ‘딥페이크 성범죄’ 피해가 10대들에게까지 번지면서 중·고교생들 사이 불안감이 확산하고 있다. ‘내가 피해자일지 모른다’는 공포가 퍼지고 있는 것이다.
‘딥페이크’는 인공지능(AI) 심층 학습을 뜻하는 딥 러닝(deep learning)과 가짜(fake)를 합한 단어로, AI로 만든 가짜 콘텐츠를 말한다. 소셜미디어에서 내려받은 얼굴 사진에 음란물의 나체 사진을 합성해 ‘성범죄물’로 만들어 공유하는 사례가 늘고 있다. 최근엔 딥페이크 성범죄물을 텔레그램 단체방(일명 ‘겹지인방’) 등에서 공유하는 범죄가 서울대와 인하대 재학생과 졸업생을 대상으로 벌어져 대화방 운영자들이 검거되기도 했다.
‘딥페이크 공포’가 10대 사이 커진 건 학교별로 텔레그램 대화방이 운영된다는 사실이 급속히 알려지면서다. 실제 26일 텔레그램 채널 검색 사이트 ‘텔레메트리오’에서 ‘겹지인방’ 등을 검색하면 수백 개가 뜨는데, 제목에 ‘OO고’ ‘OO중’ 같은 학교 이름이 들어간 것들이 많다.
학생들은 서로 ‘피해 학교 명단’을 만들어 돌리면서 자체 대응하고 있다. 25일 소셜미디어 엑스(X·옛 트위터)에 올라온 ‘텔레그램 딥페이크 피해 학교 목록’에는 전국 초·중·고교 477곳(26일 오후 6시 기준) 이름이 올라와 있다. 명단에 있는 학교 모두에서 실제 피해가 발생했는지는 확인되지 않았다.
하지만 명단에 있는 경기도 A고등학교 교감은 본지 통화에서 “우리 학교에서 딥페이크 성범죄물 피해가 발생한 것으로 파악하고 있다”면서 “워낙 사안이 중대하고 지역의 다른 학교들도 (피해자가) 포함돼 있기 때문에 교육청 차원에서 경찰과 협조해 대응하기로 했다”고 밝혔다.
이날 경기도 B고등학교 학생회 인스타그램 계정에도 “현재 텔레그램을 통해 (우리 학교) 학생들의 신상 및 딥페이크 합성 사진이 유포되고 있다”며 “인스타그램에 업로드된 개인 사진을 내려 피해를 예방하시기 바란다”는 게시글이 올라왔다.
학생들 우려가 커지자 교육청들도 대응에 나섰다. 대전시교육청은 26일 각 학교에 공문을 보내 ‘딥페이크 등 디지털 성범죄 특별주의보’를 발령하고 다음 달 6일까지 특별 교육 주간을 운영하겠다고 밝혔다. 학교에 피해가 있으면 경찰에 신고하도록 독려하고, 피해 학생 지원은 교육청이 직접 하기로 했다.
딥페이크 범죄를 저지르는 10대도 늘고 있다. 조은희 국민의힘 의원실이 경찰청에서 받은 자료에 따르면, 최근 3년간 허위 영상물을 만들어 배포해 입건된 피의자의 69%(194건)가 10대였다. 성폭력처벌법에 따라 딥페이크 성범죄물을 만들거나 유포하면 5년 이하 징역 또는 5000만원 이하 벌금에 처한다. 하지만 소셜미디어 사용과 사진 공유가 일상인 10대들은 딥페이크 합성물을 만들고 공유하는 것이 범죄란 인식을 잘 못 한다고 한다.
심지어 교사 사진으로 딥페이크 성범죄물을 만든 학생들도 있다. 백승아 더불어민주당 의원실이 전국 시도교육청에서 받은 자료에 따르면, 10대들이 제작한 교사 대상 딥페이크 음란물은 2022년 8건에서 지난해 30건, 올해 1학기에만 35건으로 급증했다.
교사노동조합연맹은 이날 성명을 내고 “학생과 교사들은 알지도 못하는 사이에 성범죄 피해를 입을 수 있다는 사실에 충격과 불안을 호소하고 있다”며 “국가 차원의 신고 절차 및 대응, 피해자 지원책을 시급히 마련하라”고 촉구했다.
경찰은 텔레그램 등 해외에 서버를 둔 소셜미디어는 범죄에 활용되더라도 수사가 쉽지 않다고 말한다. 해당 기업에 수사 협조를 요청해도 묵묵부답이라는 것이다. 김봉식 서울경찰청장은 26일 기자 간담회에서 “학생들은 물론이고 교사에 대한 영상물도 널리 퍼지고 있는 상황”이라며 “IT 기기에 익숙한 청소년 중심으로 확산해 굉장히 우려스럽다”고 했다.
☞딥페이크
인공지능(AI) 심층 학습을 뜻하는 딥 러닝(deep learning)과 가짜(fake)가 합쳐진 단어. AI로 만든 ‘진짜 같은 가짜 콘텐츠’를 뜻한다. 실제 영상이나 사진들을 서로 짜깁기해 아예 새로운 사진·영상을 창작한다.