온라인에서 내려받은 얼굴 사진에 음란물의 나체 사진을 합성하는 딥페이크 성범죄가 10대 사이로 광범위하게 퍼지고 있다.
27일 경남교육청과 경남경찰청에 따르면 경찰은 아동·청소년의 성보호에 관한 법률 위반 등 혐의로 하동 모 중학교 1학년 남학생 A 군 등 6명을 입건해 조사하고 있다.
A군 등은 지난 3월부터 텔레그램 메신저 단체방을 만들어 같은 학교 여학생을 포함해 총 4개 학교 또래 여중생 12명의 얼굴에 음란물을 붙인 딥페이크 성 착취물을 돌려본 혐의를 받는다. 딥페이크는 딥 러닝(deep learning)과 가짜(fake)가 합쳐진 단어로, 인공지능(AI)을 활용해 만들어진 진짜 같은 가짜 콘텐츠를 뜻한다.
생성형 AI 기술이 발달하면서 딥페이크 창작물들은 육안으로 가짜인지 파악하기 어려울 만큼 정교해지고 있다.
A군 등은 휴대전화 앱을 통해 이 같은 딥페이크 성 착취물을 제작한 것으로 전해졌다. 다만, 이들의 휴대전화 디지털 포렌식 조사에서 현재까지 성 착취물이 외부로 유출된 정황은 없다고 한다.
이들의 범행은 지난 7월 말쯤 이 사실을 알게 된 한 피해 학생이 경찰에 신고하면서 드러났다. 경찰 관계자는 “수사 중인 사안으로, 조만간 6명을 불러 조사할 예정”이라고 말했다.
경남교육청은 A군 등 6명에 대해 피해 학생들에 대한 접촉 및 보복 행동 금지의 내용을 담은 긴급조치 2호 조처를 내렸다. 오는 29일에는 경찰 수사와 별개로 이들에 대해 학교폭력대책심의위원회를 열 예정이다.
도교육청 관계자는 “가해자와 피해자가 많아 범죄 사실을 확인하는데 시간이 걸렸다”며 “딥페이크 범죄에 대해 아이들이 범죄라는 인식을 못 하는 경우가 많은 것 같다. 디지털 성범죄 예방 교육을 집중적으로 실시해 범죄를 예방할 수 있도록 하겠다”고 말했다.
올해 경남교육청에 접수된 딥페이크 성범죄 관련 신고는 24건에 달한다. 학교별로 중학교가 13건으로 가장 많았고, 고등학교 10건, 초등학교도 1건 있다.
지역별로는 창원·진주·김해 각 5건, 통영 4건, 거제 2건, 사천·함안·하동 각 1건 발생했다. 가해자는 모두 남학생이고, 피해자는 또래 여학생들이었다.
경남교육청은 이날 전 학교에 딥페이크 등 디지털 성폭력에 엄정 대처하라는 공문을 발송했다.
오는 9월부터는 딥페이크 등 디지털 성범죄 예방 집중 교육을 할 예정이다.