앞으로 플랫폼 기업들은 딥페이크(Deepfake·허위 영상물) 성범죄 영상 삭제를 요청받으면 24시간 내에 신속히 삭제해야 한다. 또 호기심에 딥페이크 영상을 소지하거나 시청만 해도 강력 처벌(징역 3년 또는 3000만원 이하 벌금)해 전과자가 될 수 있다. 성범죄 영상의 유통 창구로 지목됐던 텔레그램 등 국내외 플랫폼 기업은 ‘청소년 유해물 제공·매개자’로 적극 법을 해석해 각종 규제를 받게 된다.
최근 심각한 사회문제로 떠오른 ‘딥페이크 성범죄’ 대응을 위해 정부가 이 같은 내용의 합동 대책을 6일 발표했다. 딥페이크 성범죄가 한 사람의 인생을 파괴할 수 있는 중(重)범죄임에도, 딥페이크 성범죄에 연관된 이들에 대한 처벌이 너무 약하거나 처벌 기준 등 제도가 허술하다는 비판이 잇따르자, 정부가 대대적인 보완에 나선 것이다.
대책의 핵심은 ‘강력한 처벌’과 ‘신속한 차단’이다. 딥페이크 영상을 만들어 유포하는 것은 물론 단순 소지·시청자도 엄벌에 처하는 동시에 관련 형량도 일제히 올렸다. 딥페이크 성범죄물 편집·유포 형량은 불법 촬영물과 동일하게 7년으로 상향했고, 아동·청소년 성범죄물을 이용한 협박·강요 처벌 수위도 각각 3년과 5년으로 강화했다. 경찰관이 마치 거래하는 것처럼 잠입하는 위장 수사를 확대하고, 범죄 수익도 전액 몰수하기로 했다.
혹여 범죄 영상이 유포되더라도 텔레그램·네이버 등 국내외 플랫폼사와 적극 협력해 24시간 내에 신속히 차단하기로 하는 등 피해자 보호에도 적극적으로 나선다. 플랫폼 기업이 삭제 요청을 받았을 때 성범죄물 여부가 애매하다는 판단을 하더라도 일단 선(先)차단하고 나중에 심의 절차를 거치도록 했다. 또 정부가 직접 나서 인공지능(AI)을 이용해 딥페이크 촬영물을 실시간 감지, 플랫폼에 삭제 요청을 보내는 자동화 시스템도 구축한다.
정부는 딥페이크 성범죄물의 유통 창구로 지목된 텔레그램 등 플랫폼 사업자에 대한 규제를 강화하고, 핫라인(대화 창구)을 추가로 개설해 실질적인 조치를 이끌어내기로 했다. 텔레그램뿐 아니라 네이버·메타(구 페이스북) 등도 성범죄물 유통 방지 의무를 제대로 이행하지 않으면 시정명령과 과징금을 적극 부과한다는 방침이다. 정부 관계자는 “지난 9월 텔레그램과 핫라인을 구축한 이후 빠르면 한 시간, 늦어도 이틀 내에 삭제 조치가 이뤄지고 있고 더욱 속도를 높여나갈 예정”이라고 했다.
경찰청이 올 1월부터 지난달 말까지 딥페이크 성범죄 피의자 506명을 검거한 결과, 10대가 전체의 81.2%를 차지했다. 이처럼 AI 기술에 밝은 청소년들이 딥페이크를 장난처럼 여기는 문화가 바뀌지 않은 채 처벌만 강화하면 대규모 전과자를 양산할 수 있는 만큼, 범정부 차원에서 각급 학교에 성범죄 예방 교육을 실시하고 피해자 상담도 더욱 강화하기로 했다.
이 같은 종합 대책에도 실효성 여부는 지켜봐야 한다는 목소리도 나온다. 텔레그램에 성범죄물 삭제 요청을 해도 계속 새로운 방을 만들거나 플랫폼을 옮겨가며 범죄를 이어가는 경우가 많고, 반복적인 삭제 요청에도 여전히 플랫폼들의 불법 영상 미삭제율이 30%에 달하기 때문이다. 정부 관계자는 “해외 플랫폼이 명령을 따르지 않으면 과태료나 시정명령을 적극적이고 반복적으로 낼 것”이라며 “정부도 큰 의지를 갖고 있고, 여야도 함께 입법에 나서고 있는 만큼 제재 효과가 있을 것으로 기대한다”고 했다.