AI를 이용한 ‘딥페이크 성범죄’ 피의자의 70%가 10대인 것으로 나타났다.
28일 경찰청에 따르면, 2021년 이후 지난달까지 적발된 딥페이크 성범죄 피의자 461명 중 10대 피의자는 325명(70.5%)이다. 올 들어서는 지난달까지 178명 중 131명(73.6%)으로 조사됐다. 청소년도 딥페이크에 쉽게 접근해 음란물을 만들고 유포할 수 있다는 얘기다. 처벌 강화도 중요하지만 미성년자를 대상으로 한 교육도 함께 추진해야 한다는 지적이 나온다.
경찰청은 이날부터 내년 3월까지 7개월 동안 딥페이크 성범죄에 대한 집중 단속에 나서기로 했다. 경찰 관계자는 “갈수록 범죄 수법이 구체화·체계화되고 있어 철저한 단속과 함께 10대 청소년에 대한 학교 전담 경찰관의 예방 활동을 강화하겠다”고 했다.
◇현행법, 유포 목적 없으면 처벌도 못 해
딥페이크 처벌 조항은 2019년에 만들어졌다. 성폭력처벌특례법 제14조의2는 반포 등을 목적으로 피해자 동의 없는 영상 촬영물을 성적 수치심을 유발하도록 편집·합성·가공하거나, 동의 없이 반포했을 때 5년 이하 징역이나 5000만원 이하 벌금에 처하도록 하고 있다. 영리를 목적으로 할 때는 최대 징역 7년, 상습적일 때는 형량의 1.5배가 가중된다.
문제는 딥페이크 제작이 소지가 적발돼도 ‘반포의 목적’이 입증되지 않으면 처벌할 수 없다는 것이다. 정준영 변호사는 “피의자가 ‘내가 보려고 만들었다’며 유포 목적이 없었다고 부인하고, 휴대전화 디지털 포렌식에서 증거가 나오지 않으면 처벌이 어렵다”고 했다.
딥페이크 범죄를 저질러 재판에 넘겨져도 실형이 선고되지 않는 경우가 많다. 처벌 조항을 만든 이후 지금까지 기소된 71건 중 절반에 가까운 35건이 집행유예 선고를 받았다. 광주지법은 2021년 전 여자 친구와 대학 동기, 선후배 등 11명을 대상으로 52차례 딥페이크 영상물을 만들고 퍼뜨린 남성에게 징역 1년 6개월에 집행유예 4년을 선고했다. 정신적으로 불안한 상태에서 범행을 했다는 점을 참작했다. 서울북부지법은 작년 4월 중학교 여자 동창 사진 딥페이크를 소셜미디어로 의뢰해 만든 음란물을 피해자의 친구와 언니 등에게 전송한 남성에게 징역 6개월·집행유예 2년을 선고했다. 피고인이 미성년자라는 점이 고려됐다.
서혜진 여성변호사회 인권이사도 “어릴 때부터 디지털 기기에 익숙한 청소년들은 스마트폰 전자 기기를 이용한 ‘놀이’와 ‘괴롭힘’ 사이의 구분이 희미하다는 특성이 있다”며 “이들에게 딥페이크에 대한 문제의식을 심어주기 위해 학교에서 관련 교육을 강화해야 한다”고 말했다.
◇딥페이크 거르는 기술은 걸음마 수준
딥페이크 피해를 막기 위한 기술적 한계도 있다. AI의 학습 능력이 딥페이크를 걸러내는 기술보다 빠르기 때문이다.
딥페이크를 찾아내는 기술이 속속 개발되고 있지만 아직은 시작 단계에 불과하다. 인텔은 지난해 사람 얼굴의 혈류 변화를 추적해 딥페이크 여부를 96%까지 식별하는 ‘페이크캐처’를 선보였고, 마이크로소프트는 ‘동영상 인증기’를 개발해 사진과 영상을 판독해 신뢰도 점수를 제공하고 있다. 국내 AI 스타트업인 딥브레인AI가 내놓은 ‘딥페이크 탐지 솔루션’도 5~10분 내 딥페이크 여부를 가려서 알려준다.
그러나 딥페이크 탐지 기술은 진짜와 가짜 데이터를 모두 학습해야 하는 만큼, 딥페이크를 만들어내는 기술보다 발전이 더디고, 수익성도 장담할 수 없다. AI 개발사가 딥페이크 탐지 기술 개발에 소극적일 수밖에 없는 것이다.
구글, 메타 등 빅테크가 딥페이크 제작과 유통에 책임을 지지 않으려는 자세도 문제점으로 지적된다. 빅테크 산업 단체인 아시아인터넷연합(AIC)은 최근 말레이시아 정부에 “SNS 허가제를 도입하지 말아달라”는 서한을 보냈다. 말레이시아 정부가 소셜미디어와 메신저 플랫폼 기업이 딥페이크 음란물과 AI 생성 유해 콘텐츠 관리 여부 등을 허가받도록 했기 때문이다. 빅테크들은 딥페이크 콘텐츠에 워터마크(식별 표시)를 하는 것과 같은 ‘자율적’ 조치를 하겠다는 입장이다. 임종인 고려대 정보보호대학원 명예교수는 “입법 등 실질적 조치를 해서 빅테크가 정부 정책에 협조하도록 해야 한다” 말했다.