음란물·마약 거래 등 ‘범죄의 온상’으로 지목돼 온 메신저 앱 텔레그램에서 불법 콘텐츠를 지금보다 신속하게 삭제할 수 있게 될 전망이다. 류희림 방송통신심의위원장은 30일 기자회견을 열고 “지난 27~28일 이틀간 제3국에서 텔레그램 경영진과 회의를 열고, 불법 정보에 대해 다각적으로 협력하기로 했다”며 “방심위가 불법이라고 판단한 콘텐츠에 대해 조치를 요청할 경우 텔레그램은 신속히 삭제·차단하기로 했다”고 밝혔다.
국내에선 최근 딥페이크(AI를 이용한 진짜 같은 가짜 콘텐츠) 음란물이 텔레그램을 통해 광범위하게 유포됐지만, 우리 정부와 텔레그램 간 소통 채널이 없어 삭제에 상당한 시간이 걸려 피해가 커졌다. 지난 3일 텔레그램과의 소통 채널이 만들어진 후 25일까지 디지털 성범죄 정보 148건을 삭제해 달라고 요청했는데 텔레그램 측이 이틀 내에 이행했다고 방심위는 밝혔다.
필요할 경우 텔레그램에서 범죄 혐의자의 인적 사항 등 수사 정보도 제공받을 수 있을 전망이다. 경찰청 우종수 국가수사본부장은 이날 “텔레그램 측과 수사 협조를 어떻게 할 것인지 대화 중”이라고 밝혔다.
우리 정부와 텔레그램 간에 소통 채널이 구축되면서, 딥페이크 음란물 등 불법 콘텐츠 피해 확산을 차단하는 최소한의 조치가 마련됐다. 텔레그램은 보안성을 앞세우면서 그동안 한국은 물론 각국 수사 당국의 협조 요청에 응하지 않고, 피해 신고를 접수해도 삭제 조치가 오래 걸렸다. 정부가 보낸 공문을 확인조차 하지 않는다는 텔레그램 내부 관계자의 법정 증언도 있었다.
이 때문에 텔레그램에 대한 각국 정부의 압박이 거셌다. 2022년 브라질은 수사 정보를 제공하지 않았다는 이유로 텔레그램 서비스를 차단해 버렸다. 지난 8월 프랑스 수사 당국이 음란물 유통과 불법 약물 밀매 등 범죄를 방치하며 사실상 범죄를 공모했다는 이유로 파벨 두로프 창업자 겸 최고경영자(CEO)를 기소하자, 텔레그램의 태도도 변하기 시작한 것이다.
류희림 방송통신심의위원장은 “첫 대면 회의에서 텔레그램은 앞으로 불법 정보에 대해 무관용 원칙을 적용해 강력 대응하기로 약속했다”며 “이미 구축된 핫라인(대화 채널) 외에도 전담 직원과 상시 연락이 가능한 별도의 추가 핫라인을 개설하고 실무자 협의를 정례화하기로 했다”고 밝혔다.
◇피해자 신고하면 당일 바로 삭제
지난 8월 중고생 사이에서 딥페이크 음란물이 대규모 유포된 사건이 터진 후, 소셜미디어 불법 콘텐츠에 대한 규제 권한을 가진 방심위는 텔레그램과 대화 채널 구축에 나섰다. 텔레그램은 지난 11년 동안 200여 차례에 달한 경찰의 수사 자료 요청에 단 한 번도 응하지 않을 만큼 비협조적이었다. 하지만 범죄를 사실상 방치하는 거대 플랫폼에 대한 비판이 거세지고 두로프 CEO가 프랑스에서 기소되자, 텔레그램도 지난 3일 대화 채널 구축에 응한 것으로 알려졌다. 이후 한 달간 방심위가 삭제 요청한 디지털 성범죄 콘텐츠 148건에 대해 텔레그램은 빠르면 한 시간 내 늦어도 이틀 안에는 처리했다.
앞으로 텔레그램에서 불법 콘텐츠 삭제는 현재보다는 빨라질 전망이다. 디지털 성범죄 콘텐츠의 경우 피해자가 24시간 운영되는 방심위 전화번호(1377)나 홈페이지로 신고하면, 당일 방심위 사무처의 내부 검토를 거쳐 방심위 담당 소위에서 심의한다. 매주 1~2회 여는 다른 불법 콘텐츠 심의와 달리 디지털 성범죄 관련 콘텐츠 심의는 주말을 제외한 매일 전자 심의로 이뤄진다. 방심위 관계자는 “텔레그램 협조가 합의대로 이뤄지면, 디지털 성범죄 콘텐츠는 신고 당일 바로 삭제될 수 있을 것”이라고 말했다. 방심위는 앞으로 이메일 외에도 직통 전화와 화상회의 방식으로 협조를 요청하고, 실무자 협의를 정례화해 협력을 강화한다는 방침을 밝혔다.
◇올해 딥페이크 피해 학생 799명
텔레그램은 경찰 등 국내 수사 당국에 수사 정보를 제공하는 데도 협조할 것으로 보인다. 23일 두로프 CEO는 텔레그램 메신저 채널에 올린 글에서 “범죄자들이 텔레그램을 악용하지 않도록 하기 위해 이용 약관과 개인 정보 보호 정책을 업데이트했다”고 언급했다. 실제 이날 텔레그램은 이용자 약관에 ‘사법 당국에서 귀하가 서비스 약관을 위반한 범죄 활동의 피의자임이 확인되면, IP 주소와 전화번호를 관련 당국에 공개할 수 있다’고 적시했다. 이동수 방심위 디지털성범죄심의국장은 “한국에서도 범죄와 연루된 사용자의 아이디나 전화번호 정도는 수사 당국에 제공할 것으로 보고 있다”고 전했다.
딥페이크 영상 피해는 갈수록 늘고 있다. 교육부가 30일 발표한 ‘학교 딥페이크 허위 영상물 피해 현황 4차 조사 결과’에 따르면, 지난 1월 1일부터 지난달 27일까지 교내 딥페이크 허위 영상물 피해자는 총 833명으로 집계됐다. 학생 799명, 교원 31명, 직원 등 3명이다. 같은 기간 누적 피해 신고는 초등학교 16건, 중학교 209건, 고등학교 279건 등 총 504건을 접수했다. 상급 학교로 갈수록 피해 신고 건수가 늘긴 했으나, 초등학교에서도 두 자릿수 신고가 들어온 것이다.
방심위가 딥페이크 음란물과 관련해 텔레그램 등 플랫폼에 차단·삭제를 요구한 사례는 2020년 473건에서 지난해 7187건으로 15배로 늘었고, 경찰에 신고된 딥페이크 음란물 범죄는 2021년 156건에서 지난해 297건으로 두 배 가까이로 늘었다.
정부와 여당은 텔레그램 등 플랫폼 사업자에 불법·유해 콘텐츠 관리 의무를 부과하는 방안을 추진 중이다. 국민의힘은 지난달 25일 “플랫폼 사업자가 딥페이크 허위 영상 삭제 요청에 지속적으로 불응하면 과징금 부과, 사이트 접속 차단 등 단계적 규제 조치를 내리는 방안을 추진하겠다”고 밝혔다. 대통령실도 “미국 캘리포니아 등 각국에서 딥페이크 영상물 삭제 책임을 플랫폼 기업에 부과하는 등 여러 차원의 규제가 논의되고 있다”며 “우리나라도 이용자 보호를 위해 적극적인 딥페이크 규제를 도입하고, 이미 피해자가 생긴 범죄는 단순히 기술 규제가 아니라 처벌로 대응해야 할 것”이라고 했다.
☞텔레그램
러시아 출신 파벨 두로프가 2013년 8월 출시한 메신저 앱. 암호화 기술로 보안에 강하지만, 마약·무기 거래와 음란물 유포 등 범죄의 온상이 됐다. 각국 정부의 수사에도 비협조적이다. 현재 이용자 9억명 이상으로 세계 4위 소셜미디어 플랫폼이다.
