2일 유튜브에 한국 유명 여가수의 이름과 딥페이크(AI로 만든 진짜 같은 가짜 콘텐츠)를 영어로 함께 검색하자 해당 여가수의 얼굴을 합성한 영상이 수십개 올라왔다. 목이 깊이 파인 옷을 입고 가슴을 절반쯤 드러낸 것도 있다. 여가수의 얼굴에 다른 여성의 몸을 합성한 것이다. 3년 전 올라온 이 영상의 조회 수는 153만회. 초상권을 침해한 명백한 불법 콘텐츠이지만, 계속 방치돼 있다. 조회 수 153만이면, 통상 발생하는 광고료는 약 205만원. 이를 제작자와 유튜브가 거의 절반씩 나눈다. 범죄 수익을 서로 공유한 것이다.
‘딥페이크 음란물’이 대거 유통된 텔레그램에는 지금도 비슷한 콘텐츠가 돌아다닌다고 한다. 한 플랫폼 기업 관계자는 “대화방 가입 조건만 조금 까다로워졌을 뿐, 크게 달라진 것이 없다”며 “텔레그램이 직접 조치를 취하지 않는 한, 이를 막는 건 불가능하다”고 말했다. 인스타그램·틱톡 등 대부분의 플랫폼에서도 불법·유해 콘텐츠는 어렵지 않게 접할 수 있다. 유통뿐 아니라 단순 제작·소지 처벌하는 방안을 정부가 추진하는 등 대책이 쏟아져 나오고 있지만, 플랫폼에서 불법 콘텐츠는 좀처럼 줄지 않고 있다. 플랫폼들이 불법·유해 콘텐츠를 적극적으로 추적·삭제하지 않고 방치하기 때문이다.
플랫폼 기업들은 “불법 콘텐츠는 제작자 책임” 등을 이유로 든다. 하지만 경제적 이유가 더 크다는 것이 전문가들의 지적이다. 유해 콘텐츠와 가짜 뉴스 등 자극적 콘텐츠일수록 사람들을 더 많이 끌어들이고, 그로 인해 광고 수익이 늘기 때문이다. 최근 텔레그램에 ‘딥페이크 음란물’이 급증한 것도 지난 4월 텔레그램이 구독자 1000명 이상 채널(방) 개설자에게 광고 수익을 지급하기 시작한 것이 영향을 미쳤다는 지적이다. 특히 인공지능(AI)으로 콘텐츠 제작이 쉬워지면서, 불법·유해 콘텐츠를 매개로 한 제작자와 플랫폼의 공생관계는 더 강화되고 있다. 유현재 서강대 신문방송학과 교수는 “플랫폼은 최우선 순위가 수익인 만큼, 수익을 내는 유해 콘텐츠를 방조해 온 것”이라고 말했다.
☞플랫폼
공급자가 콘텐츠·상품·서비스 등을 올려놓으면 이용자가 소비·구매하는 온라인 공간. 유튜브·페이스북·틱톡 등이 대표적이다.