구독자 2만명을 보유하고 있는 한 연예 가십 유튜브 채널은 작년 5월 한 여자 아이돌 A씨가 다른 남자 아이돌 B씨와 사귄다는 3분짜리 허위 영상을 올렸다. 영상 게시 후 1년 3개월간 9만회에 가까운 조회 수를 기록 중이다. 두 사람이 등장하는 사진과 영상이 등장하고, 인공지능(AI) 음성이 허위 내용을 읽어준다. 역시 불법 콘텐츠다. 한 유튜브 PD는 “이렇게 영상을 짜깁기하고, 음성을 입히는 데 AI 프로그램으로 30분도 안 걸린다”고 했다.
유튜브 등 플랫폼들은 “범죄·불법 콘텐츠라는 게 명확히 확인이 되면, 삭제 조치나 계정 정지를 한다”는 게 공식 입장이다. 테크업계 관계자는 “특히 가짜뉴스의 경우엔 법원으로부터 ‘명예훼손’이라는 판결을 받기 전에는 삭제가 어렵다”며 “법원 판결을 받았을 때는 이미 콘텐츠가 다 돌 만큼 돈 이후가 된다”고 했다. 이렇게 제작자들이 AI를 활용해 적은 비용과 시간을 들여 불법·가짜 콘텐츠를 대거 만들어 올리고, 여기서 나오는 광고 수익은 제작자와 플랫폼이 나눈다. 한 법조 관계자는 “플랫폼과 불법 제작자들이 공생하며 ‘수익형 불법·가짜 콘텐츠 시장’을 만드는 것”이라며 “이 공생 관계를 끊기 위해서는 플랫폼에 대한 처벌과 제재가 불가피하다”고 했다.
◇불법 제작자와 플랫폼의 공생법
불법 콘텐츠 제작자와 플랫폼의 공생법은 교묘하다. 최근 검거된 명문대생 마약 동아리 사건의 경우, 학생들은 유튜브 등에서 마약 콘텐츠를 접한 것으로 알려졌다. 이들이 본 동영상은 특정 문양이 반복적으로 움직여 사람을 몽롱하게 하는 영상을 보여준다. 이런 영상은 ‘마약 체험’이라는 단어로 검색된다. 일부 영상은 조회 수가 201만회에 이른다. 일부 영상은 ‘마약 체험 게임’이라는 제목도 붙어 있다. 검색어와 실제 유통되는 목적으로 보면 마약과 연관돼 있으나, ‘게임’이나 ‘체험’ 등의 이름으로 불법성을 피해 가는 것이다.
영상 추천 알고리즘(자동 추천 기능)도 플랫폼에서 불법·유해 콘텐츠의 확산을 부추긴다. 유튜브에서 ‘베트남’을 검색하면 ‘베트남 유흥’이 자동완성 검색어로 뜨는 경우가 많다. 여기에 성매매를 암시하는 콘텐츠들이 셀 수 없이 이어진다. 정확한 알고리즘의 작동 원리는 공개되지 않았지만, 통상 사람들이 최근에 많이 본 영상들이 우선순위로 올라온다. 이런 것들은 자극적인 경우가 많다. 플랫폼 업계 관계자는 “자극적인 영상이 우선 추천돼 클릭이 많이 되고, 그렇게 발생한 광고 수익을 제작자와 플랫폼이 나눈다”며 “결과적으로 불법 콘텐츠 제작자와 플랫폼의 공생이 더 강화되는 셈”이라고 말했다.
글로벌 플랫폼에선 어린이와 청소년들이 유해 콘텐츠를 접할 수 있다는 점도 문제다. 유튜브, 인스타그램, 틱톡 등 10대가 많이 이용하는 플랫폼 중 단 한 군데도 성인 인증이나 연령 인증을 하지 않기 때문이다. 회원 가입 시 출생 연도를 요구하긴 하지만, 실제 태어난 해를 기입하지 않아도 가입이 가능하다.
◇규제 근거 없으니 더 활개
구글, 메타(페이스북·인스타그램), 바이트댄스(틱톡) 등은 마약이나 폭력, 성매매 등 불법 콘텐츠에 대해서는 모니터링을 하고, 계정 정지나 수익화 금지 등의 조치를 취하고 있다고 밝혀왔다. 하지만 이 플랫폼들에선 불법 행위를 교묘하게 피해 가는 유해 콘텐츠로 클릭 수를 늘리고 있다.
‘수익형 불법·가짜 콘텐츠 시장’이 유지되는 것은 이를 규제·처벌할 방법이 사실상 없기 때문이다. 구글이나 메타 등 글로벌 플랫폼은 법원의 판결이 나오지 않는 이상 ‘표현의 자유’를 이유로 가짜뉴스에 대해 아무 조치를 취하지 않는다. 한 유명 아이돌 가수의 경우 유튜브에서 가짜뉴스와 허위 비방으로 시달렸지만 구글코리아에서 수사 협조를 해주지 않아 구글 본사가 있는 미국의 법원을 통해 가짜뉴스 제작자의 신원을 밝힐 수 있었다.
이 때문에 불법 콘텐츠 유통과 관련해 플랫폼에 대한 처벌을 강화해야 한다는 목소리가 크다. 국회도 문제의 심각성을 인식하고 최근 입법 움직임을 보이고 있다. 김장겸 의원은 지난 6월 유튜브, 네이버와 같은 정보통신서비스 제공자(플랫폼)에 허위조작정보(가짜뉴스) 유통 방지 의무를 부여하는 내용이 담긴 ‘정보통신망 이용 촉진 및 정보 보호 등에 관한 법률’ 개정안을 발의했다. 플랫폼에 유통되는 가짜뉴스에 대해서 플랫폼도 책임을 져야 하며, 이 의무를 이행하지 않으면 징역 또는 과태료 부과 등의 제재를 가하겠다는 것이다.