영국에서 폭력 시위를 촉발한 ‘이슬람 이민자가 소녀 3명을 살해했다’는 온라인 가짜 뉴스에 대해 영국 정부가 수사에 착수하기로 했다. 이벳 쿠퍼 영국 내무 장관은 5일 “소셜 미디어가 폭동에 ‘로켓 부스터(추진체)’를 달았다”며 “폭력 시위를 야기한 온라인상의 범죄 증거들을 경찰이 추적하고, 이 문제에 관해 기술 기업들을 조사할 것”이라고 밝혔다.
최근 영국에서 벌어진 반무슬림 폭력 시위는 소셜 미디어의 ‘가짜 뉴스’가 어떻게 사회를 위협할 수 있는지를 상징적으로 보여주고 있다. 이번 일은 지난달 29일 영국 사우스포트에서 어린이 세 명이 살해된 사건이 계기였다. 소셜 미디어에 범인의 이름과 신원에 대한 거짓 정보가 퍼지기 시작하면서 극우 세력의 반무슬림 폭동이 발생했다. 정부가 범인이 무슬림이 아니라고 발표했지만, 폭력 시위는 잦아들지 않고 있다.
영국 정부는 폭력 시위대뿐 아니라 온라인에 가짜 뉴스와 거짓 정보를 올리는 이들도 처벌할 계획이다. 쿠퍼 장관은 더타임스 기고문에서 “소셜 미디어에서 증오를 선동하는 이들은 (시위 현장의) 폭도들과 같은 처벌을 받을 것”이라고 했다.
정부와 학계, 시민 단체들은 이번 사건과 관련해 가짜 뉴스의 확산 과정을 추적하고 있다. 아직 사건의 전모가 드러나지 않았지만, 살해 사건 직후 소셜 미디어 X(옛 트위터)에 범인의 무슬림식 가짜 이름이 올라오고, 이것이 뉴스 형식의 글로 둔갑해 웹사이트에 게재됐다. 이것이 소셜 미디어의 추천 알고리즘으로 인해 폭발적으로 확산된 것으로 확인되고 있다. 쿠퍼 장관은 “이번 사태와 관련해 플랫폼 기업들도 책임을 져야 할 것”이라고 말했다.
AP통신에 따르면, 지난달 29일 살인 사건 직후 범인의 이름을 ‘알리 알샤카티’라고 거짓으로 처음 올린 곳은 X(옛 트위터)의 한 계정으로 추정된다. 뉴스 사이트가 운영하는 계정처럼 꾸며져 있지만, 언론사 계정이 아니었다. 이 게시글은 이후 지워졌지만, 이미 소셜 미디어에 다 퍼진 뒤였다. 카타르 하마드 빈 칼리파 대학교의 마크 오언 존스 교수가 범죄 다음 날 X에 올라온 게시물을 분석한 결과, 살해 사건의 범인을 무슬림, 이민자, 난민 또는 외국인이라고 언급하거나 추측하는 게시물이 2700만건에 이르렀다. AP통신은 “문제의 X 계정을 운영하는 사이트는 주로 엔터테인먼트 뉴스와 폭력적인 사건을 퍼나르는 일을 하는데, 인공지능(AI)이 글을 쓴 것으로 보인다”고 했다.
◇허위 정보 확산시키는 알고리즘
전문가들은 이번 영국에서 가짜 뉴스를 확산시킨 주범으로 소셜 미디어 알고리즘에 주목하고 있다. 범인에 관한 허위 정보가 온라인에 퍼지고 지난달 30일 폭력 시위가 발생하자, 영국 정부는 지난 1일 범인의 실명을 공개했다. 하지만 영국 싱크탱크인 전략대화연구소에 따르면, 범인의 신원이 알려진 이후에도 소셜 미디어 틱톡에서 ‘사우스포트’(범죄가 일어난 지역)라는 단어를 검색하는 사용자에게 여전히 범인의 가짜 이름이 ‘추천 검색어’로 나왔다. X에서는 ‘영국에서 인기 있는 트렌드’라는 주제에 범인에 관한 허위 정보가 포함된 글이 추천되기도 했다. 가짜 뉴스라는 것이 밝혀졌지만, 소셜미디어 기업들이 이를 제재하기는커녕 방치하거나 오히려 알고리즘을 통해 노출시켰다는 얘기다.
폭력 시위는 유명 극우 활동가의 소셜 미디어로 인해 더욱 격화됐다. FT에 따르면, 토미 로빈슨이라고 불리는 극우 활동가는 폭동 발생 직후, ‘이번 사태가 무슬림 폭도에 의한 것’이라는 내용의 논평과 동영상을 자신의 X에 올렸다. 로빈슨은 이민자 혐오를 부추기는 글을 올렸다는 이유로 2018년 트위터 사용이 금지될 정도로 극단적 주장을 펼쳐온 인물이다. 작년 11월 일론 머스크가 트위터를 인수해 X로 이름을 바꾸면서 다시 소셜 미디어를 이용할 수 있었다. 로빈슨의 선동적 글은 X뿐 아니라 인스타그램, 틱톡 등을 통해 퍼져 나갔다. 배스대학교의 올리비아 브라운 교수는 “소셜 미디어는 플랫폼을 엄격하게 관리하지 않으면서 로빈슨과 같은 사람을 활동하게 만들어 전례 없는 잘못된 정보와 혐오 표현이 확산됐다”고 했다.
◇英 “소셜 미디어 규제법 확대”
소셜 미디어를 통해 번진 가짜 뉴스가 이번 폭력 사태를 불러일으켰다는 결과가 나오면서 소셜 미디어 알고리즘에 대한 비난도 커지고 있다. 영국 디지털 혐오 대응 센터는 “끔찍한 일이 생겼을 때 사람들이 소셜 미디어에 로그인을 하게 되는데, 이때 제일 먼저 보게 되는 정보가 해당 플랫폼의 알고리즘에 의해 선택된 정보”라며 “이 알고리즘은 누가 가장 책임감을 갖고 있는지, 누가 저널리즘 기준을 적용했는지를 보지 않고 무엇이 가장 많은 사람을 화나게 하거나 공포에 떨게 하는지를 기준으로 삼는다”고 했다.
쿠퍼 장관은 5일 “온라인과 소셜 미디어의 허위 정보에 대처하기 위한 더 광범위한 법적 논의가 필요하다”고 밝혔다. 영국은 지난해부터 소셜 미디어 플랫폼을 포함한 온라인 서비스 사용자를 보호하기 위해 온라인 안전법을 제정해 시행을 앞두고 있다. 그러나 이 법은 “거짓 정보로 사용자에게 돌이킬 수 없는 심리적 또는 신체적 해를 끼치는 행위”만 규제하고 있기 때문에, 이번처럼 다수의 군중을 선동하는 가짜 뉴스를 제재하는 데는 한계가 있다. 이에 따라 영국 정부는 가짜 뉴스에 대한 책임을 소셜미디어에 지우기 위한 법 제정을 검토할 것으로 보인다.
☞알고리즘 추천
소셜 미디어나 온라인 플랫폼이 사용자의 개인 정보, 사용 기록 등을 분석해 사용자에게 맞춤형 콘텐츠나 광고를 제공하는 것. 예컨대 소셜 미디어 플랫폼은 각 이용자가 어떤 게시물을 주의 깊게 읽었는지, 어떤 키워드를 검색했는지, 어떤 내용에 ‘좋아요’를 눌렀는지와 같은 데이터를 종합해 흥미를 가질 만한 게시물을 끝없이 추천해준다. 하지만 빅테크들은 이 같은 알고리즘의 작동 원리는 공개하지 않는다.
☞영국 온라인 보호법
소셜 미디어 플랫폼을 포함한 온라인 서비스 사용자를 보호하기 위한 법. 2023년에 법으로 제정되어 2025년 시행 예정이다. 영국 미디어 규제 기관인 오프콤에게 위반을 저지른 고위 경영진에게 거액의 벌금과 형사 책임을 부과할 수 있게 하는 등 규정을 위반한 거대 기술 기업을 단속할 광범위한 권한을 부여했다.