“소셜미디어에 내재된 AI(인공지능)가 이끄는대로 손가락을 움직이고 시선을 고정시키는 순간, 우리는 거대 IT 기업에 돈을 벌어다 주기 위해 존재하는 ‘꼭두각시’가 된다.”
작년 9월 공개된 넷플릭스의 다큐멘터리 ‘소셜딜레마(The Social Dilemma)’는 유튜브, 인스타그램 같은 소셜미디어에 빠져 하루에도 몇 번씩 넋 놓고 스마트폰 화면을 스크롤하고 있는 사람들에게 매우 충격적인 작품이다.
“소셜딜레마를 보고 ‘현타(현실 자각 타임)’가 와서 소셜미디어를 끊었다”는 리뷰가 종종 눈에 띈다. 하지만 현타는 오래가지 못한다. 우리는 부지불식 간에 출퇴근 전철·버스 안에서, 소파에 앉아서, 침대에 누워서, 길을 걸으며 습관처럼 유튜브 추천 영상을 보고, 인스타그램 게시물에 좋아요🧡나 댓글이 달렸는지 확인하고, 페이스북과 트위터에 남들이 공유한 게시물을 찾아보는 자신을 발견하게 된다. 소셜미디어는 그만큼 중독적이다.
◇'슬롯머신'만큼 중독적인 소셜미디어
구글에서 디자인 윤리를 담당했던 트리스탄 해리스(Tristan Harris)는 이 다큐멘터리에서 가장 많이 등장하는 인물이다. 그는 소셜미디어를 라스베이거스의 ‘슬롯머신’에 비유한다. “언제 어떤 콘텐츠가 뜰지 모른다”는 점에서 똑같다는 것이다. 트리스탄은 이렇게 설명한다.
“소셜미디어의 알고리즘은 뇌간(腦幹) 깊숙한 곳으로 들어가 사용자에게 무의식적인 습관을 심어요. 인간의 심층부에서부터 프로그래밍을 하는 거죠. 책상 위 스마트폰을 볼 때마다 계속 눈이 가고, 손을 뻗기 마련입니다. 재밌는 게 있을 것 같거든요. 그리고 ‘슬롯머신’을 당겨보는 거죠. 그건 우연이 아니라 그렇게 디자인된 것입니다.”
그는 구글에서 소셜미디어 사용자들을 대대적으로 ‘조종’하는 작업에 동참했던 사람이다. 그는 회사 안에서 ‘우리의 비즈니스 모델이 과연 바람직한 것인가’라는 문제제기를 했었다. 일부 직원이 이에 공감했고, 경영진에도 의견이 전달됐으나 묵살됐다. 그는 회사를 떠났다. 그리고 ‘인도적 기술센터(Center for Humane Technology)’를 설립했다.
트리스탄은 소셜미디어는 인간의 삶을 돕는 ‘도구’일 수 없다고 말한다.
“무언가를 당신에게 요구한다면 그것은 더 이상 ‘도구’가 아닙니다. 하지만 소셜미디어는 당신을 유혹하고 조종하며 무언가를 요구합니다. 소셜미디어는 목적이 있고, 그 목적을 달성하려고 합니다. 당신의 심리를 역이용해서 말이죠. AI라고 하면 사람들은 터미네이터나 아놀드 슈워제네거를 떠올립니다. 먼 훗날 AI가 사람을 해칠 수도 있다고 상상하기도 하죠. 그런데 사람들은 모르고 있어요. AI가 이미 세상을 지배하고 있다는 것을요.”
◇알고리즘이 만드는 ‘확증편향’, 사회갈등 심화
소셜미디어 알고리즘이 우리를 중독시키고 조종할 수 있는 것은 사용자 개개인의 막대한 데이터를 수집하고 있기 때문이다. 알고리즘은 각종 개인 정보와 검색어 기록, 방문 사이트 이력은 기본이고 영상을 어디까지 보고 넘겼는지, 특정 이미지를 보며 얼마나 멈춰있었는지 등을 모조리 수집해 맞춤형 콘텐츠를 제공한다. 심지어 이용자가 전 연인의 사진을 보고 있으면 ‘외로운 상태’라는 판단을 내리고 그에 맞는 콘텐츠를 보여준다. 알고리즘은 우리를 우리 자신보다 더 잘 파악하고 있다.
스마트폰 중독의 폐해는 우리의 일상이 허비되는 데서 그치지 않는다. 우리의 성향이 조금이라도 드러나면 알고리즘은 우리를 계속해서 한 쪽 방향으로 몰아가도록 설계돼 있다. 그렇게 해야만 우리가 스마트폰을 내려놓지 않을 테니까. 알고리즘에 의해 강화된 ‘확증편향(Confirmation bias)’은 사회를 두 동강 내고 있다. 서로 공감할 수 있는 영역이 사라지고, 양 극단의 목소리만 남았다.
소셜딜레마에서 가장 인상적이었던 장면이 있다. 마르코 루비오 미 상원의원(공화당)의 대중 연설이다.
조국, 윤석열, 추미애를 놓고 갈라진 우리 사회를 떠올리면 루비오 의원의 호소가 더 절절하게 들린다.
◇구글·페이스북·트위터 핵심 인력 출신들의 생생한 고발
소셜딜레마에는 트리스탄 외에도 10여명의 ‘안티 소셜미디어’ 전사들이 등장한다. 그들은 소셜미디어 알고리즘의 영악함과 해악을 낱낱이 고발한다. 이 다큐멘터리가 큰 흡인력을 발휘하는 것은 고발자 대부분이 구글·페이스북·트위터 등의 소셜미디어 기업의 핵심 인력이었기 때문이다.
페이스북 전 고위 임원이자 핀터레스트 회장 출신인 팀 켄들(Tim Kendall), 페이스북 부사장 출신인 차마스 팔리하피티야(Chamath Palihapitiya), 유튜브 추천 알고리즘 개발자 기욤 체이슬럿(Guillaume Chaslot), 구글·페이스북 개발자 출신인 저스틴 로젠스텐(Justin Rosensten), 구글에서 경험 디자인 컨설팅을 맡았던 조 토스카노(Joe Toscano), 트위터 핵심 개발자 출신인 제프 지버트(Jeff Seibert), 페이스북에서 개인정보보호 업무를 했던 샌디 파라킬라스(Sandy Parakilas), 인스타그램 설립 초기 함께 일한 베일리 리차드슨(Bailey Richadson) 등이 그들이다.
한 때 ‘나쁜 짓’에 가담했던 이들의 양심 고백과도 같은 폭로가 쉴새없이 이어지면서 다큐멘터리를 보는 내내 긴장감이 팽팽하게 유지된다. 인터뷰만 나오는 것은 아니다. 소셜미디어에 중독된 10대 청소년의 일상과 그가 속한 커뮤니티, 사회가 어떻게 파괴돼 가는지를 극화해 보여주면서 중간 중간에 인터뷰를 넣었다. 소셜미디어 뒤에 숨은 AI 기반의 수퍼 컴퓨터들을 의인화시켜 IT 기업이 우리를 어떻게 중독의 덫에 빠지게 하는지도 알기 쉽게 설명해준다.
제프 올롭스키(Jeff Orlowski) 감독의 놀라운 섭외력과 연출력에 박수를 보낼 수밖에 없다. 올롭스키 감독은 ‘빙하를 따라서(Chasing Ice, 2012)’와 ‘산호초를 따라서(Chasing Coral, 2017)’라는 자연·환경 다큐멘터리로 미국 방송계 아카데미상으로 불리는 에미상을 받은 바 있다.
소셜딜레마에는 내부 고발자들 외에 재런 래니어(Jaron Lanier)와 캐시 오닐(Cathy O’neal)과 같은 데이터 과학자와 <감시 자본주의>의 저자로 유명한 쇼샤나 주보프(Shoshana Zuboff) 하버드비즈니스스쿨 교수 등도 나온다.
◇‘광고 보는 좀비'가 된 사람들
IT기업들이 소셜미디어 이용 시간을 최대한 늘리려는 목적이 ‘광고 노출을 통한 수익 증대’라는 것은 주지의 사실이다. 매출 대부분이 광고에서 나오기 때문에 IT 기업들은 우리를 스마트폰에 중독시키는 데 혈안이 될 수밖에 없다. 소셜딜레마의 인터뷰이들은 입을 모아 강조한다. 우리는 ‘광고를 보는 좀비’일 뿐이라고. IT기업의 고객은 광고주이며, 우리는 그들에게 판매되는 상품일 뿐이라고.
주보프 박사는 이에 대해 “IT기업들이 ‘확실성(certainty)’을 판매하고 있다”고 말한다. IT기업은 소셜미디어 사용자 개개인에 대한 정보를 속속들이 갖고 있기 때문에 구매 확률이 매우 높은 ‘타깃형 광고’들을 보여줄 수 있다는 뜻이다.
“IT기업들은 우리에 대한 정보를 상상할 수 없을 정도로 많이 갖고 있습니다. 역사상 전례가 없는 일이죠. 소셜미디어 광고는 새로운 시장이에요. 예전에는 존재하지 않던 시장이죠. 인간이 ‘선물(futures)’로 거래되는 시장인 셈이죠. 원유 선물시장이나 돼지고기 선물시장처럼 지금 우리에겐 인간이 선물로 거래되는 대규모 시장이 있는 거에요. IT 회사들은 그 시장에서 수조 달러를 벌어들여 인류 역사상 가장 부유한 회사들이 된 것입니다.”
알고리즘의 가장 근원적인 문제는 아마도 우리 자신을 선택의 ‘주체’가 아닌 ‘객체’로 만드는 데서 찾을 수 있지 않을까. 그 선택을 온전히 내가 한 것이라고 할 수 없다면 알고리즘이 두 동강 낸 사회도, 무언가에 홀린 듯 충동 구매해버린 물건들도 실제 우리 모습이 아닐 수 있다.
알고리즘이 우리의 삶을 만들어가도록 내버려둬선 안 된다. 소셜 ‘딜레마’를 푸는 열쇠를 찾기 위해 우리는 “알고리즘에 저항해야 한다”는 것이 이 다큐멘터리에 담긴 메시지다.
[기사보기] ①당신이 본 유튜브 70%는 알고리즘이 추천…나도 모르게 중독
[기사보기] ②보수·진보 채널 각각 하루 15번 봤더니…한쪽만 200개 넘게 쏟아져
[기사보기] ③소비습관 파악, 광고 퍼붓는 알고리즘…노리는건 결국 당신 지갑
[기사보기] ④페북·유튜브 “중독 원치 않는다” 말뿐… 착한 알고리즘은 없다
개요 다큐멘터리 l 미국 l 94분
등급 12세 이상 관람가
특징 알고리즘에 대해 알고 싶다면 꼭 봐야 할 다큐
※'기사보기’와 ‘바로보기’ 클릭은 조선일보 홈페이지에서 작동합니다.