인스타도 손뗀다… 불신의 늪에 빠진 AI 알고리즘

사진·동영상 콘텐츠를 제공하는 소셜미디어 인스타그램은 지난 8일(현지 시각) “내년부터 AI(인공지능) 알고리즘에 기반한 콘텐츠 추천을 폐지한다”면서 “앞으로는 게시물이 올라간 시간 순서대로 노출된다”고 밝혔다. AI 알고리즘 추천은 사용자가 평소 많이 보거나 ‘좋아요’를 누른 콘텐츠를 기반으로 사용자가 선호할 것 같은 것을 골라서 보여주는 것으로 페이스북, 유튜브 같은 대부분의 소셜미디어와 인터넷 동영상 서비스가 이를 바탕으로 인기를 끌어왔다.

인스타그램이 핵심 기능을 포기한 것은 AI 알고리즘 때문에 정부 조사까지 받는 처지가 됐기 때문이다. 지난 9월 인스타그램의 모회사인 메타(옛 페이스북)의 한 전(前) 직원이 “메타가 자사 알고리즘이 선정적이고 증오를 부추기는 콘텐츠를 더 많이 노출하고 청소년에게도 유해하다는 것을 알면서 숨겼다”고 고발했다. 미국 각 주(州) 검찰이 연합해 이를 조사하고 있고, 회사 관계자들은 의회 청문회에 소환되고 있다.

AI 알고리즘을 앞세워 인터넷 세계를 평정한 테크 기업들이 딜레마에 빠졌다. 국내외에서 소셜미디어, 검색 엔진, 뉴스 플랫폼부터 인터넷 쇼핑, 배달, 택시 배차까지 일상생활에 깊숙이 파고든 알고리즘에 대한 불신이 커지고 있기 때문이다. 중립적일 것이라고 기대했던 알고리즘이 편향성을 보이거나 플랫폼 기업이 알고리즘을 조작했다는 의혹까지 제기되면서, 알고리즘에 대한 반격이 본격적으로 시작되고 있는 것이다.

◇시청 시간 20배로 늘리는 AI 알고리즘

플랫폼 기업들은 AI 기반의 알고리즘으로 성장해왔다. 닐 모한 유튜브 최고상품담당자(CPO)는 뉴욕타임스 인터뷰에서 “유튜브에 AI 알고리즘을 도입한 이후 총 시청 시간이 20배 이상 증가했다”라고 말했다. 알고리즘이 취향에 맞는 콘텐츠나 상품을 계속 추천하다 보니 사용자들은 플랫폼에 오래 머물고 구매도 늘어난다는 것이다.

하지만 최근 들어 알고리즘이 사람들을 양극화시키고, 보고 싶은 정보만 보게 한다는 주장이 끊이지 않고 있다. 일명 ‘필터버블’로 불리는 현상이다. 소셜미디어와 플랫폼들이 사용자의 욕구를 자극하는 극단적인 주장이나 선정적인 장면이 담긴 콘텐츠를 제시하면서 사용자들을 불러모으고, 그 결과 가짜 뉴스나 인종 혐오 콘텐츠가 인기를 끌게 된다는 것이다.

메타의 알고리즘 문제를 폭로한 직원 프랜시스 하우겐은 “(알고리즘 때문에) 중도 좌파는 극좌파로, 중도 우파는 극우파로 변하는 극단화 현상은 곳곳에서 관측되고 있다”고 했다. 알고리즘이 중도 우파에겐 극우 콘텐츠를, 중도 좌파에겐 극좌 콘텐츠를 추천하다 보면 일어날 수 있는 현상이라는 것이다. 트위터에 “미국 대선이 조작됐다”는 트윗을 올려 지지자를 결집시킨 도널드 트럼프 전 미국 대통령이 필터 버블을 악화시킨 대표적인 예로 꼽힌다.

알고리즘 문제로 신뢰성을 잃게 될 위기에 처한 빅테크들은 알고리즘의 영향을 최소화하는 서비스까지 선보이고 있다. 페이스북과 트위터는 사용자가 게시물이 등록된 시간 순으로만 콘텐츠를 볼 수 있는 기능을 도입했다.

◇알고리즘 조작·편향 의혹에 빅테크들 움찔

국내 플랫폼 기업들도 알고리즘 논란에서 자유롭지 않다. 네이버, 카카오, 쿠팡은 지난해 말부터 잇따라 알고리즘 조작 의혹에 휩싸였다. 지난해 10월 네이버는 자사나 협력사의 제품과 콘텐츠를 우선 노출하도록 알고리즘을 조정했다는 혐의로 공정위에서 과징금 267억원을 부과받았고, 쿠팡도 비슷한 이유로 지난 7월 공정위 현장 조사를 받았다.

택시 기사와 배달 기사들이 플랫폼에 갖는 불만도 알고리즘에 집중되고 있다. 택시 기사들은 카카오모빌리티가 배차 알고리즘을 조작해 승객에게 가까이 있는 일반 택시가 아닌 먼 곳에 있는 가맹 택시에 우선적으로 배차한다는 의혹을 제기하고 있다. 배달 기사 노조 라이더유니온은 알고리즘이 기사들의 시간당 배달 건수와 수익을 의도적으로 조정한다고 주장하고 있다.

국내 포털 사이트들이 알고리즘을 통해 뉴스를 선별, 제공하는 방식에 정치적 편향성이 개입됐다는 의문도 꾸준히 제기되고 있다. 카카오는 내년 ‘다음 뉴스’의 AI 알고리즘 편집을 폐지하기로 했다.