미국 유명 여배우들이 소셜미디어에 무분별하게 올라오는 ‘딥페이크’ 음란 광고로 인해 피해를 보고 있는 것으로 전해졌다. 딥페이크는 얼굴이나 소리를 조작하는 인공지능(AI) 기술이다.
9일(현지 시각) NBC 뉴스에 따르면 최근 엠마 왓슨과 스칼렛 요한슨 등 미국 여배우 얼굴을 합성한 음란물 딥페이크 광고 수백개가 페이스북과 인스타그램 등 소셜미디어에 게재됐다. 여배우들을 음란물에 합성한 광고를 내보낸 회사는 자사의 딥페이크 앱을 홍보하기 위해 이 같은 일을 벌였다.
페이스북과 인스타그램을 운영하는 메타 등 대다수 플랫폼은 악의적으로 조작된 딥페이크 콘텐츠를 금지하고 있다. 하지만 규제 틈을 교묘하게 파고들면 일일이 규제하기 어러운 실정이다. 실제로 문제의 딥페이크 앱은 지난 5~6일 이틀간 페이스북과 인스타그램 등에 230개 이상의 영상 광고를 내보낸 것으로 조사됐다.
광고 영상을 보면, 미국 최대 포르노 사이트 ‘폰허브’(Pornhub)의 인트로 영상이 재생된 뒤 엠마 왓슨으로 보이는 여성이 등장해 성적인 행위를 한다. 당연히 영상에 등장하는 여성은 실제 엠마 왓슨이 아니다. 포르노에 얼굴만 합성된 것이다. 화면 상단에는 “비디오에 아무 얼굴이나 합성해보세요”라는 문구가 버젓이 적혀 있다. 유명 여배우뿐만 아니라 일반인도 얼마든지 피해 대상이 될 수 있다.
매체가 실제로 문제의 앱을 사용해 딥페이크 기술을 적용했더니 1분도 채 되지 않은 시간 동안 영상 속 얼굴을 손쉽게 바꿀 수 있었다고 한다. 2022년 개발된 이 앱은 애플의 앱스토어에서 만 9세 이상만 되면 무료로 자유롭게 다운로드받을 수 있었다.
이와 관련해 메타 대변인은 “우리는 AI에 의해 생성되었는지 여부와 관계없이 성인용 콘텐츠를 금지하고 있다”며 “현재 이 앱이 우리 플랫폼에서 광고하지 못하도록 제한한 상태”라고 밝혔다. 애플 관계자도 “지적을 받고 앱스토어에서 문제의 앱을 삭제했다”며 “아직 딥페이크에 대한 구체적 규칙을 갖고 있지 않지만, 명예훼손 등의 우려가 있는 음란물 콘텐츠가 포함된 앱은 금지하고 있다”고 했다.
한편 딥페이크 기술이 음란물 등에 악용될 수 있다는 지적은 이전부터 이어왔다. 온라인 합성 미디어 모니터링 회사인 딥트레이스의 2019년 보고서에 따르면 온라인 딥페이크 영상의 96%가 음란물이다. 대부분 동의 없이 상대방 얼굴을 무단으로 가져다 쓴 경우다. 국내에서도 지난해 2월 한 20대 남성이 고등학교 후배 얼굴을 음란물에 합성해 소셜미디어에 퍼뜨리는 일이 있었다. 당시 가해 남성은 “내 노예가 되면 삭제해주겠다”는 취지로 피해자를 협박하기도 한 것으로 조사됐다.
