딥페이크 등 생성형 인공지능(AI) 기술을 이용한 범죄가 증가하면서, 이를 구분하는 방법에 대한 관심도 높아지고 있다.
방송통신심의위원회에 따르면, 지난 1~4월 연예인 얼굴을 포르노 영상과 합성한 딥페이크 영상물은 총 4691건으로 전년 총 946건 대비 약 400% 급증했다. 방심위는 “유명 연예인뿐 아니라 청소년과 일반인을 대상으로 한 성적 허위영상물도 확인되는 등 딥페이크 기술을 악용한 영상물 유포 증가가 심각하게 우려되는 상황”이라고 했다.
가수 권은비도 딥페이크를 이용한 허구의 음란성 사진으로 인한 피해를 알렸다. 소속사 울림엔터테인먼트는 이날 낸 입장문에서 “무분별한 명예훼손, 모욕, 성희롱, 허위사실 유포, 악의적 비방 등 악성 게시물 게시, 아티스트의 초상을 합성해 허구의 음란성 사진을 유포하는 행위를 한 자들의 범죄 행위에 대해 다수 게시물을 취합해 고소장을 제출했다”며 “선처 없는 강력한 형사적 법적 조치를 취할 것”이라고 했다.
딥페이크로 인한 유명인들의 피해는 국내뿐만 아니라 해외에서도 이어지고 있다. 지난 5월엔 인기 할리우드 남성 배우 제이콥 엘로디도 딥페이크 영상으로 피해를 입은 것으로 파악됐다. 이외에도 팝스타 스위프트, 래퍼 메간 디 스텔레온, 틱톡 스타 등 많은 여성 유명인들이 딥페이크로 인한 피해를 입었다.
◇ 손가락, 발가락이 6개?... 생성형 AI 영상 구별법은
이에 따라 영국 일간 가디언은 지난 1일(현지 시각) 생성형 AI 영상 구별법을 상세하게 보도했다.
우선 얼굴 중 입과 턱 부분을 자세히 살펴보면 된다. 딥페이크 특유의 어색함은 영상에 등장하는 인물의 입 주변에서 가장 도드라지기 때문이다. 얼굴의 다른 부위에 비해 입 주변 화질이 유독 떨어지거나 턱 주위가 잠시 일그러지는 순간이 포착된다면 조작된 영상일 가능성이 크다. 목소리와 입 모양이 일치하는지 확인하는 것도 힌트가 될 수 있다.
딥페이크 영상은 텍스트를 음성으로 변환해주는 TTS(Text To Speech) 기술로 인물의 목소리를 구현하기 때문에, 자연스러운 구어 표현보다는 국어책을 읽듯 단조롭고 기계적인 말투를 구사할 확률이 높다. ‘1㎝’(일 센티미터)를 ‘일 씨엠’으로 읽거나 ‘￦1000′(천원)을 ‘원천’으로 발음하는 등 어법에 어긋나는 언어 표현을 사용한다면 AI 영상일 가능성을 의심해 볼 수 있다.
얼굴과 몸의 전체적인 조화를 확인하는 것도 구별법 중 하나다. 2022년 5월 볼로디미르 젤렌스키 우크라이나 대통령이 자국 시민들에게 ‘무장을 해제하고 러시아군에 무기를 반납하라’고 종용하는 연설이 공개돼 큰 파장이 일었다. 물론 딥페이크 영상이었다. 당시 영상 속 젤렌스키 대통령 머리 크기는 덩치에 비해 다소 컸고, 목과 얼굴의 피부톤 차이도 심했다.
딥페이크 영상은 일관성이 부족한 경우가 있다. 가령 영상 속 인물의 셔츠나 넥타이 색이 갑자기 변하는 식이다. 실제로 지난 5월 유포된 미국 국무부 대변인 매튜 밀러 영상에서, 카메라가 잠시 기자석을 비춘 뒤 돌아오자 흰 셔츠에 하늘색 넥타이 복장이던 밀러가 어느새 하늘색 셔츠에 빨간색 넥타이를 맨 모습으로 바뀌었다.
이미지의 손가락과 발가락을 유심히 확인하는 것도 방법이다. 손가락, 발가락 개수가 6개 이상으로 나타나는 건 생성형 AI 기술의 대표적인 오류이자 치명적인 약점이다. 지난 4월 ‘트럼프 형사 기소를 축하하는 바이든과 해리스’라는 내용으로 조 바이든 미국 대통령과 카멀라 해리스 부통령이 활짝 웃으며 포옹하는 AI 생성 사진이 확산했는데, 당시 해리스 부통령 손가락이 6개로 나왔다.
이외에도 생성형 AI 이미지는 문자와 숫자를 제대로 구현해 내지 못하는 경향이 있다. 기호의 의미를 이해하지 못해 읽을 수 없거나 왜곡된 글자를 생성하는 것이다. 작년 4월, 트럼프의 가짜 머그샷 이미지에서도 뒤로 보이는 키 측정용 자에 정확한 숫자 대신 무의미한 문자들이 적혔다.
