중앙선관위가 오는 4월 총선을 앞두고 AI 딥페이크(가짜 동영상·목소리)를 이용한 불법 게시물 129건을 적발했다고 한다. 19일간 감시한 결과가 이렇다. 선관위가 적발한 딥페이크는 상대방 후보가 나오는 동영상을 교묘하게 조작, 발언의 일부를 왜곡하거나 통째로 조작해 SNS에 유포시킨 것이 대부분이었다. 자세히 봐도 후보가 문제의 발언을 한 것처럼 속을 정도다. 2022년 지방선거 당시 윤석열 대통령이 국민의힘 경남지역 지자체의 특정 후보를 지지하는 듯한 가짜 영상이 나돌았는데, 이와 유사한 것들도 적발됐다고 한다.
선관위가 70명의 직원을 투입해 삭제한 딥페이크 129건은 모두 자체 모니터링을 통해서 파악한 것이다. 선관위가 구축한 딥페이크 감시 시스템은 민간보다 뒤처졌고 인력도 한계가 있어 이번에 적발되지 않은 총선 관련 딥페이크는 훨씬 더 많을 수 있다.
구글과 오픈AI 등 20개의 글로벌 빅테크 기업이 딥페이크가 선거의 공정성을 저해하지 않도록 ‘연합군’을 만들어 대응하기로 한 것은 딥페이크의 심각성을 보여준다. ‘2024년 선거 AI 기만적 사용 방지 기술 협약’을 맺은 이들 업체는 AI 콘텐츠의 위험 완화를 위한 기술 개발과 확산 방지 노력을 함께하기로 했다.
반면 네이버, 카카오톡 등 국내 대형 테크 기업들은 딥페이크를 막기 위해 적극적으로 나서지 않고 있다. 선관위로부터 신고가 들어오는 경우에만 처리하겠다는 입장이다. 이들 업체는 사실상 국내에서 인터넷 독과점을 누리면서 공익을 위해 나서야 할 때는 소극적인 태도를 보이고 있다. 이번 총선이 딥페이크의 왜곡된 정보에 영향받지 않도록 선관위가 이들 테크 기업과의 협력 체제를 구축할 필요가 있다.
여론조사를 왜곡해 퍼뜨리는 위법행위도 잇따르고 있다. 중앙선거여론조사심의위는 여야 후보 간 여론조사, 당내 경선 관련 여론조사 등을 조작한 범죄 5건을 수사 기관에 고발했다. 경선 통과를 위해 SNS 단체방에 여론조사 전화 응답 시 연령을 거짓으로 응답하도록 유도하는 글을 게시한 이들도 적발됐다. 디지털 기술의 발전이 선거를 위협하는 것은 이제 시작일 수 있다. 선관위와 관련 업계가 큰 책임 의식을 가져야 한다.
공정한 여론에 따른 총선이 보장되지 않으면 민주주의가 후퇴하는 것은 물론, 감당하기 어려운 혼란이 우리 사회를 휩쓸게 될 것이다.
