‘딥페이크 성범죄’ 사건으로 피해를 입었거나 입은 것으로 추정되는 전국 초·중·고등학교와 대학교를 표시한 ‘딥페이크 피해학교 지도’. 최근 소셜미디어 엑스(X) 등에서 확산하고 있는 ‘딥페이크 피해학교 목록’을 바탕으로 이번 사태의 심각성을 널리 알려 추가 피해를 막으려는 목적으로 사이트 개발자 ‘팀 데이터스택’이 제작했다. 팀 데이터스택은 중학교 3학년 남학생으로 알려졌다. 지도에 표시된 학교들은 텔레그램과 엑스 등 각종 커뮤니티에서 자료를 수집해 임의로 게시한 것이어서 부정확한 정보가 포함돼 있을 수 있다. /그래픽=김하경

감사원이 ‘딥페이크 성범죄’에 대한 정부의 대처가 미온적이었던 것은 아닌지를 따지는 감사를 준비 중인 것으로 알려졌다. 인공지능(AI) 기술을 악용한 새로운 유형의 범죄가 나타나고 있는데도 정부의 사전 대응이 미흡해 피해가 커진 것은 아닌지 들여다보겠다는 것이다.

29일 본지 취재를 종합하면, 최재해 감사원장은 최근 감사원 사무처에 딥페이크 성범죄, 딥보이스 피싱 등 AI 기술을 오·남용한 범죄에 대한 정부의 사전·사후 대응이 적절했는지를 점검하는 감사를 검토하라고 지시했다.

감사원은 올 초부터 ‘인공지능 시대 대응 실태(오·남용 등 위험 대비 규제 분야)’라는 이름의 감사를 준비해 왔다. AI 기술의 급속한 발달과 함께 나타난 AI 기술 오·남용에 대해 정부가 적절한 규제를 통해 대응하고 있는지를 살펴보려는 계획이었다.

감사원은 최 원장의 지시에 따라, 이 ‘인공지능 시대 대응 실태’ 감사에서 특히 영상 합성 기술을 이용한 성범죄와 음성 합성 기술을 이용한 전화 사기 범죄가 새로운 유형의 범죄로 나타났는데도 정부가 소극적으로 대처해 피해를 키운 것은 아닌지 집중적으로 살펴보기로 했다. 이를 위해 감사원은 관련 규제 기관인 과학기술정보통신부와 방송통신위원회, 개인정보보호위원회, 수사 기관인 경찰청 등을 잠재적인 감사 대상으로 보고 감사 준비에 들어갔다. 감사는 정부가 미래 위험 요인에 대비하고 있는지를 상시 점검하는 부서인 미래전략감사국이 실시하고, 이르면 11월쯤 실지 감사(현장 조사)에 착수할 계획이다.

감사원은 이번 감사에서 딥페이크 성범죄 예방 부족에 대한 각 기관의 책임을 추궁하기보다는, 정부의 AI 관련 정책에 미흡한 부분이 있는지, 개선할 부분이 있는지를 집중적으로 살펴보겠다는 계획인 것으로 알려졌다. 감사원 관계자는 “일하는 공무원들의 특정한 행위를 문제 삼는 감사가 아니라, 각 기관이 일을 더 잘할 수 있게 지원하기 위한, 문제 예방을 위한 감사”라고 강조했다.

최재해 감사원장이 지난 23일 국회에서 열린 법제사법위원회 전체회의에서 의원 질의에 답변하고 있다. /뉴시스

최재해 감사원장도 지난 28일 감사원 개원 76주년 기념식에서 “(감사원은 정부가) 긴 안목으로 미래를 준비할 수 있도록, 4차 산업혁명 시대의 통신 재난, AI 오·남용, 사이버 공격 등 다가오는 위험 요인들을 심도 있게 살피고, 정부의 선제적 대비를 지원해야 한다”고 했다.