22일(현지 시각) 페이스북과 트위터 등 소셜미디어에 미국 버지니아주 알링턴카운티에 있는 국방부 청사 펜타곤 폭발 사진이 게시됐다. 펜타곤 영내에서 검은 연기가 치솟는 모습은 러시아 관영 매체 RT와 트위터 유명 금융 뉴스 계정 ‘제로헤지’가 공유하면서 순식간에 전 세계로 확산됐다. 소식이 전해지자 미국 S&P500 지수가 출렁였다. 하지만 이 사진은 인공지능(AI)으로 만들어낸 가짜였다. 미 국방부 대변인은 블룸버그에 “국방부는 공격받지 않았다”고 밝혔다. AI가 만든 가짜 사진이 진실로 여겨지면서 소셜미디어와 기성 언론은 물론 주식시장까지 움직인 것이다.
전 세계에 ‘AI발 가짜 뉴스’ 비상이 걸렸다. 이미지와 동영상, 목소리까지 진짜처럼 만들어내는 생성형 AI를 이용해 가짜 뉴스를 쉽고 빨리 만들 수 있게 되면서 가짜 뉴스의 대규모 확산을 막기 점점 어려워지고 있기 때문이다. 전문가들은 내년 대선을 앞둔 미국, 총선이 치러질 한국에서 AI발 가짜 뉴스가 여론 조작과 선동 등에 활용되면 선거에 치명적인 영향을 미칠 수 있다고 경고한다.
지난 19일 미국 뉴스 신뢰도 평가 기관인 뉴스가드는 영어·중국어·프랑스어 등 7개 언어로 사용하는 뉴스 웹사이트를 대상으로 조사한 결과 뉴스의 전체나 대부분을 AI가 만드는 것으로 추정되는 사이트를 125군데 찾았다고 밝혔다. AI가 만든 가짜 뉴스가 교묘하게 온라인상에 똬리를 틀고 진짜 행세를 하고 있는 것이다.
이달 초 도널드 트럼프 전 미국 대통령은 소셜미디어 계정에 49초 분량의 CNN 뉴스 동영상을 올렸다. CNN 유명 앵커인 앤더슨 쿠퍼가 등장해 “조 바이든 미국 대통령이 코로나 사태에 대해 거짓말을 했으니 여러분은 분노해야 한다”고 목소리를 높인다. AP통신에 따르면 이 가짜 뉴스는 쿠퍼가 트럼프 전 대통령을 비판한 영상을 짜깁기한 것이고, 그의 목소리는 음성 복제 인공지능(AI)으로 만들었다. AI가 동원된 걸 모른 채 이 동영상을 본다면 영락없이 쿠퍼가 바이든 대통령을 강력하게 비난했다고 받아들일 수 있다.
AI 가짜 뉴스와 콘텐츠가 온라인에 범람하면서 세계 각국의 우려도 커지고 있다. 가짜 뉴스를 뒷받침할 사진·동영상을 이미지 생성 AI로 만들거나 허위 사실을 포함한 기사를 대화형 AI로 대량생산해 게재하는 뉴스 사이트들이 우후죽순으로 생겨나고 있다. AI 가짜 뉴스가 불러올 혼란을 막기 위해 국내외 정부에선 규제 도입을 추진하고 있다.
◇대선·총선 앞둔 국가들은 AI 경계령
뉴스가드에 따르면 AI가 만든 가짜 뉴스를 게재하는 뉴스 홈페이지는 하루 수백개의 콘텐츠를 쏟아낸다. 대부분 살아있는 유명인들의 부고 기사, 과거 뉴스를 최신 뉴스처럼 보이게 하는 기사, 조작된 사건과 거짓 주장들이 포함된 기사들이다. AI로 만들었다는 설명도 없이 가짜 뉴스가 소셜미디어를 통해 유통되면서 ‘솔깃한 정보’로 둔갑하는 것이다.
이 같은 가짜 뉴스 사이트가 범람하는 건 광고 수익 때문이다. 뉴욕타임스는 “클릭을 유도하고 이에 따른 광고 수익을 늘리기 위해 허위 콘텐츠가 제작된 것”이라고 했다. 뉴스가드가 지목한 가짜 사이트를 방문해보니 기사를 클릭할 때마다 팝업 광고가 뜨거나 기사 중간중간 배너 광고가 삽입돼 있었다. 뉴스가드는 “허위 정보를 갖고 클릭을 유도해 광고 수익을 최적화하도록 설계돼 있다”고 밝혔다.
전문가들은 정치 분야가 이 같은 가짜 뉴스와 콘텐츠에 특히 취약한 것으로 본다. 허위 정보를 일방적으로 전달하는 기존의 가짜 뉴스와 달리 챗GPT와 같은 대화형 AI를 사용하면 이용자와 실시간 상호작용을 통해 더 설득력 있는 콘텐츠를 만들어낼 수 있기 때문이다. 챗 GPT를 개발한 샘 올트먼 오픈AI CEO도 지난 16일 미 의회 청문회에서 “(AI에서) 가장 우려하는 것은 설득과 조작을 통해 일종의 1대1 대화형 허위 정보를 제공하는 능력”이라고 했다.
◇'AI가 만들었다’는 표시 의무화해야
초대형 정치 이벤트인 대선이나 총선을 앞둔 나라들은 이미 AI의 영향권 아래에 있다. 내년 11월 대선을 치르는 미국의 온라인상에는 AI를 동원한 가짜 뉴스가 넘쳐난다. 지난 4월 트럼프 전 대통령이 성추행으로 기소됐을 때 그가 경찰에 체포되는 사진이 소셜미디어에 올라왔고, 지난 1월에는 바이든 대통령이 트랜스젠더 혐오 발언을 하는 영상이 온라인에 퍼졌다. 각각 이미지 생성 AI, 목소리 생성 AI로 만든 가짜였다. 리시 수낙 영국 총리는 “기존의 프로파간다(선전) 봇들은 사전에 작성된 메시지를 반복적으로 보내는 형태에 그쳤는데 생성 AI를 활용하면 사용자에 따라 맞춤형 허위 정보를 생성해 낼 수 있다”며 “선거철에 대규모로 여론을 조작할 수 있다”고 경고했다.
내년 총선을 앞둔 한국도 같은 위험에 직면해 있다. AI 가짜 뉴스가 유튜브와 페이스북, 카카오톡 같은 소셜미디어나 메신저를 통해 확산되면 이를 막거나 걸러낼 수단도 마땅치 않다. 국민의힘 송석준 의원은 최근 국회에서 열린 한 행사에서 “생성 AI로 만든 가짜 뉴스가 곧 국내 정치권에도 밀려들 것”이라고 했다.
AI로 인한 허위 정보 범람 현상이 심각해지자 기업과 정부에서 이를 규제하는 움직임이 벌어지고 있다. 구글은 지난 10일 생성 이미지 기능을 출시하면서 AI 생성 이미지의 모든 원본 파일에 ‘구글이 생성한 AI 이미지’라는 표시를 할 것이라고 밝혔다. EU는 AI가 만든 콘텐츠에 표기를 의무화하는 규제안을 검토하고 있다. 미국에서도 AI로 만든 정치 광고 영상과 사진에 출처를 의무적으로 표기하도록 하는 이른바 ‘메이드 바이 AI(made by AI)’ 법안이 발의됐다. 이상헌 더불어민주당 의원은 지난 22일 AI를 이용해 제작된 콘텐츠의 경우 그 사실을 표시하도록 하는 ‘콘텐츠산업 진흥법 일부개정법률안’을 대표 발의했다.
