진짜 얼굴(R)과 인공지능이 합성한 얼굴(S)./PNAS

인공지능(AI)이 실제 사람과 구별할 수 없을 정도의 얼굴을 만들 수 있으며, 사람들이 가짜 얼굴을 오히려 더 신뢰한다는 연구 결과가 나왔다. AI가 딥페이크 같은 범죄에 악용될 수 있다는 우려가 나온다. 영국 랭커스터대 연구진은 15일(현지 시각) 이 같은 연구 결과를 미 국립과학원회보(PNAS)에 밝혔다.

먼저 연구진은 AI를 통해서 가짜 얼굴을 만들어냈다. 이어 사람들이 AI가 합성한 사진과 진짜 사진을 구별할 수 있는지 실험했다. 실제 사진 400장과 AI로 만든 사진 400장을 준비했다. 실험 참가자 315명은 800장의 사진 중 128장을 뽑아 실제인지 합성인지 구별하도록 했다. 그 결과 정확도는 48.2%로 나타났다. AI가 만든 얼굴을 분류하는 방법을 배운 219명의 새로운 참가자는 같은 실험에서 정확도 59%를 나타냈다. 방법을 알고 모르고를 떠나 사람들이 진짜와 가짜 사진을 절반밖에 구분하지 못한다는 것이다.

신뢰도가 높은 상위 4개 중 3개(S)가 합성 사진이었고, 신뢰도가 낮은 4개 사진은 모두 진짜(R) 사진이었다./PNAS

연구진은 사람들이 가짜 사진을 더 신뢰한다는 것도 확인했다. 223명의 참가자에게 1(매우 신뢰할 수 없음)에서 7(매우 신뢰할 수 있음)까지 점수를 주도록 했다. 앞선 실험과 마찬가지로 800장의 사진 중 128장을 뽑아 실험했다.

그 결과 AI가 합성한 얼굴의 평균 신뢰도(4.82)는 실제 얼굴의 평균 신뢰도(4.48)보다 더 높았다. 높은 점수 순으로 가장 믿을 수 있는 얼굴 상위 4명 가운데 3명은 합성얼굴이었다. 낮은 점수순으로 가장 믿을 수 없는 얼굴 4명은 모두 진짜였다. 연구진은 “합성한 얼굴이 평균적인 사람의 얼굴에 더 가깝고 이런 전형적인 얼굴을 신뢰할 가능성이 더 크다”고 말했다.