오픈AI가 챗GPT를 악용한 북한 관련 계정을 적발하고 이를 삭제했다고 21일 밝혔다. 해당 계정들은 허위 이력서 작성, 온라인 프로필 생성을 위해 챗GPT를 활용한 것으로 드러났다.
오픈AI에 따르면, 북한과 관련된 계정들은 챗GPT를 이용해 허위 이력서와 온라인 프로필을 생성했고 이를 이용해 서구권 기업에 취업을 하려는 목적이었다. 다만 오픈AI는 삭제한 계정의 정확한 수와 삭제 시점에 대한 구체적인 내용은 공개하지 않았다.
이미 북한은 서방의 첨단 기술을 빼돌리거나 불법 핵무기 프로그램을 위한 자금을 조달하려 생성형 AI를 활용하고 있는 것으로 알려졌다.
북한 해커들은 이전부터 링크트인과 같은 소셜미디어 플랫폼을 이용해 사이버 보안 및 가상화폐 기업 직원들을 표적으로 삼아 민감한 정보나 자산에 접근하려 시도해 왔다. 최근에는 생성형 AI를 활용해 더욱 정교한 방식으로 접근하고 있는 것으로 나타났다. 가짜 채용 담당자 프로필을 작성해 피해자와 오랜 기간 신뢰 관계를 구축한 뒤, 스파이웨어를 설치해 자금을 빼내는 수법을 쓰는 것이다.
오픈AI는 북한 계정 외에도 중국과 관련된 계정들을 삭제했다고 밝혔다. 일부 중국 계정들은 챗GPT를 활용해 미국을 비방하는 스페인어 뉴스 기사를 작성한 것으로 확인됐다. 해당 기사들은 중국 기업의 이름으로 남미 주요 뉴스 매체에 게재됐다.
중국의 한 보안 조직은 소셜미디어에서 반중국 성향의 게시물을 감시하기 위한 AI 기반 도구를 개발한 것으로 나타났다. 오픈AI는 이를 ‘피어 리뷰’(Peer Review)라고 명명했다. 오픈AI는 “조직이 감시 도구의 일부 코드를 디버깅하는 과정에서 챗GPT를 사용한 사실을 확인했다”고 설명했다.
벤 님모 오픈AI 수석 연구원은 “AI 기반 감시 도구가 발견된 것은 이번이 처음”이라며 “악의적인 행위자들이 우리의 AI 모델을 사용할 때 남기는 흔적을 추적함으로써 이들의 인터넷 활동을 파악하고 악의적인 행위를 탐지할 수 있다”고 했다.
