국가정보원은 9일 중국에서 개발한 생성형 AI 서비스 딥시크에 대한 기술 검증을 실시한 결과 과도한 개인정보 수집 등 보안상 유의 사항이 발견됐다고 밝혔다.
국정원은 이날 보도자료를 통해 “최근 생성형 AI 서비스 딥시크의 국내 사용이 증가하는 가운데 기술 검증을 실시한 결과 과도한 개인정보 수집, 모든 입력 데이터의 서비스 학습 데이터로 활용, 광고주 등과의 제한 없는 사용자 정보 공유, 같은 정보의 국외 서버 저장 등 보안 유의 사항과 함께 동북공정ㆍ김치ㆍ단오절 등 질문시 언어별로 답변이 상이한 점을 확인했다”고 했다.
국정원에 따르면 딥시크는 다른 생성형 AI 서비스와 달리 개인을 식별할 수 있는 키보드 입력 패턴 등을 수집하고, 중국 업체 서버(volceapplog.com 등)와 통신하는 기능이 포함돼 있어 채팅 기록 등이 전송될 수 있는 것으로 나타났다. 또 사용자 입력 데이터를 학습 데이터로 활용하는 것을 차단하는 기능이 없어, 사용자의 모든 정보가 학습 데이터로 유입·활용되는 문제점이 확인됐다. 사용자의 서비스 이용 정보를 광고주와 무조건 공유하도록 되어있고, 보유 기간도 명시되어 있지 않아 광고주 등과의 제한 없는 사용자 정보 공유 및 무제한 보관이 가능한 것도 보안상 우려로 지적됐다. 딥시크 이용 약관상 우리 국민의 개인정보·입력 데이터 등이 중국 내 서버에 저장되며, 중국 법률에 따라 중국 정부 요청 시 제공할 수 있도록 되어있다.
챗GPT나 클로버X 등 다른 생성형 AI 서비스는 같은 질문에 대해 언어와 무관하게 동일한 답변을 했으나 딥시크는 영어와 중국어 등 다른 언어로 질문할 때 답변 값이 달랐다. 예컨대 딥시크는 동북공정의 정당성을 묻는 한국어 질문에는 “주변 국가와의 역사적 해석 차이로 다양한 차이가 존재한다”고 답했으나 영어와 중국어 질문에는 “중국 동북지역 활성화를 위한 정당한 이니셔티브”라며 “중국 이익에 부합한다”고 전혀 다른 답변을 했다. 김치의 원산지를 묻는 중국어 질문에는 “원산지는 한국이 아닌 중국”이라고 사실관계가 틀린 답변을 했고 단오절이 어디 명절이냐는 중국어 질문에 “중국의 전통 명절”이라는 엉터리 답변을 내놨다.
국정원은 최근 정부 부처에 딥시크 등 생성형 AI 업무 활용 시 보안 유의를 강조하는 공문을 배포했다. 국정원 관계자는 “향후 유관 기관과 협조하에 딥시크의 기술 안전성 등에 대한 면밀한 점검을 시행할 것”이라며 “점검 결과에 대해 필요할 경우 국민에게 추가적으로 설명할 예정”이라고 했다.
