국내 걸그룹 멤버 사진을 대량으로 도용해 학습시킨 인공지능(AI) 모델 이미지가 온라인상에 무단으로 유포되고 있는 것으로 나타났다.
27일 AI 모델 이미지 공유 사이트 시빗AI에는 블랙핑크, 뉴진스, 르세라핌, 아이브 등 인기 걸그룹 멤버의 이미지를 학습시킨 AI 모델 이미지가 다수 올라와 있다.
걸그룹 멤버의 얼굴에 다양한 헤어 스타일, 패션, 체형을 덧입혀 실제 모델 사진처럼 만들어 내놓는 것이다.
이 파일들은 영국의 대표적 생성 AI 스타트업 스태빌리티 AI의 이미지 생성 도구 ‘스테이블 디퓨전’을 통해 가공된 것으로 알려졌다. 스테이블 디퓨전은 이용자가 입력한 명령어 프롬프트를 토대로 이미지를 생성하는데 이 과정에서 방대한 분량의 이미지를 학습시켜 만들어낸 데이터를 소재로 쓴다.
스테이블 디퓨전의 모델은 전반적인 화풍을 결정하는 ‘체크포인트’와 모델의 얼굴이나 포즈 등을 결정하는 ‘LoRA’로 나뉜다. 이 중 딥페이크 제작에 주로 쓰이는 LoRA는 용량이 적게는 수십메가바이트(MB)에 불과하고 제작이 상대적으로 쉬운 편이라 시빗AI 같은 사이트나 온라인 커뮤니티에서 손쉽게 공유되고 있다.
스테이블 디퓨전은 일반인도 PC에서 오프라인으로 구동해 손쉽게 만들어 낼 수 있는 것이 특징이다. 보급형 GPU(그래픽처리장치)가 장착된 PC와 약간의 지식만 있다면 누구나 클릭 한 번으로 AI 모델을 다운받은 뒤 클릭 몇 번 만으로 고해상도 합성 사진을 만들 수 있는 셈이다.
온라인에는 ‘스테이블 디퓨전 사용법’ ‘AI 모델 만들기’와 같은 글이 올라와 공유되고 있다.
문제는 이런 합성 사진이 딥페이크 등 음란물 창작에 쓰일 위험이 있다는 점이다.
실제 유튜브에서는 이같은 AI 모델의 이미지를 선정적으로 활용한 ‘AI 룩북’ 콘텐츠가 성행하고 있다. 일부 이용자들은 AI가 생성한 음란물을 판매하고 있다.
미국에선 최근 AI 도구를 활용한 아동 성착취 이미지가 거래되고 있어 논란이 됐다. 워싱턴포스트(WP)는 지난 19일(현지 시각) “생성 AI 도구를 활용해 몇 초 만에 성적 이미지를 만들어낼 수 있다”며 “AI 혁명이 아동 성착취물 이미지 제작을 폭발시켰다”며 고 보도했다.
스테이블 디퓨전을 운영하는 스태빌리티 AI는 성명을 통해 “아동 성 학대 이미지 생성을 금지하고 불법 또는 악의적인 사용에 대해 법적 조치를 취하겠다”고 밝혔지만 WP는 “누구나 컴퓨터에서 손쉽게 제작할 수 있어 회사 규칙과 감독을 거의 피할 수 있다”고 보도했다.
