오픈AI가 간단한 명령어를 입력하면 60초 분량의 비디오를 만들어주는 생성형 비디오 AI 서비스 ‘소라(Sora)’를 선보였다. 문자로 대화를 주고받는 챗봇 ‘챗GPT’, 명령어를 통해 이미지를 구현하는 ‘달리’를 갖춘 오픈AI가 영상 분야로까지 사업을 확장한 것이다. 다만 소셜미디어 등에서 ‘딥페이크’ 피해가 점차 심각해지는 가운데 오픈AI의 신기술이 악용될 여지가 많다는 우려도 나온다.
15일(현지 시각) 오픈AI는 이미지 생성 AI인 달리를 기반으로 한 비디오 생성 서비스 소라를 공개하고, “소라는 시각적인 품질을 유지하며 최대 1분 길이의 비디오를 생성할 수 있다”고 했다. 예시로 오픈AI는 ‘커피잔 안에서 충돌하는 두 척의 해적선’이라는 명령어를 구현한 영상 등 9개 샘플을 공개했다. 그러면서 “소라는 여러명의 캐릭터, 특정 유형의 동작, 피사체와 배경의 정확한 세부 정보 등 복잡한 장면을 비디오로 생성할 수 있다”고 했다.
다만 오픈AI는 현재 소라의 모델에 기술적 단점이 있다고도 했다. 오픈AI는 “복잡한 장면의 물리학적 구성을 정확하게 도출하는데 어려움을 겪을 수 있다”며 “예컨대 누군가 쿠키를 한 입 베어물었지만 쿠키에 물린 자국이 없을 수도 있다”고 설명했다.
딥페이크 우려 등에 대해 오픈AI는 “소라는 대중에게 공개되기 전 중요한 테스트를 거치며 안전 조치를 취할 것”이라고 했다. 당장 소라를 소수의 예술가와 영화 제작자에게만 제공할 것이며, 이와 동시에 가짜뉴스나 딥페이크를 처리하는 전문 ‘레드 팀’ 구성원들과 협력해 소라로 형성된 영상을 감별 할 수 있는 기술을 마련하겠다는 것이다. 오픈AI는 “예를 들어 극단적인 폭력이나 성적이고 혐오스러운 이미지 또는 유명인의 초상을 사용하라는 요청을 거부하게 할 것”이라며 “또한 생성된 모든 비디오를 검토해 표시되기 전 사용 정책을 준수하는지 확인하겠다”고 했다.
이같은 대처에도 기술이 오용될 수 있다는 우려는 여전하다.미국 CNBC는 “오픈AI의 비디오AI는 생성AI 산업의 차세대 개척자가 될 수 있지만, 심각한 가짜 정보 문제를 야기할 수도 있다”며 “AI 분석 업체 클래리티의 데이터에 따르면 AI로 생성된 딥페이크의 수는 전년 대비 900% 폭증했다”고 전했다.
