AI와의 지독한 갈등이 시작됐다 : 10대 사건 [류현정의 아하! 스토리]

※ 스토리와 테크놀로지는 뗄레야 뗄 수 없습니다. 테크놀러지 전문 기자가 현대 스토리 비즈니스가 어떻게 돌아가는지 짚어드립니다.

<아하! 스토리> 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/231530

“안녕하세요? 신인 가수 미드낫입니다.”

지난 5월 15일 국내 최대 엔터테인먼트 회사인 하이브가 기술 융합 아티스트 프로젝트 ‘미드낫(MIDNATT)’을 공개했습니다. 신인 가수라는 미드낫은 디지털 싱글 ‘마스커레이드(Masquerade)’를 한국어·영어· 일본어·중국어·스페인어·베트남어 등 6개 언어로 부르더군요.

이 언어 천재가 누굴까 싶었는데, 알고보니 미드낫은 신인 가수가 아니라 그룹 에이트·옴므 출신의 17년차 가수 이현이었습니다. 그가 6개 언어로 노래를 부를 수 있었던 것도 하이브가 인수한 인공지능(AI) 음성 기술 회사 수퍼톤의 ‘다국어 발음 교정 기술’과 ‘보이스 디자인 기술’ 덕분이었구요.

그렇습니다. 미드낫 프로젝트가 보여주듯, 인류는 AI 기술로 언어 장벽이 사라진 세상에서 여러 개의 자아로 살아가게 될 것입니다. 세상의 질서와 정답이 송두리째 바뀌고 있는 것이죠. 기존 질서에 익숙한 집단과 새 질서를 만드는 집단 사이의 갈등도 시작되었습니다.

이번 주 <아하! 스토리> 주제는 AI를 둘러싼 갈등입니다. 특히 창작자들의 이해 관계에도 영향을 미칠 갈등 사건 10개를 시간 역순으로 정리했습니다. 새로운 질서와 정답의 방향이라도 가늠해보자는 심정으로요.

🔟 2023년 6월 : 유럽의회, AI 규제 법안 채택

세계 최초의 AI 규제 법안 제정이 8부 능선을 넘었습니다. 지난 6월 14일(현지시간) 유럽의회는 본회의에서 AI 규제 법안이 찬성 499표, 반대 28표, 기권 93표로 채택됐다고 밝혔습니다. 유럽의회, 집행위원회, 27개국을 대표하는 이사회의 3자 협상이 끝나면 법안은 최종 승인됩니다.

(스트라스부르[프랑스] AFP=연합뉴스) 유럽의회가 14일(현지시간) 프랑스 동부 스트라스부르 본부 회의장에서 유럽연합(EU) 내 인공지능(AI)을 규제하기 위한 법안 협상안을 표결하고 있다. 유럽의회는 이날 본회의 표결에서 협상안이 찬성 499표, 반대 28표, 기권 93표로 가결됐다고 밝혔다.

한때 세계를 호령했던 유럽이지만, 이제 기술을 따라갈 수 없으니 시장이라도 지켜보겠다는 발상이 법안에서도 감지되네요. 유럽의회의 AI 규제 법안은 2가지를 강조합니다. ‘첫째, 투명하고 추적가능해야 한다. 둘째, 위험도에 따라 차등 규제하겠다.’

하나씩 살펴보도록 하겠습니다.

우선, 아래 기능을 제공하는 AI는 ‘허용할 수 없는 위험’으로 분류돼 금지됩니다. 가령, 중국 사회에서 널리 쓰는 실시간 안면 인식 시스템은 아예 금지됩니다.

사회적 점수: 행동, 사회 경제적 지위 또는 개인적 특성에 따라 사람들을 분류하는 시스템
안면 인식과 같은 실시간 및 원격 생체 인식 시스템
사람 또는 특정 취약 집단에 대한 인지 행동 조작 시스템 (가령, 어린이한테 위험한 행동 조장)

다음은 ‘위험’으로 분류되는 AI입니다. AI 출시 전은 물론 AI 출시 후에도 당국의 지속적인 평가를 받아야 합니다.

EU의 제품 안전법 적용을 받는 제품에 사용되는 AI (장난감, 항공기, 자동차, 의료 기기, 승강기 등)
EU 데이터베이스에 등록해야 하는 8가지 특정 영역의 AI(자연인의 생체 인식 및 분류, 주요 인프라의 관리 및 운영, 교육 및 직업 훈련, 고용, 근로자 관리, 자영업, 필수 민간 서비스와 공공 서비스 접근 관리, 법률 집행, 이주/망명 및 국경 통제 관리, 법률 해석 및 적용에 관한 지원)

‘챗GPT’와 같은 생성 AI는 다음과 같은 투명성 요건을 지켜야 합니다. 이걸 지키려면 생성 AI 회사는 많은 것을 공개해야 하는 데요, ‘챗GPT의 아버지’ 샘 올트만 오픈AI CEO 가 “유럽 시장엔 진출하지 않겠다”며 반발하기도 했지요.

AI가 생성한 콘텐츠의 경우 그 사실을 공개할 것
불법 콘텐츠가 생성되지 않도록 AI 모델을 개발할 것
AI 학습에 사용된 저작권 데이터를 요약해서 게시할 것

9️⃣ 2023년 6월 : AI 창작 음악, 그래미 어워드는 ? “예스 or 노”

미국 로스엔젤리스에서 열린 제 65회 그래미 시상식 힙합 공연. /로이터- 연합

미국에서 가장 권위있는 대중음악 시상식인 그래미 어워드(Grammy Award)를 주최하는 곳은 전미 레코딩 예술 과학 아카데미(NARAS·National Academy of Recording Arts and Sciences·레코딩 아카데미)입니다.

지난 6월 17일 레코딩 아카데미가 AI 활용 음악에 대한 일종의 시상 가이드라인을 발표했습니다. 이 가이드라인은 제66회 그래미 시상식(Grammy Award 2024)에 적용됩니다.

레코딩 아카데미 하비 메이슨 주니어(Harvey Mason Jr. ) CEO의 정확한 발언은 다음과 같습니다.

“At this point, we are going to allow AI music and content to be submitted, but the GRAMMYs will only be allowed to go to human creators who have contributed creatively in the appropriate categories. (현 시점에서 AI 음악 및 콘텐츠 제출을 허용할 예정힙니다. 다만, 그래미상은 해당 카테고리에서 창의적으로 기여한 인간 창작자에게만 갈 수 있습니다.)”

결국 AI를 활용한 음악이라고 할 지라도 인간이 상당한 수준으로 곡의 완성도를 높이는 데 기여했다면, 또 그 증거가 있다면 그 곡을 AI와 함께 만든 인간이 수상자가 될 수 있다는 것이지요. 반대로 인간의 기여가 크지 않은 AI 곡이라면 그래미 상을 받을 수 없습니다.

레코딩 아카데미는 이 가이드라인을 발표하기 전, 음악 산업계 리더, 기술 기업가, 스트리밍 서비스 관계자, 아티스트 커뮤니티 관계자들과 함께 서밋(회담)을 개최했다고 합니다. 음악에서 AI의 역할과 미래에 대해 논의하고 레코딩 아카데미가 어떻게 도움이 될 수 있는지 각계각층의 조언이 이어졌다고 해요.

레코딩 아카데미가 숙의를 통해 마련한 그래미 가이드라인은 다른 영역에서 참고할 만한 가장 현실적인 시상 기준이 될 것으로 보입니다.

8️⃣ 2023년 5월 : 웹툰 별점 테러

2023년 5월 23일 웹툰 업계에 따르면, 네이버웹툰 신작 ‘신과 함께 돌아온 기사왕님’이 극도로 낮은 별점을 받았습니다. 독자들은 “인물의 손가락이 어색하고 화풍이 컷마다 변한다”면서 생성 AI를 활용한 웹툰 제작에 강한 거부감을 드러내며 일부러 낮은 별점을 줬습니다. 이날 무료 공개된 1화의 별점은 10점 만점에 1.94점에 그쳤습니다. 네이버웹툰의 요일 웹툰 600여편 중 가장 낮은 점수를 기록한 것이지요.

생성형 AI를 활용해 웹툰을 제작했다는 논란에 휩싸인 네이버웹툰 '신과함께 돌아온 기사왕님'의 댓글란. 소비자들은 AI가 웹툰에 활용되는 것이 위험하다고 지적하고 있다. (네이버웹툰 댓글란 갈무리)

이같은 독자들이 반응에 깜짝 놀란 네이버웹툰과 카카오엔터테인먼트가 공모전에서 생성 AI 활용을 사실상 제한했습니다. 네이버웹툰은 ‘2023 지상최대공모전’ 웹툰 부문 2차 접수 단계부터 생성 AI 활용작을 받지 않기로 했고 카카오엔터테인먼트도 지난달 말 ‘인간이 웹툰을 지배함’ 공모전에서 ‘인손인그(인간의 손으로 인간이 그린) 작품들의 많은 지원을 바란다’고 공지하며 생성 AI 활용을 배제했습니다.

웹툰 독자에 이어 웹툰 작가와 일러스트레이터들도 “도둑질로 만든 AI 웹툰을 반대한다”며 단체 행동에 나섰습니다. 6월 2일부터 네이버웹툰 ‘도전만화’에는 ‘AI웹툰 보이콧’ 게시물이 연달아 올라왔습니다. 도전만화는 누구나 웹툰을 올릴 수 있는 아마추어 창작자 플랫폼입니다. 이들은 “기술의 발전을 반대하는 것이 아니다” “무단 도용과 복제·짜깁기한 이미지, 훔친 그림의 상업적 이용, 초상권 침해에 반대한다”고 했습니다.

문화체육관광부는 오는 9월까지 ‘저작권 관점에서의 AI 산출물 활용 가이드(가칭)’를 마련한다는 계획인데요, AI 활용을 아예 배제할 수 없는 상황에서 웹툰 업계는 이 가이드라인을 애타게 기다리고 있습니다.

7️⃣ 2023년 5월 : 미국 작가조합, 15년만의 파업

지난 5월 2일 미국 작가조합(WGA·Writers Guild of America West)이 파업을 시작했습니다. 미국 작가조합은 1만1500명의 작가를 대변하는 단체인데요, 작가조합의 파업은 2007년 이후 15년 만이라고 합니다.

작가조합의 파업 사태가 예상보다 장기화하고 있습니다. 신작 영화의 개봉일들을 줄줄이 연기될 정도입니다. ‘아바타3′의 개봉일을 당초 예정돼있던 2024년 12월 20일보다 약 1년 늦춘 2025년 12월 19일로 변경됐습니다. ‘캡틴 아메리카: 브레이브 뉴 월드’는 2024년 7월, ‘썬더볼츠’는 2024년 12월, ‘블레이드’는 2025년 2월, ‘판타스틱4′는 2025년 5월로 밀렸습니다.

AFP 연합

작가들이 대규모 파업에 나선 이유는 2가지입니다. 우선 스트리밍 시장의 급성장에 따른 작가들의 수익 창출 기회 감소 때문입니다. 2019년부터 넷플릭스, 아마존프라임, 훌루, 피콕, HBO맥스, 디즈니+, 애플+ 등 스트리밍 춘추전국 시대가 열리면서 DVD 시장이 급속하게 쪼그라들었고 유선 케이블 방송에서 작품이 재방영 되는 횟수가 눈에 띄게 줄었습니다. 작품 재방영은 작가의 수입에서 큰 비중을 차지합니다.

할리우드 작가는 에피소드 편수로 계산해 임금을 받고 있는데, 공중파에 비해 편수가 적은 OTT(온라인동영상서비스) 콘텐츠가 주류로 자리 잡으며 작가들의 소득이 그만큼 줄어들게 된 것입니다. 비용 절감을 위해 작품당 최소한의 작가만 배치하거나 최저임금을 주고 프리랜서 형태로 고용하는 상황도 빈번해졌습니다.

AI 부상도 작가들이 파업하는 이유입니다. 작가들은 ‘글쓰기 자동화’에 대해 두 가지 문제점을 지적하고 있습니다. 우선, 제작사들이 AI로 대본 초안을 만든 후 작가들에게 이를 수정, 보완하는 작업을 맡기는 데 보수가 지나치게 낮다고 합니다. 수정·보완에 대한 금액만 정산하는 방식을 채택하기 때문입니다.

또 AI 훈련에 기존 대본이 사용돼 저작권이 침해될 수 있다는 점도 잠재적 위협으로 봅니다. 결과적으로 AI한테 일자리도 뺏길 수 있습니다. 작가조합 측은 AI를 활용한 대본 작성과 수정 및 재작성을 금지하고, 작가의 작업물을 AI 학습 훈련에 사용할 수 없다는 조건을 임금 협상안으로 내걸었습니다.

6️⃣ 2023년 4월 : 미국 뉴스미디어얼라이언스(NMA) AI 원칙 성명서 발표

2023년 4월 20일(현지 시간) 뉴욕타임스(NYT) 등 미국 2000여 개의 언론사가 속한 언론단체 뉴스미디어연합(NMA)은 ‘AI 원칙’이라는 제목의 성명서를 발표했습니다. 생성형 AI가 정확한 최신 정보를 답변하기 위해선 언론사의 뉴스 콘텐츠 학습 과정이 꼭 필요한 만큼 이에 대한 정당한 대가를 내야 한다는 내용이었습니다.

NMA가 발표한 AI 원칙은 다음과 같습니다.

생성 AI(generative artificial intelligence·GAI) 의 개발자와 배포자는 콘텐츠에 대한 창작자의 권리를 존중해야 합니다
(뉴스미디어) 발행사의 지식재산권(IP) 사용을 위해서는 명시적인 허락을 얻어야 합니다
생성 AI 시스템이 발행사와 대중에게 초래할 수 있는 피해에 책임지는 보상 계약(compensation agreement)가 있어야 합니다.
저작권법은 콘텐츠 제작자를 보호해야 하며 피해를 주지 않아야 합니다
발행사의 뉴스 콘텐츠에 라이선스를 부여하는 기존 시장이 있습니다 (생성 AI 혁신은 발행사의 비용이 아니라 개발자와 배포자의 비용으로 이루어져야 합니다.)
생성 AI 시스템은 발행사에 투명해야 합니다
생성 AI 시스템은 사용자에게 투명해야 합니다
생성 시스템의 배포자는 시스템 결과에 대해 책임을 져야 합니다
생성 시스템은 불공정한 시장 경쟁 결과를 만들어지 않아야 합니다
생성 시스템은 안전해야 하며 개인정보 위험을 피해야 합니다

NMA는 “저작권 보호 예외 규정은 AI 기술 분야에서도 비영리·연구 목적으로 좁은 영역에서만 적용해야 한다”고 강조했습니다.

로버트 톰슨 뉴스코퍼레이션 CEO(왼쪽)가 2023년 5월 열린 국제뉴스미디어협회(INMA) 콘퍼런스에서 기술 회사들이 미디어의 노력과 통찰로 만들어진 뉴스 콘텐츠로 AI를 학습하는 데 쓰지만 정당한 대가는 주지 않고 있다고 지적했다.

최근 파이낸셜타임스(FT) 보도에 따르면, 오픈AI를 비롯해 구글, 마이크로소프트(MS), 어도비 등 주요 기술 기업이 뉴스코퍼레이션, 뉴욕타임즈(NYT), 독일 악셀 스프링거, 영국 가디언 등의 뉴스 경영진을 만나 뉴스 콘텐츠 사용(저작권) 문제를 논의하고 있습니다.

로버트 톰슨 뉴스코퍼레이션 CEO는 지난 5월 국제뉴스미디어협회(INMA)가 주최한 콘퍼런스에 참여해 “생성 AI는 언론사 웹사이트를 방문하지 않도록 설계돼 저널리즘을 치명적으로 훼손하고 있다”면서 “자신의 이익을 옹호하고 독창적인 콘텐츠에 대해 정당한 대가를 받을 수 있도록 경계를 늦추지 않는 것이 중요하다”고 강조했습니다.

5️⃣ 2023년 2월 : SF 잡지사 클라스월드, 단편 작품 접수 중단

2023년 2월 미국의 SF 잡지사 클락스월드(Clarkesworld)가 결국 신인 작가들의 단편 작품 접수를 중단했습니다. 챗GPT를 활용한 소설 투고가 쇄도했던 것입니다.

클락스월드는 SF 소설을 접수해 온라인으로 발행하며 SF 작가들의 등용문 역할을 해왔습니다. <서던리치1: 소멸의 땅>을 쓴 제프 밴더미어와 <스페이스 오페라>의 캐서린 밸런트 같은 유명 작가들도 이 사이트를 통해 작품을 냈다고 합니다.

클락스월드 창업자이자 발행인 겸 편집장인 닐 클라크는 자신의 블로그에서 “2022년 11월 챗GPT가 출시된후 AI가 만든 SF 단편이 접수됐다가 표절 등으로 거부되는 등 일을 지속할 수 없는 지경”이라고 밝혔습니다.

클락스월드에 따르면, 보통 한 달에 접수되는 작품 가운데 표절 등 이유로 거부되는 작품이 10편 정도였지만, 2023년 1월 100편이 거부됐고 2월에는 접수됐다가 거부된 작품수가 500편이 넘었습니다.

클라크 발행인은 “인플루언서들이 AI를 이용하면 ‘빨리 부자가 될 수 있다’고 부추기면서 이런 문제가 발생한 것 같다”며 “(AI 소설이) 신인이 작품을 내는 데 장벽이 되지 않을까 우려된다”고 했습니다.

아마존 킨들에도 챗GPT가 쓴 전자책들이 쏟아졌습니다. 수 시간만에 책 한 권을 뚝딱 써내는 챗GPT 활용 출판 경험담도 소셜미디어를 타고 퍼져나갔습니다.

4️⃣ 2023년 2월 : 미 저작권청, ‘새벽의 자리야’ 저작권 등록 취소

2023년 2월 22일 미국 저작권청(USCO)은 만화 (그래픽 노블, 만화형 소설) ‘새벽의 자리야’의 미국 내 저작권 등록을 취소하겠다고 밝혔습니다. AI가 생성한 이미지는 작가의 산물이 아니라는 것입니다. AI가 만든 저작물에 대해 미 규제 당국이 구체적 처분을 내린 건 이번이 처음입니다.

이 사건은 지난해 9월로 거슬러 올라갑니다. 당시 작가 크리스 카쉬타노바는 일러스트를 만들어주는 이미지 생성 AI ‘미드저니’로 만든 만화 ‘새벽의 자리야’를 미국 저작권청에 등록했습니다. 작가는 이같은 내용을 소셜 미디어에 올렸습니다.

약 한달 뒤인 2022년 10월 28일, 미 저작권청은 작가가 해당 저작물에 사용된 미드저니의 구체적인 역할과 기여도를 공개하지 않았다면서 작가에게 재검토를 거쳐 저작권 등록을 취소할 수 있다고 통보합니다. 이에 카스타노바는 총 17페이지 분량의 이미지를 생성하기 위해 12일 동안 1500개의 프롬프트를 작성해온 자신의 노력을 알리며 저작권 등록이 유지돼야 한다고 주장했습니다.

AI 일러스트 프로그램 '미드저니'로 만든 만화책 '새벽의 자리야' (인스타그램 '크리스 카쉬타노바' 갈무리)

하지만 미 저작권청은 “미드저니의 사용자 카쉬타노바는 생성된 이미지를 실제로 형성하지 않았다”며 “이미지 제작 과정에서 “‘주체적 의지(master mind)’를 지니지 않았다”고 지적했습니다. 이어 “구체적인 산출물을 사용자가 예측할 수 없다는 사실이 예술가들이 사용하는 다른 도구와 미드저니 사이에 엄연한 차이를 만든다”고도 덧붙였습니다.

결국 미 저작권청은 카쉬타노바에게 발급한 저작권 증명서를 취소하고 그가 쓴 글에 한정해 신규 저작권 증명서를 발급하기로 했습니다.

올 1월 크리타(Krita) 재단(오픈 소스 그래픽 소프트웨어를 구축하는 그룹)이 어도비의 서비스 약관을 캡처해 트위터에 게시했습니다. 어도비가 ‘제품과 서비스 개발과 향상을 위해 머신 러닝(가령, 패턴 인식) 등의 기술에 사용자의 콘텐츠를 분석할 수 있다’는 내용이었습니다.

어도비의 약관은 논란을 일으키기에 충분했습니다. 어도비 제품 사용자들이 만든 그래픽으로 AI를 훈련했다는 의혹이 불거지고 유럽연합의 개인정보보호규정(GDPR)에도 위배된다고 지적도 잇따랐습니다.

창작자들 사이에서 AI가 본인의 화풍이나 디자인을 학습하지 못하도록 ‘AI에 사용 금지’라는 문구를 명기하는 옵트아웃(배제) 운동도 확산했습니다. 어도비 측은 “사용자 데이터를 활용해 AI를 훈련시키지 않았다”고 즉각 부인했습니다.

/어도비

2️⃣ 2023년 1월 : 게티이미지, 스태빌리티 AI 상대로 소송 제기

이같은 소송에도 불구하고 스태빌리티AI의 몸값은 천정부지로 치솟고 있습니다. 작년 10월 기업가치 10억달러(1조3000억원)를 인정받으며 단숨에 유니콘이 된 스태빌리티AI는 기업 가치를 40조원으로 키워 자금 조달에 나섰습니다.

1️⃣ 2022년 11월 : 마이크로소프트의 깃허브에 대한 집단 소송

마이크로소프트가 2018년 75억 달러에 인수한 깃허브(github)는 일종의 프로그램 소스 코드 공개 저장소입니다. 개발자들은 소스 코드를 관리하고 공유하기 위해 깃허브를 씁니다. 활성사용자수가 1억명이 넘습니다.

깃허브는 2021년 코드 자동 완성 서비스 ‘코파일럿’도 내놓았습니다. 코파일럿은 마이코로소프트로부터 대규모 투자를 받은 오픈AI의 ‘GPT-3′ 언어 모델을 활용, 코드를 자동 완성해 줍니다.

깃 허브 로고

급기야 지난해 11월 깃허브 사용자를 대리한 집단 소송이 제기됐습니다. 미국 샌프란시스코의 연방 법원에 소송을 제기한 매튜 버터릭 변호사는 “코파일럿이 AI를 교육하는 과정에서 오픈소스 라이선스와 코드 제작자의 법적 권리를 침해했으며 대규모 소프트웨어 불법 복제를 초래한다”고 주장했습니다.

버터릭 변호사는 “코파일럿이 지금의 기능을 갖추게 된 것은 수백만 명의 프로그래머들이 깃허브의 공개 저장소에 올려 둔 수십억 줄의 기존 오픈소스 코드를 AI가 무단으로 도용해 학습한 결과”라는 것입니다.

마이크로소프트와 깃허브는 “코파일럿은 대중에게 제공되는 오픈 소스 코드 본문에서 아무것도 빼앗지 않는다”면서 “원고가 오픈 소스로 공유된 소프트웨어에 대해 수십 억 달러의 이익을 요구함으로써 오픈 소스 원칙을 훼손하고 있다”고 주장했습니다.

아하! 스토리 시즌 2 준비에 들어갑니다

인간과 AI의 지독한 갈등은 계속 증폭될 것입니다. 기술의 발전 속도가 상상을 초월하고 있기 때문입니다. 샘 올트만 오픈AI 창업자 겸 CEO는 AI가 거의 모든 노동을 대체하고 인간은 기본소득으로 살아가야 할 것으로 봅니다. ‘기술의 질주’를 오래 지켜본 기자로서는 그의 시각을 지나칠 수 없었습니다. 이세돌과 알파고의 세기의 대결이 끝난 후 ‘로그인 투 매트릭스’ 시리즈를 기획했는데, 이 시리즈에도 샘 올트만이 등장합니다.

<아하! 스토리>는 ‘시즌 2′ 준비에 들어갑니다. 뉴스레터로 전달한 방대한 논의점들을 단행본으로 오밀조밀하게 엮는 작업부터 오프라인에서 독자님과 만나는 것까지 다양한 구상을 하고 있습니다. ‘시즌 1′을 애독해주신 많은 분께 진심으로 감사드립니다.

<아하! 스토리>를 구독해주시는 분께 노승연 글로벌IP사업실장, 코너 즈윅 스픽 창업자 겸 CEO, 김성한 쿠팡플레이 총괄의 인터뷰 메모를 드립니다.