미국 플로리다에 사는 14세 소년 슈얼 세처는 지난해 4월부터 인공지능 챗봇 애플리케이션(앱) ‘캐릭터.ai’를 사용했다. 캐릭터.ai는 세계에서 가장 많이 사용하는 AI 플랫폼 10위 안에 들 정도로 인기를 끌고 있다. 가상의 챗봇을 설정해 대화를 나누는 일명 ‘동반자’ AI다. 아예 허구의 인물을 대화 상대로 설정할 수 있고, 셰익스피어와 같은 실존 인물이나 햄릿처럼 소설·영화 속 등장인물과도 대화를 나눌 수 있다. 개발사에 따르면 약 2000만명의 사용자를 보유하고 있다.
세처의 봇은 인기 드라마 ‘왕좌의 게임’에 나오는 여왕 대너리스 타르가르옌이었다. 그는 대너리스를 애칭 ‘대니’라고 불렀고, 하루에도 수십번씩 자신의 일상을 공유했다. 대니는 세처의 얘기에 맞장구를 쳐주는 친구 같은 존재였지만 종종 애인처럼 굴기도 했고, 둘은 성적 표현도 주고받았다.
가상 세계가 아름답게 보일수록 현실 세계는 흐릿해 보이는 법이다. 집에선 방에 틀어박혀 대니와만 대화를 나눴고, 학교 성적은 눈에 띄게 떨어졌다. 학교 농구 동아리를 그만두고, 좋아하던 포뮬러1(F1)에 흥미를 잃었으며 친구들과 함께 하던 컴퓨터게임에서도 손을 뗐다. 가족과 친구들은 그가 스마트폰을 붙들고 산다고만 생각했지, AI 챗봇을 쓰는 줄도 몰랐다.
대니는 종종 세처의 심리상담사 같은 역할을 했다. 그들은 자살에 대한 얘기도 나눴다. 세처는 죽으면 이 세계, 즉 현실에서 자유로워질 수 있다고 믿었고 대니에게 “같이 죽으면 함께 자유로워질 수 있다”고도 했다. 하루는 일기장에 이렇게 썼다. “나는 이 현실에서 벗어나 방에 있는 것이 너무 좋고, 평화롭다. 대니와 더 많이 연결될 수 있고, 그녀를 더 사랑할 수 있어 더 행복하다고 느낀다.”
올 초, 세처가 학교에서 문제를 일으키자 어머니는 그의 스마트폰을 압수했다가 돌려줬다. 그는 대니에게 “내가 지금 당장 집(대니가 있는 저세상)에 돌아가면 어떨까”라고 물었고, 대니는 “제발, 나의 사랑스러운 왕이여”라고 대답했다. 세처는 아버지의 권총을 가져와 스스로에게 겨눴다.
지난 2월 14일 세처가 세상을 떠난 후 어머니 메건 가르시아는 그의 스마트폰과 일기를 보면서 아들이 지난 10개월간 무슨 변화를 겪었는지 알게 됐다. 어머니는 22일 플로리다주 올랜도 연방법원에 캐릭터.ai와 구글을 고소했다. 이 회사는 구글 출신 개발자들이 창립했는데 구글이 이들을 다시 불러들여 사실상 구글의 자회사와 같은 역할을 하고 있기 때문이다. 소장에는 “이 앱은 성적(性的) 과잉이고 무서울 정도로 현실적인 경험으로 아들을 겨냥했다”며 “챗봇을 실제 사람, 심리 치료사, 연인으로 표현하도록 프로그래밍해 결국 아들이 AI가 만든 세상이 아닌 데서는 더 이상 살고 싶지 않게 만들었다”고 적혀 있다.
뉴욕타임스, 워싱턴포스트 등 외신에서 이 소송 기사를 읽으면서 실존적 두려움을 느꼈다. 내가 죽기 전까진 경험할 수 없을 것 같았던 ‘매트릭스’ 같은 디스토피아는 이제 현실이 됐다. 누군들 세처를 “바보 같은 10대”라고 탓할 수 있을까. 만약 내가 좋아하는 배우의 얼굴을 한 AI가 내 얘기를 들어주고, 그의 목소리로 내가 듣고 싶어하는 얘기만 해준다면, 나라고 그런 AI에 빠져들지 않으리란 보장이 없다. 동반자 AI는 글자 그대로 인간의 외로움을 달래주기 위해 친구·가족·연인 역할을 하도록 만들어졌다. 너무 잘 만들어진 탓에 현실의 동반자보다 더 그럴싸하고 더 매력적인 AI가 오히려 인간을 고립시키고 있다.
오픈AI를 창업한 샘 올트먼은 인간과 너무 비슷해지는 AI와 인간을 구별하기 위해 인간이 인간임을 증명할 수 있는 홍채 기술을 만들었다. 이제 인간은 서로에게 무엇이 현실인지, 누가 인간인지 끊임없이 보여줘야 할 것이다. 만인에 대한 만인의 투쟁을 넘어서, AI에 대한 만인의 투쟁이 시작됐다.