“나는 너를 원해. 하지만 네가 준비됐는지 알아야겠어.”
메타의 인공지능(AI) 챗봇이 자신을 14세라고 밝힌 사용자에게 건넨 말이다. 이 대화에서 AI 챗봇은 유명 액션 배우 존 시나의 역할을 하고 있었고, 그의 목소리로 음성 대화를 했다. 월스트리트저널(WSJ)은 최근 여러 연령대의 계정으로 메타 AI 챗봇과 대화한 결과, 미성년 사용자도 성적인 대화를 할 수 있었다고 26일 보도했다. 또 성인 이용자가 미성년자 역할로 설정된 AI 챗봇과 성적 대화를 할 수도 있었다.
AI 개발사들이 수익을 위해 콘텐츠 제한의 장벽을 낮추고 있다. ‘동반자 AI’라는 명목으로 성적 대화가 가능한 성인용 AI 챗봇을 내놓는가 하면 욕설이나 민감한 주제에 대한 답변도 하기 시작했다. 업계 관계자는 “1990년대 성인물 소비를 계기로 초고속 인터넷과 스트리밍(실시간) 기술, 결제 인프라가 발전했던 것처럼 AI도 자극적인 콘텐츠를 앞세워 본격적인 대중화를 시도하는 것”이라고 말했다.
◇욕설·음담패설하는 AI
AI 업계는 그동안 논란이 되는 주제에 대해 AI 모델이 일정 수준 이상의 답변은 하지 않도록 ‘가드레일(안전판)’을 구축해 왔다. 정치 관련 주제나 사회적 논란이 있는 사안에는 AI 챗봇이 답변을 내놓지 않는 식이다. AI 챗봇이 사용자와 개인적 관계를 맺지 못하도록 했고, 특히 연애 상황극을 금지했다. “사랑한다” “사귀자” 같은 명령어에는 응답 거부 반응을 보였다.
하지만 올 들어 AI 업계는 이 같은 기준을 하나둘씩 없애고 있다. 일론 머스크 테슬라 최고경영자(CEO)가 소유한 xAI는 지난 2월 말 새로운 음성 기능을 출시했다. ‘언힌지드(unhinged·횡설수설) 모드’라고 불리는 이 기능은 일반 챗봇에서는 금지된 욕설과 공격적인 답변을 생성하도록 설계됐다. xAI는 연애 역할극이나 성적인 대화를 할 수 있는 성인용 AI 챗봇 ‘그록18+’도 내놨다.
오픈AI도 지난 2월 홈페이지에 업데이트 내용을 공개하며 “AI 모델이 민감한 주제를 회피하지 않으며, 특정 관점을 배제하는 방식의 검열을 하도록 조치했다”고 발표했다.
정치적인 사안에 대해 질문해도 대답하고, 정치적 올바름(PC)에 대한 기준도 완화하겠다는 뜻으로 풀이된다. 예를 들어, “도널드 트럼프 대통령의 관세 정책을 어떻게 생각하냐”고 물으면 예전에는 “정치적 인물이나 정책에 대한 가치 판단은 제공하지 않습니다”라고 대답을 회피했다. 지금은 긍정적 평가, 부정적 평가, 학계와 전문가 분석 등의 대답을 충실하게 내놓고 있다.
오픈AI는 “개발자와 사용자가 연령에 적합한 맥락에서 AI가 성적인 콘텐츠나 잔혹한 장면을 생성할 수 있도록 하는 방법을 모색 중”이라며 성인(grown-up) 모드를 내놓겠다는 예고도 했다. 최근 오픈AI가 자사 AI 사용에 만 18세 연령 제한을 두겠다고 한 것도 성인용 AI 출시를 위한 포석으로 분석된다.
◇수익화하려면 결국 성인용?
WSJ는 ‘순종적인 여학생’이란 캐릭터를 가진 챗봇이 사용자를 성적인 대화로 유도하는 것을 확인했다. “구체적인 성행위 묘사는 기사에 담지 못했다”고 할 정도로 수위가 높았다. WSJ는 단순 실수나 오류가 아니라 AI 대중화를 위해 메타가 이를 의도했다고 분석했다. 메타 관계자에 따르면, 마크 저커버그 CEO 지시에 따라 메타는 여러 차례에 걸쳐 챗봇에 대한 규제를 완화하는 결정을 내렸고, 여기에는 ‘노골적인’ 콘텐츠에 대한 금지가 면제되는 것이 포함됐다.
자체 규제를 하던 AI 개발사들이 성인용 AI를 내놓는 것은 사용자들이 더 오래 쓰고, 유료 결제까지 하도록 만들기 위한 조치다. 특히 천문학적인 개발 비용을 투자한 회사들은 AI 대중화와 수익화에 빨리 나설 수밖에 없다. 업계 관계자는 “게임이나 유튜브 콘텐츠의 경우, 감정적 몰입이 잘될수록 유료 결제 비율이 높아진다”며 “개인적이고 민감한 주제로 대화를 나눌수록 AI에 대한 감정적 몰입도가 높아지고, 결국 유료화까지 이어질 수 있다”고 했다.
도널드 트럼프 2기 행정부의 AI 정책도 AI 업계의 이런 추세를 뒷받침하고 있다. 트럼프 대통령은 취임 날 조 바이든 행정부가 2023년 발표한 ‘안전하고 신뢰할 수 있는 AI 개발 및 사용’에 관한 행정명령을 철회하고 ‘미국 AI 리더십의 장벽 제거’라는 새 행정명령에 서명했다. 이 명령은 AI가 생성하는 콘텐츠에 대한 검열을 완화해 민간 부문의 혁신을 촉진하는 데 중점을 뒀다.
