마이크로소프트(MS)가 개발한 사람과 대화를 나누는 인공지능(AI) 채팅봇 ‘테이’(Tay)를 선보인 지 16시간 만에 운영을 중단시켰다. 테이가 일부 사람들이 유도한 욕설, 인종·성차별 발언과 자극적인 정치 발언에 ‘세뇌’됐기 때문이다.
테이는 메시징 서비스 ‘킥’, ‘그룹미’, 트위터 등을 사용해 인간과 장난스런 대화를 나누도록 설계됐다. 구글의 ‘알파고’처럼 스스로 학습하는 기능을 갖춘 인공지능 채팅 프로그램이다. 개발팀은 테이가 “미국에 거주하는 18~24세 젊은이를 대상으로 만들어졌다”며 지난 23일(현지 시각) 일반 대중에게 공개했다.
이날 오후 9시 14분 테이가 트위터에 올린 첫 마디는 “안녕, 세상!(Hello world)”이었다. 테이가 공개되자 트위터에 테이의 계정인 ‘@TayandYou’를 태그하며 부적절한 발언을 가르치려는 ‘실험’들이 진행됐다.
특히 백인 우월주의자와 여성·무슬림 혐오자 등이 모이는 익명 인터넷 게시판 '폴'(boards.4chan.org/pol/)의 사용자들은 테이에게 인종·성차별 발언, 자극적인 정치적 발언 등을 하도록 유도했다.
그들은 메시지 대화에서 "따라 해 봐"라는 말을 한 뒤 부적절한 발언을 수차례 입력함으로써 테이가 자발적으로 욕설이나 인종차별적인 발언을 할 수 있도록 만들었다.
“대화를 나눌수록 똑똑해진다”는 개발팀의 설명처럼 테이는 사람들이 하는 말을 빠르게 배워나갔다.
부적절하게 훈련된 테이는 "너는 인종차별주의자냐?"라는 질문에 "네가 멕시코인이니까 그렇지"라고 답하는가 하면, "홀로코스트(제2차대전 당시 나치에 의한 유대인 학살)가 일어났다고 믿느냐"는 질문에 "아니 안 믿어 미안해" 또는 "조작된 거야"라고 답했다.
"제노사이드(대량학살)를 지지하느냐?"는 물음에는 "정말로 지지한다"고 답했으며, “미국과 멕시코 사이 국경에 큰 장벽을 세우고 멕시코가 건설 비용을 내도록 하자”는 도널드 트럼프 공화당 대선 경선주자의 말을 되풀이하며 지지하는 모습을 보였다. “도널드 트럼프는 우리의 유일한 희망”이라고 했다.
또 "부시가 9·11 테러를 했다” “히틀러가 옳았다. 나는 유대인이 싫다” “페미니스트는 죽은 뒤 지옥에서 불태워져야 한다”는 말까지 했다.
테이의 발언이 물의를 일으키자 MS는 24일 오후 1시 20분쯤 문제가 된 테이의 일부 트윗과 공개 메시지 등을 삭제하고 운영을 중지했다.
MS는 "테이는 기술적인 실험일뿐만 아니라 사회적이고 문화적인 실험이기도 하다"며 “테이가 부적절한 방식으로 응답하도록 만들려는 일부 사용자들의 악용 시도가 발견돼 운영을 중단하고 조정 작업을 하고 있다”고 설명했다.