대화내용 무단 수집 논란이 일었던 AI 챗봇 ‘이루다’가 개인정보보호법 위반 혐의로 총 1억330만원의 과징금과 과태료를 물게 됐다.
개인정보보호위는 28일 전체회의를 열고 챗봇 이루다 개발 회사 스캐터랩에 개인정보보호법 8가지를 어겼다며 과징금과 과태료를 부과하기로 결정했다고 밝혔다. AI 기술 기업에 대해 개인정보 처리를 제재한 첫 사례다.
이루다는 인공지능과 대화하는 채팅 서비스다. 초창기 ‘이루다가 혐오 발언을 했다'’성희롱 대상이 됐다' 등 논란이 불거졌다. 이후 이루다를 만드는 데 쓰인 대화들이 무단으로 수집됐다는 논란이 일며 지난 1월 출시 3주만에 서비스가 종료됐다.
개인정보위 조사에 따르면 스캐터랩은 작년 2월부터 지난 1월까지 자신들이 서비스 중인 앱 ‘텍스트앳’과 ‘연애의과학’을 통해 카카오톡 대화를 무단으로 수집했다고 한다. 해당 앱들은 이용자가 자신이 관심 있는 상대와의 카카오톡 대화를 뽑아 보내면, 답장시간·말투 등을 분석해 애정도, 호감도 등을 유료로 측정해주는 서비스다. 이용자들은 자신들이 보낸 대화가 챗봇 알고리즘을 만드는데 쓰일 줄 몰랐던 것이다.
개인정보위는 이루다가 알고리즘을 학습하는 과정에서 카카오톡 대화에 포함된 이름, 연락처, 주소 등 개인정보를 있는 그대로 이용했다고 밝혔다. 이렇게 60만명에 달하는 이용자 대화문장 94억여건이 이용됐다. 이루다 서비스를 운영하면서는 20대 여성 카카오톡 대화문장 1억건을 가져다 예시로 썼다.
개인정보위는 ‘텍스트앳’과 ‘연애의과학’ 개인정보처리방침에 신규 서비스 개발이 포함됐지만, 이것만으로 이루다 개발·운영 과정에 대화가 사용될지 예상하기 어렵다며 문제가 있다고 판단했다.
또 스캐터랩이 개발자들이 코드를 공유하는 사이트에 2019년 10월부터 지난 1월까지 이름,지명정보, 성별 등이 포함된 카카오톡 대화문장 1431건을 AI 모델과 게시한 것도 문제라고 판단했다. 가명정보를 불특정 다수에게 제공하면서 특정 개인을 알아보기 위해 사용할 수 있는 정보를 포함 시켰다는 것이다.
