생성형 인공지능(AI) 챗봇 ‘챗GPT’의 운영사인 오픈AI가 미국 대선을 앞두고 민주당 경선 후보를 모방한 챗봇 개발을 중단시켰다. 자사 AI가 대선에 오용될 수 있는 가능성을 선제적으로 차단하고 나선 것으로, 오픈AI가 대선 과정에서 정치 캠페인과 관련된 챗봇을 삭제한 첫번째 사례다.
21일(현지 시각) 워싱턴 포스트(WP)에 따르면 오픈AI는 최근 민주당 경선 후보인 딘 필립스 연방하원의원의 말투를 모방한 챗봇 ‘딘닷봇(Dean.Bot)’을 개발하고 있던 AI스타트업 델파이의 오픈AI 계정을 차단시켰다고 보도했다. 앞서 오픈AI는 자사 API(응용 프로그램 인터페이스)를 정치 캠페인에 사용해선 안된다는 정책을 내놨는데, 델파이가 이 같은 규정을 어겼다는 것이다. 이날 오픈AI는 “우리 API 사용 정책을 고의로 위반하거나, 동의 없이 개인을 사칭한 개발자의 계정을 최근 삭제했다”고 했다.
보도에 따르면 이 챗봇은 필립스 하원의원을 후원하는 ‘위 디저브 베터(We Deserve Better)’라는 이름의 수퍼팩(super PAC·특별정치활동위원회)가 추진한 프로젝트로, 델파이와 계약을 맺고 오픈AI의 API를 사용해 챗봇을 개발·운영하려고 했다. 유권자들과 실시간으로 대화하는 챗봇을 만들며 정책 홍보 등에 쓰겠다는 계획이었다. 하지만 델파이의 기업용 계정이 삭제되면서 개발 중이던 딘닷봇도 없어졌다.
미 대선이 본격화하며 오픈AI는 자사 AI기술을 정치 활동에 활용하는 것을 금지하고 나섰다. 최근에는 이미지 생성 AI인 ‘달리’의 이미지가 정치 캠페인에 쓰이지 않도록 AI가 생성한 이미지를 확인할 수 있는 도구를 출시할 예정이라고 밝혔고, 챗GPT에서 제공하는 뉴스 등 정보에는 어디서 가져온 것인지 출처를 밝히기로 했다.