일론 머스크 테슬라 CEO(최고경영자)를 비롯해 애플 공동창업자인 스티브 워즈니악, 세계적 AI 석학 요수아 벤지오 교수 등 AI(인공지능) 전문가들이 6개월 간 첨단 AI 개발을 일시 중단해야 한다고 주장했다.
29일(현지시각) 미국 비영리단체 ‘삶의 미래 연구소(FLI)’는 “최첨단 AI 시스템의 개발을 일시 중단하자”는 공개 서명에 머스크와 워즈니악을 포함한 유명 인사 1280명의 서명을 받았다고 밝혔다. 이 서한에는 이미지 생성 AI인 스테이블디퓨전 개발사인 스테빌리티AI의 에마드 모스타크 CEO, 에번 샤프 핀터레스트 CEO, 세계적 베스트셀러 작가인 유발 하라리, AI 권위자인 스튜어트 러셀 UC버클리 컴퓨터과학과 교수, 알파벳 산하 AI 기업 딥마인드의 연구진 등 유명 AI 전문가들이 서명했다.
이들은 서한에서 “최첨단 AI는 지구상의 생명 역사에 중대한 변화를 나타낼 수 있다”며 “강력한 AI 시스템은 그 효과가 긍정적이고 위험을 관리할 수 있다는 확신이 있을 때만 개발해야 한다”고 주장했다. 이들은 “독립적인 외부 전문가가 감독하는 안전 프로토콜을 개발할 때까지 모든 AI 연구실에서 오픈AI가 최근 공개한 AI 모델 GPT-4보다 강력한 AI 개발을 최소 6개월 간 즉시 중단할 것으로 요청한다”고 밝혔다. 이들은 이러한 중단을 신속하게 시행할 수 없다면 정부가 개입해 유예 조치를 취해야 한다고도 했다.
최근 오픈AI의 AI챗봇 챗GPT가 등장하고, 이보다 더 성능이 좋은 AI가 나오면서 AI를 규제해야 한다는 목소리가 높은데 적절한 규제와 안전망이 마련될 때까지 AI 개발을 일시 중단해야 한다는 것이다.
지난 22일부터 시작된 이 공개 서명은 머스크 같은 AI 업계 거물들이 잇따라 서명을 했다는 소식이 전해지며 28일(현지시각) 테크 업계에 알려졌다. 이 공개 서명은 당초 이름과 직책, 이메일 주소만 넣으면 참여할 수 있었다. 이 때문에 서명 초반엔 시진핑 중국 국가주석, 영화 캐릭터 존 윅, 샘 올트만 오픈AI CEO 등의 이름도 들어가 있었다. 네티즌들이 장난을 쳤기 때문이다.
이 때문에 정말 AI 업계 유명인들이 서명을 했느냐는 논란이 있었지만, FLI 측은 29일 “요수아 벤지오 교수, 스티브 워즈니악, 유발 하라리, 일론 머스크, 게리 마커스 뉴욕대 명예교수 등 1000명 이상이 서명을 했다”고 공식 확인했다. FLI 측은 “목록에 있는 상위 서명자는 직접 연락해 서명 사실을 확인했다”며 “전체 목록에 대해 확인하는 것은 우리의 능력을 초과한다”고 했다. 오픈AI의 샘 올트먼 CEO는 서명하지 않은 것으로 나타났다. 현재 해당 서명은 접속자가 몰리며 일시 중단된 상태다.
◇“오픈AI 견제하기 위한 서명”이라는 음모론도
테크 업계에선 이 서명이 실제 효력보다는 선언적 의미가 있다고 본다. 일론 머스크는 29일 자신의 트위터에 “거대 AI 업체들은 이 주장을 흘려들을 수도 있지만, 적어도 이런 목소리가 있다는 것은 알려야 한다”고 했다.
한편 이 서명이 전 세계 테크 업계에 부정적 영향을 가져올 것이라는 관측도 많다. AI의 위험성에 대해서는 공감하지만 이를 강제적으로 6개월 이상 개발 중단하는 것이 합당하냐는 것이다. 미국의 모든 AI 업체들이 서명에 따라 6개월 간 개발을 중지해도, 미국 영향권을 벗어난 중국에서는 해당 기간 AI 개발을 지속할 수 있다는 지적도 나온다. 이는 중국이 미국 AI 기술력을 따라잡는 결정적 기회를 줄 수 있다.
일각에선 이번 서명이 AI 주도권을 가진 오픈AI와 이를 따라잡으려는 구글과 기타 AI 업체들의 신경전으로 본다. 오픈AI의 개발을 중지시키고 그 사이 몰래 개발에 몰두해 빠르게 추격하려는 음모라는 것이다. 해당 서명엔 구글과 구글의 딥마인드, 메타, 스테이블AI 같은 업체의 관계자 서명은 있지만, 오픈AI 관계자의 서명은 없다.
테크 업계에선 이번 서명이 AI에 대한 규제가 본격적으로 시작되는 움직임으로 해석한다. 영국 정부는 지난 28일(현지시각) AI 백서를 발간하고, AI 규제에 대한 가이드라인을 제시했다. △안전, 보안 및 견고성, △투명성 및 설명 가능성, △공정성, △책임 및 거버넌스, △경쟁 가능성 및 보상 등 5가지 원칙을 바탕으로 향후 1년 간 구체적 논의를 거쳐 규제안을 도입할 것이라고 밝혔다. 미국의 연방거래위원회(FTC)도 AI가 가뜩이나 비대해진 테크 대기업들의 독과점 구조를 더욱 공고히 할 수 있다고 보고 이에 대한 조사를 준비 중이다.
