한국·미국·일본·중국 등 60국이 16일(현지 시각) “각국이 군사 영역에서 인공지능(AI)에 대한 국가 차원의 틀과 전략, 원칙을 개발해 책임 있게 사용할 것을 권고한다”는 내용의 공동 행동 촉구서(call to action)를 채택했다. 우리 정부와 네덜란드가 15~16일 헤이그에서 공동 개최한 ‘군사적 영역의 책임 있는 인공지능에 관한 장관급 회의(REAIM 2023)’에서 발표된 결과다. AI 챗봇인 ‘챗GPT’가 세계적 관심을 끄는 가운데 AI의 군사적 개발과 사용, 윤리 문제 등에 관한 국제사회 논의가 본격화했다는 의미다. 미 국무부도 이번 회의에서 군사적 AI 능력이 핵무기와 관련한 결정을 실행하는 데 ‘인간의 통제와 개입(human control and involvement)’을 유지할 것을 촉구하는 내용이 담긴 선언문을 공개했다.
네덜란드 외교부가 공개한 A4 네 장짜리 촉구서는 “군사 분야에서 AI 기술이 적용되는 경우가 늘고 있고 미래의 군사 작전에 지대한 영향을 끼칠 것으로 보인다”며 “군사 영역에서 AI 기술을 책임 있게 사용하는 것이 최고의(paramount) 중요성을 갖는다”고 했다. 이어 “군사용 AI의 사용은 국제법을 준수해야 하고, 국제 안보와 안정성을 해치는 방향으로 이뤄져서는 안 된다”며 “민관의 다양한 이해 관계자들이 얽혀있는 만큼 군사용 AI의 이익과 딜레마, 도전 과제들에 관한 논의를 이어가자”고 했다. 사우스차이나모닝포스트(SCMP) 등 외신들은 “법적 구속력은 없지만 실질적 결과를 도출해내는 데 성공했다”고 평가했다.
미 국무부는 이번 회의에서 AI를 군사적으로 책임 있게 사용하기 위한 가이드라인인 ‘AI의 책임 있는 군사적 사용에 대한 정치적 선언’을 공개했다. 12개 항목으로 구성된 선언문은 각국이 군사적 AI 능력을 국제법과 일치시키는 데 필요한 조치를 취하고, 핵무기와 관련한 주권 결정을 실행하는 데 ‘인간의 통제와 개입’을 유지할 것을 촉구하는 내용을 담았다. 또 “무기 시스템 등 후속 결과가 큰 모든 군사적 AI 능력을 개발할 때 고위 정부 관료의 감독을 보장해야 한다”고 했다.
선언문은 또 군사적 AI 시스템이 의도된 용도에 맞게 사용되도록 수명 전반에 걸쳐 주기적인 평가와 감사를 받고, 의도치 않은 행동을 할 경우 ‘비활성화’할 수 있도록 하는 내용도 담고 있다. 미 국무부는 “우리는 군이 AI와 같은 신기술을 책임 있게 사용하도록 보장하는 것을 공동의 도전 과제로 보고 있다”며 “이 선언문이 AI의 책임 있는 사용을 보장하는 데 필요한 국제사회 원칙과 관행에 관한 토대 역할을 할 수 있다고 믿는다”고 했다.
국제사회가 군사적 AI의 위험과 윤리 문제에 대한 논의를 본격화한 것은 AI 활용 드론이나 대량 살상 무기(slaughterbot) 등의 실전 배치가 임박했기 때문이다. 실전 배치된 AI 무기도 있다. 이스라엘은 지난해 방산 업체가 일반 드론에 더 작은 자살 폭탄 드론을 실어 AI로 목표물을 찾아 공격하는 기술을 개발했다고 밝혔다. 또 러시아의 우크라이나 침공 전쟁에선 미 기술 기업들이 위성과 정찰 드론으로 수집한 적군 위치 정보에 AI 기술을 적용한 자료를 우크라이나군에 제공한 것으로 알려졌다. 보니 젱킨스 미 국무부 차관은 “우리는 어떤 나라와도 이 문제를 놓고 논의할 준비가 돼 있다”고 했다. 탄젠(談踐) 주네덜란드 중국 대사는 “각국이 AI 기술을 활용해 군사적 우위를 점하려는 시도에 반대해야 한다”고 했다. 네덜란드에서 박진 외교부 장관은 “AI는 빠르게 발전하고 있고 악용을 방지하려면 너무 늦기 전에 준비하고 행동해야 한다”며 “특히 핵·미사일 위협을 포함한 북한의 대량 살상 무기 프로그램에 직면하고 있는 우리에게 더욱 중요하다”고 했다.
‘AI의 책임 있는 군사적 사용’을 주제로 열린 이번 장관급 회의는 지난해 11월 윤석열 대통령과 마르크 뤼터 네덜란드 총리 간 합의에 따라 양국 정부가 공동 주최한 것이다. 80여 국 정부 관계자를 비롯, 기업·싱크탱크·국제기구 등에서 2000여 명이 참가해 군사용 AI의 기회와 한계, 위험성, 윤리 문제 등을 놓고 열띤 토론을 벌였다. 박 장관은 폐회사에서 “AI 선도국인 우리나라는 AI의 책임 있는 군사적 개발·사용을 위한 국제사회의 노력에 기여하기 위해 제2차 회의를 내년에 한국에서 개최할 것”이라고 했다.