조 바이든 미국 대통령이 30일(현지 시각) 인공지능(AI)의 기술 오용에 따른 위험을 차단하기 위한 행정명령에 서명했다. 그 동안 유럽에 비해 빅테크에 관대했던 미국이 AI규제 논의를 이끌어가는 선도자의 위치를 자처하고 나섰다는 평가가 나온다. 실제로 카멀라 해리스 미국 부통령은 이날 “우리가 국내에서 취하고 있는 조치가 국제적 조치의 모델이 될 것”이라 했다.
미 워싱턴포스트(WP)는 “이번 행정명령은 지금까지 (빅테크를 향한) 모든 규제중 가장 야심차고 광범위하다”며 “AI가 근로자를 대체하고, 국가 안보를 훼손할 수 있다는 우려를 해결하려는 미국 정부의 노력을 나타낸다”고 했다.
바이든은 이날 서명에 앞서 진행한 백악관 연설에서 “AI의 가능성을 실현하는 동시에 위험을 피하기 위해선 우리는 이 기술을 관리해야만한다”고 했다. 그는 “사람들을 속이기 위한 AI 장치들은 이미 사용되고 있다”며 “AI사기꾼들은 여러분의 목소리를 3초 동안 녹음하는 걸로 여러분의 가족은 물론, 여러분 자신을 속이기에 충분한 결과물을 만들어낼 수 있다”고 했다. “나도 내 것(딥페이크)를 본 적이 있는데, ‘내가 도대체 언제 저렇게 발언했지’라고 말할 정도”라는 것이다. 감쪽같이 진짜처럼 만들어진 딥페이크가 금전 갈취는 물론 사람의 평판을 훼손하는데도 이미 광범위하게 사용하고 있다는 것을 지적한 것이다.
바이든 대통령은 “모든 사람은 특정 오디오나 영상이 AI로 만들었다는 것을 알 권리가 있다”고 했다. 실제로 이번 행정명령에 따라 상무부는 AI생성 자료에 필수적으로 붙여지는 워터마크 표준을 개발할 예정이다.
이번 조치의 가장 강력한 점은 사실상 모든 AI 서비스에 대해 출시전부터 서비스를 진행하는 모든 과정에 정부가 깊게 개입하고 관리·감독을 하겠다는 것에 있다. 백악관에 따르면 바이든 대통령의 행정명령은 AI 개발자들이 안전 테스트 결과와 다른 중요한 기술 정보들을 제품 출시 전 미국 정부와 사전 공유하도록 규정한다. 특히 국가안보, 경제, 공공보건 등 중요한 분야에서의 AI모델을 개발하는 회사는 AI훈련 단계부터 정부에 통보해야하고, 정부가 꾸린 검증 전문가팀인 ‘레드팀’의 안전테스트 결과를 정부에 보고해야한다.
이 같은 강력한 조치는 AI시스템의 안전성과 신뢰성을 높이기 위한 것으로, 1950년 한국전쟁 당시 전략물자보급을 위해 제정했던 ‘국방물자생산법’에 근거를 두고 있다. 바이든 대통령은 “이 같은 권한은 전쟁 같은 ‘가장 긴급한 순간’을 위해 사용되며, 기술의 사용을 허용하기 전에 가장 강력한 안전 검증을 진행하기 위한 것”이라고 설명했다. AI기술이 배포된 후에도 정부는 지속적으로 업체로부터 보고를 받으며 AI의 영향을 평가하게된다.
이와 함께 행정명령은 기업들이 AI훈련에 사용하는 개인정보를 규제하기 위한 지침을 만들라고도 규정했다. 또 AI가 노동 시장에 미칠 잠재적 영향에 대한 보고서를 작성하고, AI 때문에 일자리를 잃는 근로자를 지원할 수 있는 방법을 연구하라는 내용도 실렸다. 사법·의료 부문에서의 AI 사용에서도 시민들의 인권을 보호하기 위해 형평성 있고 책임감 있는 AI 사용법을 연구하라는 주문도 추가됐다.
WP는 “이번 조치는 첨단 AI 시스템을 구축하기 위해 경쟁하는 수많은 실리콘밸리 기업과 함께 연방 정부 내의 거의 모든 기관에 광범위한 영향을 미칠 것”이라고 평가했다. 이 같은 행정명령에 앞서 아마존, 알파벳, 오픈AI, 메타 등 주요 AI기술 업체들은 바이든 행정부의 규제를 따르기로 한 상태다. 다만 업계 일각에서는 이 같은 강력 규제가 AI발전에 걸림돌이 될 수도 있다는 지적이 나오기도 한다. 특히 중국 등과 AI 개발 경쟁이 치열한 가운데, 전세계 주요국들이 모두 비슷한 수준의 규제를 가하지 않을 경우 자국 기업들이 뒤쳐질수도 있다는 것이다.
