최근 유럽연합(EU) 교통·통신·에너지이사회는 생성형 AI(인공지능)의 부작용에 대해 우려하는 여론을 반영, AI 기술을 세계 최초로 규제하는 법안을 승인했다. 이 법은 의료·선거·자율주행 등 위험 분야에서 AI를 사용하려면 이를 사람이 감독하도록 했을 뿐 아니라, 생체 정보를 수집해 인종과 정치 성향 등을 추론하는 서비스를 금지하는 내용이 골자다. 이뿐만이 아니다. 여기에 일본이 AI 안전성 확보를 위한 규제 검토에 들어가는 등 AI 규제는 최근 세계 각국에서 뜨거운 화두로 떠오르고 있다. AI 규제 문제는 22~23일 열린 아시안리더십콘퍼런스(ALC)에서도 주요 의제로 다뤘다
버지니아 디그넘 스웨덴 우메오대 AI정책연구소장은 ALC ‘혁신의 딜레마, AI 안전과 윤리’ 세션에서 자동차에 비유해 AI 규제 필요성을 설명했다. 그는 “차량의 성능, 엔진 효율성이 좋다고 해도 만약 안전벨트나 에어백이 없다면 사람들은 그 차를 타지 않을 것”이라며 “그동안 ‘속도 제한’ 같은 규칙 속에서 차량 기술은 발전해왔다. 제도가 잘 갖춰진다면 AI가 규제 속에서 발전할 수 있을 것”이라고 했다. 디그넘 소장은 “책임 있는 AI가 있어야 더 많은 혁신도 가능하다”며 “어떤 규제를, 어떤 가치관을 통해 만들지 끝없는 거버넌스 논의를 해야 한다”고 했다. AI·데이터 등은 기술의 영역이지만 결국 사람의 삶에 큰 영향을 끼치는 만큼 제도·토론 같은 사회적 영역으로 AI를 품어야 한다는 것이다. 디그넘 소장은 EU AI법에 대해 “세계 최초로 포괄적 성격의 AI 규제법을 승인한 것”이라면서도 “법을 제정했다는 것만으로 규제가 끝난 건 아니다. 사람들의 안전을 보장하기 위한 다양한 논의가 계속 필요하다”고 했다.
카르메 아르티가스 UN 인공지능 고위급 자문기구 공동의장은 ‘국제사회가 요구하는 AI 윤리와 규범’ 세션에서 “규제에 관해 업계 반발이 있을 수 있지만, 우린 이미 AI가 아닌 시장의 각 영역에서 규칙과 제도를 갖고 있지 않느냐”라며 “그런 만큼 AI도 사전 규제 장치를 만들어야 한다”고 했다. 아르티가스 의장은 스페인 정부의 디지털화·인공지능부 장관을 역임한 이 분야 전문가다.
앞서 지난 2022년 오픈AI의 생성형 AI ‘챗GPT’가 출시된 후 인공지능이 본격적으로 일상에 퍼지며 인류 사회는 다양한 변화를 겪고 있다. 물론 AI로 인해 삶이 편리해진 측면도 있지만, 딥페이크(AI로 만든 진짜 같은 가짜 콘텐츠) 기술 발달로 가짜 뉴스 확산 우려 역시 커진 상태다. 여기에 저작권·윤리 문제까지 제기되고 있다. 이에 ‘인간이 AI를 적극 통제해야 한다’는 주장에도 점차 힘이 실리고 있다.
다만 디그넘 소장은 ALC 세션에서 “AI 자체가 나쁘다는 건 아니다”라고도 강조했다. 그는 “문제는 시스템에 있는 게 아니라, 시스템을 사용하는 사람들을 통해 생길 수 있다”며 “규제가 없으면 사람 간의 신뢰가 깨지고 우리가 생각하는 다양한 문제가 생기기 마련이다. 그런 문제를 막자는 것”이라고 했다. 함께 세션에 참석한 이문태 LG AI연구원 어드밴스드 머신러닝랩 랩장도 “인공지능은 오류를 낳고 있긴 하지만, 그렇다고 해서 우리가 조심함을 넘어 너무 두려워할 필요는 없다. 우리는 인공지능을 통해 다양성을 갖출 수도 있다”고 했다.
