생성형 AI(인공지능)의 부작용에 관한 우려가 커지는 가운데, 최근 유럽연합(EU)이 세계 최초로 AI 기술을 규제하는 법안을 승인했다. 그러자 일본이 AI의 안전성 확보를 위한 규제 검토에 착수하는 등, AI 규제는 세계 각국에서 뜨거운 화두로 떠오르고 있다. AI가 품고 있는 불확실성에 대해 인간이 선제적으로 대비해야 한다는 의견이 커지는 것이다.
버지니아 디그넘 스웨덴 우메오대 AI정책연구소 소장은 23일 ‘초(超)불확실성의 시대: 미래를 여는 혁신 리더십’을 주제로 서울 신라호텔에서 열린 아시안리더십콘퍼런스(ALC) ‘혁신의 딜레마, AI 안전과 윤리’ 세션에 참석해 “더 많은 혁신을 위해서는 책임 있는 AI가 있어야 한다. 어떤 규제를, 어떤 가치관을 통해 만들지에 관한 거버넌스 논의가 필요하다”고 했다. 디그넘 교수는 자동차에 비유해 AI 규제 필요성을 말했다. 그는 “차량의 성능, 엔진 효율성이 좋다고 해서 만약 안전벨트나 에어백이 없다면 사람들은 그 차를 타지 않을 것”이라고 했다.
2022년 오픈AI의 생성형 AI ‘챗GPT’가 출시된 후 본격적으로 인공지능이 일상에 퍼지며 사람들은 다양한 변화를 겪었다. 손쉽게 글, 음악, 사진을 만드는 등 편리함도 커졌다. 하지만 딥페이크(AI로 만든 진짜 같은 가짜 콘텐츠) 기술 발달로 가짜 뉴스 확산 우려가 커졌고, 저작권·윤리 문제도 제기됐다. 이에 ‘인간이 AI를 적극적으로 통제해야 한다’는 주장에 힘이 실렸다.
유럽은 일찌감치 인공지능이 인종·종교·성별 등 측면에서 사람들을 차별하고 혐오를 조장할 수 있다고 우려했다. 유럽의회는 2018년 처음으로 AI 규제 법안에 대한 논의를 시작했고, 4년 뒤 생성형 AI 붐이 일자 논의에 속도를 더했다. 그리고 지난 21일 EU 교통·통신·에너지이사회는 벨기에 브뤼셀 회의에서 AI법을 최종 승인했다. 이 법에 따르면 의료·선거·자율주행 등 위험 분야에서 AI를 사용하려면 사람이 감독해야 하고, 생체 정보를 수집해 인종과 정치 성향 등을 추론하는 서비스가 금지된다. 이날 디그넘 교수는 “세계 최초로 포괄적 성격의 AI 규제법을 승인한 것”이라면서도 “법을 제정했다는 것만으로 규제가 끝난 건 아니다. 사람들의 안전을 보장하기 위한 다양한 논의가 계속 필요하다”고 했다. 인공지능 확산으로 변화의 속도가 빠른 만큼, 안전성을 확보하기 위한 의견 교환은 앞으로도 꾸준히 필요하다는 것이다.
앞서 조 바이든 미국 대통령은 작년 10월 안전하고 신뢰할 수 있는 AI 개발 및 사용을 위한 행정명령을 발동했다. 이에 업체들은 AI 시스템을 출시하기 전 미 상무부 산하 국립표준기술연구소(NIST)의 안전성 평가를 의무적으로 거치게 됐다. 여기에 EU의 법안 승인 소식도 전해지자, 일본 역시 대응에 나서는 모양새다. 요미우리신문 등 일본 현지 언론은 일본 정부가 전문가 회의인 ‘AI 전략회의’를 열어 AI의 안전성 확보를 위한 법률 규제 검토를 개시했다고 23일 밝혔다. 주요국이 법률 규제 정비에 나섬에 따라 일본도 국제적인 흐름에 발맞추려는 취지라는 것이다. 이에 한국에서도 AI 규제에 관한 논의가 이뤄져야 한다는 주장이 나온다.
다만 디그넘 교수는 규제와 기술 혁신 중 하나를 택하는 게 아니라, 함께 나가야 하는 것이라 강조했다. 그는 “자동차 속도에 제한을 두는 등, 이미 우리 일상엔 다양한 규제가 있고 그 안에서 혁신이 이뤄지고 있다”며 “규제가 없으면 사람 간의 신뢰가 깨지고 우리가 생각하는 다양한 문제들이 생기기 마련이다. 그런 문제를 방지하기 위한 제도적인 장치를 갖추자는 것”이라고 했다. 함께 세션에 참석한 이문태 LG AI연구원 어드밴스드머신러닝(Advanced ML)랩 랩장도 “인공지능은 다양한 오류를 낳고 있긴 하지만, 그렇다고 해서 우리가 조심함을 넘어 너무 두려워할 필요는 없다. 우리는 인공지능을 통해 다양성을 갖출 수도 있다”고 했다.
전날 열린 ‘국제사회가 요구하는 AI 윤리와 규범’ 세션에서도 비슷한 이야기가 오갔다. 카르메 아르티가스 UN 인공지능 고위급 자문기구 공동의장은 “계속 진화하는 AI를 어떻게 규제할 것인지는 핵심 화두다. 우리는 다양한 이해관계자의 의견을 충분히 들어야 하고 개인·단체의 소리를 모아야 한다”고 했다. 이어 “업계 반발도 가능하지만, 사실 AI가 아니라 이미 다른 시장 영역에서 우리는 같은 방식을 적용하고 있다. 그래서 AI도 사전 규제 장치를 만들자는 것”이라고 했다.
