유럽연합(EU)이 세계 최초로 AI(인공지능) 기술을 규제하기 위해 마련한 법안이 확정돼 생체 인식 금지 등 주요 규정이 12월부터 적용된다. 위반 기업에 최대 3500만유로(약 517억원) 또는 글로벌 매출의 7%까지 벌금으로 부과하는 이 법이 세계 주요국의 AI 규제법 제정에 영향을 끼칠 전망이다.
EU 27국으로 구성된 교통·통신·에너지이사회는 21일(현지 시각) 벨기에 브뤼셀에서 열린 회의에서 AI 규제법을 최종 승인했다고 밝혔다. 이 법은 AI 기술을 수용 불가능한 위험, 고위험, 제한된 위험, 최소 위험 등 4등급으로 구분해 차등 규제한다. 사회에 부정적 영향을 줄 위험이 클수록 더 엄격하게 규제한다는 취지다. 이에 따라 AI를 활용해 보안 카메라(CCTV)로 수집한 영상으로 얼굴 인식 데이터베이스를 만들거나, 생체 정보를 수집해 인종과 정치 성향 등을 추론하는 서비스 등이 12월부터 EU 역내에서 전면 금지된다. 인간의 행동을 조작하거나 취약성을 악용하는 관행 등도 ‘수용 불가능 위험’ 등급으로 분류돼 허용되지 않는다. 다만 성폭행, 테러와 같은 중대 범죄 용의자를 수색하기 위한 용도 등 극히 예외적인 경우에는 법원의 사전 허가를 받는 조건으로 허용된다.
의료, 교육을 비롯한 공공 서비스나 선거, 자율 주행 등에 사용되는 AI 기술은 ‘고위험 등급’으로 분류돼 출시되기 전에 엄격한 위험 평가를 거치도록 했다. 이 분야에선 사람이 AI 사용을 반드시 감독하도록 하고 위험 관리 시스템을 구축해야 한다. 범용 인공지능(AGI·사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI)을 개발하는 기업에 대해서는 ‘투명성 의무’가 적용된다. EU 저작권법을 반드시 준수하도록 하고 AI 학습 과정에 사용된 콘텐츠를 명시해야 한다. EU는 집행위 연결총국 산하에 AI 전담 조직을 신설해 AI법 집행을 총괄하도록 할 계획이다.
관보 게재를 거쳐 다음 달 발효되는 이 법은 12월 AI에 대한 일반 금지 규정을 시행하고, 내년 6월부터는 AGI에 대한 규제를 적용한다. 모든 규정의 전면 시행은 2026년 중반부터다.
법무법인 세종 AI센터는 “이번 AI 규제법의 목적은 AI 시스템이 초래할 수 있는 인권·윤리 문제를 감소시키는 것”이라며 “한국의 AI 규제법 추진에 상당한 영향을 끼칠 가능성이 높다”고 했다.