1447년에 발간된 악장이자 서사시인 ‘용비어천가’는 이렇게 노래한다. “뿌리가 깊은 나무는 바람에 움직이지 아니하므로 꽃이 좋고 열매가 많으니! 샘이 깊은 물은 가뭄에 그치지 아니하므로 내가 이루어져 바다에 가나니!” 이 문장은 인공지능(AI) 시대에도 통하는 지혜를 담고 있다.
인간의 몸은 약 70%가 물로 이루어져 있다. 그래서 물 없이는 생명을 유지할 수 없다. 물이 바로 생명의 원천이고 지속성의 조건이다. 샘이 깊은 물은 가뭄에도 마르지 않는다. 마찬가지로 AI 반도체에도 바다와 같은 큰 전기가 필요하다. 전기가 마르지 않아야 학습과 생성을 유지할 수 있다.
‘무어의 법칙’은 인텔 창립자 고든 무어가 1965년에 발견한 반도체 기술 발전 속도에 관한 경험 법칙이다. 요약하면 ‘반도체에 집적되는 트랜지스터 숫자는 1~3년마다 두 배 또는 그 이상으로 증가한다’는 것이다. 이는 디지털 혁명을 가능케 한 법칙이다. 이러한 발전을 통해서 누구나 손안에 컴퓨터를 들고, 인터넷에 접속하고, 유튜브를 보는 시대가 됐다.
그런데 이제 AI 시대가 되면서 새로운 법칙들이 관찰되기 시작했다. 일종의 ‘AI 무어의 법칙’인 셈이다. 먼저 2년마다 대략적으로 10배씩 모델의 크기가 늘어나고 있다. 오픈AI의 챗GPT나 구글의 제미나이 같은 AI 모델이 커지는 속도가 그렇다는 얘기다. AI 모델이 멀티모달 생성 기능을 지원하면서 점점 초거대화되고 있기 때문이다. 멀티모달이란 예를 들어 글을 쓰거나 음악을 연주하거나 동영상을 생성하는 등 다양한 기능을 동시에 수행한다는 뜻이다.
그 결과, 조만간 모델 변수의 가짓수가 조 단위를 넘어 십여 년 내로는 100조 이상이 될 것으로 예상한다. 그러면 자동적으로 이에 필요한 반도체의 숫자와 성능도 비례해서 늘어난다. 예를 들어 HBM(고대역폭 메모리)의 대역폭도 일정 기간마다 2배씩 늘어난다.
마찬가지로 HBM 내의 데이터 저장 용량도 일정 기간마다 2배씩 늘어난다. 사용자도 늘어난다. 이렇게 되면 당연히 비례해서 전기 사용량이 증가한다. AI가 사용하는 전기도 일정 기간마다 2배씩 늘어날 수밖에 없다. 결국 투자 비용과 운영 비용도 함께 비례해서 늘어난다.
AI가 학습하거나 정보를 생성하는 과정을 거칠 때 AI 반도체는 수많은 수학 ‘행렬 계산’을 반복한다. 행렬 계산 과정에서 디지털 2진수 숫자의 덧셈과 곱셈을 끝없이 계속한다. 이때 계산 값이 ‘1′과 ‘0′을 반복한다. ‘1′이라는 상태는 전자회로에 전자가 채워진 상태이고 ‘0′은 전자가 비워진 상태이다. 이렇게 전자의 채움과 비움이 반복된다. 이때마다 전자의 흐름인 전류를 공급해야 하고, 그 결과 전력 소모가 발생한다.
이런 전력 소모는 생성 속도, 모델 크기, AI 반도체 수, 그리고 사용자 수에 비례한다. 이는 ‘AI 무어의 법칙’에 따라 계속 증가할 것이다. 결과적으로 이러한 전자를 공급할 거의 무한대 용량의 ‘전자 샘물’이 필요하다. 이렇게 AI는 바다 같은 크기의 전자 저수지가 필요하다. 그 물리적 장치가 바로 발전소이고, 이를 연결하는 시설이 송전선이다. AI가 발전하면서 발전소와 송전선 인프라가 늘어날 수밖에 없는 필연적인 이유다.
인간의 뇌는 AI와 비교해 전력 소모 면에서 훨씬 효율적이다. AI가 유일하게 인간에게 뒤지는 조건이 바로 전력 효율인 것이다. 인간의 뇌는 약 20W의 전력을 사용한다. 반면 엔비디아 GPU(그래픽 처리 장치) 하나가 700W의 전력을 쓴다. 최소 AI 서비스 단위인 256대의 GPU를 사용하는 엔비디아 AI 수퍼컴퓨터의 경우 320KW의 전력을 사용한다. 이렇게 보면 AI는 인간의 뇌가 사용하는 전력의 최소 460배를 소모한다.
AI 데이터센터의 경우 가히 천문학적인 전력을 필요로 한다. 최근 오픈AI는 2028년경 ‘스타게이트’라고 불리는 GPU 280만대 규모의 첨단 AI 데이터센터를 구축할 예정이라고 발표했다. 여기에 필요한 전력 공급 규모는 5기가와트(1기가와트는 10억와트) 규모이다. 평균적 규모의 원자력 발전소 6기를 새로 지어야 하는 전력이다. 이 데이터 센터가 1년 동안 하루 24시간 쉼 없이 가동하면 총 누적 전력 사용량은 43.8조Wh가 된다. 이는 2022년 한 해 동안 우리나라가 원자력 발전으로 생산한 전체 전력 생산량의 24.9%에 해당하는 거대한 양이다. 그래서 AI를 위해서는 원자력 발전소가 더 지어져야 한다.
미래의 AI 데이터센터에는 기가와트 이상의 전력을 공급하도록 발전소와 송전 시설을 충분히 확보해야 한다. AI 데이터센터를 발전소 바로 옆에 설치하거나 아예 AI 데이터센터 안에 발전소를 설치해야 하는 상황이 생길 것으로 예측된다. 결과적으로 누구나 누릴 수 있는 생성형 AI 시대의 실현을 위해서는 유지 비용의 가장 핵심인 전력 소모를 줄여야 한다.
전력 소모를 줄이기 위해서는 지금보다 전력 면에서 더 효율적인 생성 AI 모델의 개발이 필요하다. 작은 모델이면서 생성 성능의 정확성이 보장되어야 한다. 지금의 변환기 모델을 뛰어넘는 초경량화 모델 개발이 필요하다. 그리고 저전력 AI 반도체 개발도 연구 대상이다. 이러한 배경으로 AI 패권 전쟁은 ‘자본의 전쟁’과 ‘인프라 전쟁’으로 전환되고 있다. 저전력 AI 반도체의 확보, 저전력 AI 데이터센터의 건설, 그리고 전력 인프라에 막대한 비용이 투입되어야 하기 때문이다.
국가, 이념, 문화의 영속성을 위해서는 뿌리 깊은 나무와 샘이 깊은 물이 필요하다. 공평한 AI 시대의 실현을 위해서는 바다와 같은 전기가 필요하다.