WEEKLY BIZ 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/146096
사람의 얼굴을 보면 눈과 코 그리고 입, 귀가 있다. 모두 인간이 외부와 소통하기 위한 신체 기관들이다. 그중에서 눈이 받아들이는 정보량이 제일 많다. 인간은 빛을 통해 세상을 바라본다. 유대교와 기독교의 성경 창세기에는 “하나님께서 ‘빛이 있으라’라고 외치시자, 태초에 빛이 생겨났다”란 구절이 있다. 빛을 통해 인간은 외부를 인지할 수 있다. 빛이 있으면 주변을 볼 수 있고, 빛이 없으면 볼 수 없는 것처럼 인간은 눈을 통해 ‘수동적으로’ 외부 데이터를 받아들이는 특징이 있다. 반면 입으로는 ‘능동적으로’ 하고 싶은 말을 골라 한다. 그래서 양방향 소통 기관이라 한다. 정제된 말과 글로 외부와 능동적인 양방향 소통을 하는 언어의 가치가 더 높은 이유다. 그래서 우리는 그 양방향 소통의 진가를 보여준 소설가 한강의 노벨 문학상 수상에 열광한다.
수동적으로 정보를 받아들이는 한계를 지닌 인간의 눈처럼, 인공지능(AI) 딥 러닝 학습 분야에서도 ‘시각 AI(CNN·Convolutional Neural Network)’가 먼저 개발됐다. CNN은 인간의 시신경을 분석해 만든 딥 러닝 방식이다. 노벨 물리학상을 받은 제프리 힌턴 캐나다 토론토대 교수의 기계 학습 알고리즘이 여기에 사용된다. 그 다음으로 말을 듣고 할 수도 있는 ‘언어 AI(RNN·Recurrent Neural Network)’가 개발됐다. 그리고 최근엔 GPT에서 사용되는 ‘트랜스포머(Transformer) 모델’이 개발돼 널리 쓰인다. 입력 정보 중 단어와 단어 사이의 관계와 위치에 집중해 사용자의 발언 의도를 분석해내는 방식이다. 이를 ‘거대언어모델(LLM·Large Language Model)’이라고도 한다.
AI가 문해력을 갖기 위해선 단어 사이의 연관 관계를 잘 알아야 한다. 최근 쓰이는 트랜스포머 모델은 이 같은 연관 관계 등 언어의 특징을 잘 살리고 있다. 그래서 이 모델을 어텐션(Attention) 기반의 언어 모델이라고도 한다. 집중·주의란 어텐션의 영단어 뜻처럼 입력된 단어와 단어의 관계나 중요성 정도를 집중해 학습해 점수로 매긴다. 그리고 언어는 문장 순서가 중요해 이를 학습한다. 이러한 학습의 결과를 바탕으로 우리가 질문을 하면 그럴싸하게 가장 확률이 높은 단어 순서대로 쏟아 낸다.
언어를 생성하는 AI 반도체는 이러한 학습과 생성 작업을 효율적으로 할 수 있게 만든 전문 반도체다. 이렇게 언어를 전문으로 학습·생성하는 프로세서를 ‘언어처리장치(LPU·Language Processing Unit)’라고 부른다. 일반적으로 PC에 사용됐던 중앙처리장치(CPU), AI 학습과 생성에 사용됐던 그래픽처리장치(GPU)에 이어, 이제 언어 생성을 전문으로 하는 새로운 반도체가 등장한 것이다. 주로 초거대 LLM 학습 작업은 GPU와 고대역폭 메모리(HBM)로 구성된 AI 수퍼컴퓨터를 사용하고, 학습한 언어를 바탕으로 답변하는 생성 작업엔 LPU를 집중적으로 사용하겠다는 전략이다. LPU는 언어 기능에 집중하기 때문에 기능을 단순화하고 계산과 데이터 이동을 최적화할 수 있다. 사용처로는 언어 서비스용 데이터센터, 대화형 AI 챗봇, 휴대폰 단말기, 자동차, 가전제품 등이 있다.
LPU를 개발하는 대표적 기업으로는 미국 AI 반도체 설계 전문 스타트업 ‘그로크(Groq)’가 있다. LLM 기반 AI 서비스 구현에 적합한 초고속 언어처리장치를 개발해 상용화하는 게 이 회사 목표다. GPU에 비해 10분의 1 수준 비용만 들이면 된다고 한다. 이 회사는 자사의 LPU 반도체를 삼성전자 파운드리 공장에 맡겨 위탁 생산할 것이라고 보도되기도 했다. 그로크의 기업 가치는 이미 28억달러(약 3조8000억원)에 이른다는 외신 보도도 나왔다. 한편 국내에선 김주영 KAIST 교수가 ‘하이퍼엑셀’이란 스타트업을 차리고 새로운 LPU를 선보였다. 엔비디아의 경쟁 제품과 비교할 때 가성비와 전력 대비 성능 비율이 두 배 이상 우수하다고 한다. AI 시대의 새로운 반도체에서 기회가 될 LLM 분야에 우리나라 기업들의 활약을 응원한다. 그리고 한글 전용 ‘훈민정음 LLM’이 나오기를 기대한다. 그때쯤 되면 AI가 노벨 문학상을 탈 수도 있다. 그럼 AI도 국적이 있을까 상상해 본다.
WEEKLY BIZ 뉴스레터 구독하기 ☞ https://page.stibee.com/subscriptions/146096