지난 25일 미국 캘리포니아주 오클랜드에서 열린 메이저리그(MLB) 오클랜드 어슬레틱스와 휴스턴 애스트로스 경기 전 젠슨 황 엔비디아 최고경영자(CEO)가 시구하고 있다. 오클랜드 구단은 ‘대만 유산의 날’을 기념해 대만인들을 초청하면서 황 CEO에게 시구를 맡겼다. 그는 미국에서 1993년 게임용 그래픽 처리 장치(GPU)로 사업을 시작해 현재 엔비디아를 세계 시가총액 3위 기업으로 올려놨다./AP 연합뉴스

지난 24일 뉴욕 증시에서 엔비디아 주가(종가 기준)는 1064.69달러로 사상 최고치를 기록했다. 하루 전날 주가가 처음으로 1000달러를 돌파한 데 이어 2.57% 상승한 것이다. 엔비디아의 시가총액도 2조6180억달러(약 3581조원)로, 세계 2위인 애플(2조9130억달러)을 바짝 따라잡게 됐다.

AI(인공지능) 가속기 시장의 약 97%를 차지하는 엔비디아의 질주는 당분간 멈추지 않을 것으로 보인다. AI 가속기는 AI의 데이터 학습과 추론에 사용되는 AI 반도체의 일종이다. 전 세계적으로 몰아치는 AI 열풍으로 마이크로소프트(MS), 구글과 같은 빅테크가 AI 개발에 천문학적 투자를 진행하고 있는 만큼, 엔비디아 제품 수요는 오히려 늘어나고 있다. 컴퓨터 게임을 위한 그래픽 카드(GPU)를 만들던 엔비디아가 AI 반도체 황제의 자리에 오른 것은 AI 열풍에 운 좋게 편승했기 때문이 아니다. 끊임없이 새로운 시장을 찾고, 산업 현장을 바닥부터 훑고 다닌 황 CEO의 결단력과 집요함이 있었다.

그래픽=김현국

◇GPU 둘러싼 생태계 조성

엔비디아는 창업 초기 주류가 아닌 비주류 분야에서 시작했다. 엔비디아는 반도체 기업 AMD에서 반도체 디자이너로 일하던 대만계 미국인 젠슨 황이 1993년 그래픽 반도체 설계 엔지니어였던 커티스 프리엠 등과 공동 창업했다. 이들은 게임에 사용되는 데이터 양이 갈수록 많아져, 기존 범용 그래픽 카드로는 처리에 한계가 있을 것으로 내다봤다. 갈수록 정교해지는 3D(입체) 그래픽도 게임에 본격적으로 사용되기 시작했다. 게임용 그래픽은 가장 복잡한 연산을 수행할 수 있어야 했다. 더구나 게임 산업의 성장 속도를 감안하면 수요도 폭발적으로 늘어날 것으로 전망했다. 이들이 게임 업계를 겨냥한 고성능 그래픽 카드를 만들고, ‘그래픽처리장치(GPU)’라는 이름을 붙였다. 지금은 고유명사가 된 GPU의 시작이다.

엔비디아의 GPU가 그래픽카드 시장에서 궤도에 올랐을 무렵인 2000년대 중반, 젠슨 황은 새로운 시장을 찾아나서기 시작했다. 그는 스탠퍼드대학 한 연구실이 GPU를 이용해서 복잡한 연산이 필요한 분자 모델 연구를 하고 있다는 것을 알고, 그때부터 AI 시장에 주목하기 시작했다. GPU가 패턴과 관계를 인식하고, 추론하고, 예측하는 능력을 발휘한다는 점에 착안한 것이다.

여기에 힘을 더한 것이 엔비디아가 2007년 개발한 ‘쿠다(CUDA)’라는 개발자용 소프트웨어다. 이는 개발자들이 GPU를 활용해 소프트웨어를 쉽게 개발하도록 지원한다. 애플이 하드웨어인 아이폰만 만들지 않고 소프트웨어인 애플리케이션 생태계를 함께 만들었듯이, 엔비디아도 GPU뿐만 아니라 소프트웨어를 동원해 ‘엔비디아 생태계’를 만든 것이다.

젠슨 황 엔비디아 최고경영자가 지난 3월 미국 캘리포니아주 새너제이에서 열린 개발자 콘퍼런스 GTC2024에서 최신형 AI 가속기 GB200을 선보이고 있다. 손에 든 기판 위쪽에 비스듬히 놓인 두 개의 하얀 사각형 안에 각각 GPU 2개씩과 HBM 8개씩이 배치돼 있다. 기판 중앙의 반도체는 CPU로, GPU에 연산 스케줄을 전달하는 역할을 한다. /AFP 연합뉴스

당시만 해도 AI 개발은 돈이 안 되는 분야였다. 하드웨어와 소프트웨어 기술 기업도 AI에 큰 관심이 없었다. AI에 관심이 있는 개발자들이 결국 관심을 갖게 된 것은 한번에 여러 연산이 가능한 엔비디아 GPU와 소프트웨어 ‘쿠다’였다. 쿠다로 만든 프로그램은 엔비디아 GPU에서만 돌아가기 때문에, 새로운 개발자들도 기존의 AI 프로그램을 활용하기 위해 엔비디아 GPU와 쿠다를 찾을 수밖에 없는 상황이 됐다. 이렇게 꼬리에 꼬리를 물고 사용자들이 늘어나면서 록 인(lock in·상품 및 서비스 경험을 통해 지속적인 소비를 창출함) 효과가 생겨 이 시장에서 독점적 지위를 누리게 된 것이다.

◇ “일에 미친 젠슨 황 리더십 덕분”

유회준 카이스트 교수는 “일에 미친 젠슨 황의 리더십이 아니면 엔비디아가 이 자리까지 오르기 어려웠을 것이다”라고 했다. 젠슨 황은 GPU가 게임에 쓰이던 시절부터 서울 용산 전자 상가를 찾았다고 알려질 정도로 열성적이다. 2010년 용산에 엔비디아 교육센터를 열었을 때도 젠슨 황이 직접 개소식에 참석해 쿠다를 설명했다.

인재 쟁탈전이 치열한 실리콘밸리에서 엔비디아는 탁월한 인력 관리로 기술 독점력을 유지하고 있다. 엔비디아에 따르면, 작년 직원 이직률은 5.3%, 2022년은 4.9%, 2021년은 3.1%로 매년 5% 안팎을 유지하고 있다. 이는 반도체 업계 평균(19.2%)을 크게 밑도는 수치다. 엔비디아에서 18년간 소프트웨어 엔지니어로 일했다는 한 직원은 “동료와 구내식당에서 점심을 먹는데 뒤에서 젠슨 황이 합석해 같이 밥을 먹으며 회사에 대해 어떻게 생각하는지, 복리후생은 개선할 점이 없는지 물었다”라고 했다.

스타트업 인수로 차세대 사업을 선점하는 선견지명을 보이기도 했다. 2020년 데이터 센터 사업을 키우기 위해 70억달러에 인수한 이스라엘 기업 멜라녹스가 대표적이다. 멜라녹스는 데이터 센터 내 중앙처리장치(CPU)와 GPU, 메모리 간 원활한 데이터 처리를 돕는 데이터처리장치(DPU)를 선보인 곳. 젠슨 황은 “CPU, GPU에 이어 DPU가 차세대 컴퓨팅 핵심축이 될 것”이라며 관련 사업 확대를 예고했다. 2020년 이후 데이터 센터 사업은 엔비디아 세부 사업 분야에서 가장 큰 매출 비율을 차지했다.

AI 반도체 시장을 장악한 황 CEO는 지금도 스타트업에 공격적으로 투자하고 있다. 단순히 수익을 얻기 위한 투자가 아닌 자신들의 GPU를 이용하는 AI 회사들에 투자하면서 생태계를 구축하는 것이다.

스타트업 시장조사 업체 피치북에 따르면 엔비디아는 지난해 39건의 투자를 집행했다. 이는 각각 14건이었던 2021년과 2022년의 3배에 가까운 수치다. 월스트리트저널(WSJ)에 따르면 엔비디아의 투자액은 1월말 15억5000만달러로 전년 3억 달러에서 5배 이상으로 증가했다. 올해 들어서도 AI 로봇 기업 피겨AI 등 AI 스타트업 투자를 이어가고 있다.