인공지능(AI) 시대가 열리며 처리해야 할 데이터가 급증하고 있다. 시장조사업체 스타티스타에 따르면, 세계 데이터의 약 90%가 지난 2년 동안 생성됐을 정도다. 데이터를 처리하는 CPU 성능이 데이터 증가 속도가 못따라 가게 되면서, 데이터센터를 운영하는 글로벌 빅테크들은 ‘데이터 병목 현상’을 피할 수 없게 됐다. 이를 해소하기 위해 고안된 것이 바로 ‘데이터처리가속기(DPU)’다.
데이터 처리에 특화된 DPU는 CPU가 전담하던 데이터 일부를 대신 처리해 막혀 있던 ‘데이터 도로’를 뚫는 역할을 한다. AI 산업에 가장 큰 걸림돌인 데이터센터 전력 효율 문제를 해소하고 데이터 처리 속도를 높일 수 있는 ‘열쇠’인 셈이다. 아마존, 엔비디아 등이 주도하고 있는 DPU 기술 경쟁에 도전장을 내민 국내 스타트업이 있다. 김장우(52) 서울대 교수가 2022년 창업한 ‘망고부스트’다. 김 대표는 “DPU는 개발 난도가 높아 실제로 시장에서 경쟁력이 있는 제품을 만들 수 있는 회사가 세계에서 열 손가락으로 꼽을 수 있을 정도”라며 “데이터센터에서 처리해야 할 데이터가 100배 이상 늘어나면서 DPU도 선택이 아닌 필수 요소가 되고 있다”고 했다.
김 대표가 처음부터 창업을 위해 연구한 것은 아니다. 빅데이터의 등장으로 수많은 데이터가 생성되던 2012년부터 컴퓨터의 데이터 처리 속도를 높일 수 있는 연구를 시작했다. 그러던 중 2017년 아마존웹서비스(AWS)가 자체 개발한 DPU를 활용하고 있다는 소식을 접했다. 김 대표는 “자세히 뜯어 보니 이미 우리가 연구했던 것들이어서 사업화 가능성을 확신할 수 있었다”면서 “서울대, 포항공대, 카네기멜론대 등에서 함께 연구하던 시스템 반도체 분야 ‘국가대표’들이 합류하면서 제품화 속도를 올릴 수 있었다”고 했다.
망고부스트 DPU의 강점은 ‘유연성’과 ‘속도’다. 데이터센터를 구성하는 GPU나 저장장치 등 다양한 곳에 망고부스트 DPU를 적용하면 해당하는 부분마다 데이터 처리 속도를 높일 수 있기 때문이다. 또 망고부스트는 자사 DPU를 통해 데이터센터 시스템 다양성을 키울 수 있을 것으로 기대하고 있다. AI 서비스를 운영하기 위해 GPU를 사용하려면 데이터 저장 시스템과 CPU 등과 연결하기 위한 ‘네트워크 설루션’이 필요한데, 지금은 엔비디아의 네트워크 설루션을 사용하지 않으면 GPU를 사용할 수 없는 상황이다. 김 대표는 “망고부스트 DPU에는 엔비디아 네트워크를 대신할 수 있는 설루션이 탑재돼 있다”면서 “이를 활용하면 네트워크는 인텔 제품을, GPU는 AMD 제품을 사용할 수 있게 되는 등 빅테크도 엔비디아의 생태계에서 벗어날 기회를 잡을 수 있게 될 것”이라고 했다.
망고부스트는 자사 DPU를 활용하면 데이터센터의 총소요비용(TCO)을 30% 이상 낮출 수 있을 것으로 전망한다. 데이터센터 TCO가 ‘조’ 단위인 만큼 망고부스트의 설루션으로 연간 수백억 원의 비용을 아낄 수 있다는 것이다. 현재 망고부스트는 자체 설계한 DPU 지식재산권(IP)을 바탕으로 AMD, 인텔 등과 함께 개발한 DPU 설루션과 이들을 적용한 다양한 제품을 시험하고 있다. 삼성전자와 함께 개발한 제품도 연내 공개할 예정이다.
망고부스트는 시작부터 업계 주목을 받았다. 김 대표가 국제컴퓨터구조심포지움(ISCA) 등 세계 컴퓨터 시스템 학회들의 명예의 전당에 헌액된 시스템 반도체 분야 석학이기 때문이다. 김 대표는 “앞으로 전용 가속 칩 등 하나의 반도체에 다양한 기능을 넣은 ‘시스템온칩(SoC)’ 개발에도 나서면서 망고부스트 DPU의 시장성을 증명해갈 것”이라고 했다.