[이코노미스트 정길준 기자] 인공지능(AI) 인프라 국가대표를 자처하는 망고부스트가 엔비디아의 독주에 맞설 연합전선을 구축하겠다는 비전을 선언했다.

망고부스트는 12일 서울 강남구 그랜드 인터컨티넨탈 서울 파르나스에서 기자간담회를 열고 서버리스 AI 추론 플랫폼 ‘망고 인퍼런스’를 공개하며 미래 사업 청사진을 발표했다. 기업 고객 대상 API(응용프로그램 인터페이스) 사업과 AI 인프라 구축이라는 양대 축을 중심으로 가파른 성장을 이뤄내겠다는 포부를 드러냈다.

서울대학교 연구진이 10년 이상 축적한 기술력을 바탕으로 2022년 설립된 망고부스트는 DPU(데이터처리장치) 하드웨어를 비롯해 AI 추론 소프트웨어, AI 서버 및 스토리지 시스템을 모두 아우르는 ‘풀스택 AI 인프라’ 기업이다. AI 서버를 구성하는 핵심 요소 중 GPU(그래픽처리장치)나 NPU(신경망처리장치)를 제외한 네트워킹·스토리지·소프트웨어 전 구간을 자체 개발해 특정 해외 벤더에 의존하지 않는 ‘소버린 AI 인프라’ 사업자를 지향한다.

‘풀스택’ 기술력 앞세워 엔비디아 맞서

망고부스트는 단순히 고성능 DPU나 소프트웨어 솔루션을 대형 빅테크에 납품하는 사업 방식에 머물지 않고 직접 인프라 서비스를 제공하는 ‘AI 팩토리’ 사업 모델을 택했다. 김장우 망고부스트 대표는 “중간 서버 업체나 하이퍼스케일러에 부품만 공급하는 회사가 되면 시장 지배력을 가질 수 없고 1등이 될 수 없다”며 “기술 주도권을 직접 쥐고 대한민국 AI 인프라의 근본적인 경쟁력을 확보하기 위해 고객에게 직접 다가가는 완성형 인프라 및 플랫폼 서비스를 구축하게 됐다”고 설명했다.

이러한 기술적 우위는 글로벌 시장에서도 증명되고 있다. 특히 GPU 영역에서 엔비디아의 유일한 라이벌인 AMD는 기술 행사나 공식 블로그 등에서 망고부스트의 이름을 매번 언급하며 협력 관계를 과시하고 있다. 글로벌 AI 성능 평가인 MLPerf 등에서 망고부스트는 독자 개발한 소프트웨어 ‘LLM부스트’와 네트워킹 기술로 가성비가 강점인 AMD GPU의 추론 성능을 엔비디아의 최신 플래그십 모델 수준까지 끌어올리는 성과를 냈다.

권동업 망고부스트 CTO는 “오픈소스 서빙 레이어들은 하드웨어 성능을 온전히 이끌어내지 못하지만, 망고부스트는 소프트웨어 최적화만으로도 엔비디아 최신 모델에 비등하거나 그 이상의 성능을 낸다”며 “자체 DPU와 계층형 스토리지 기술을 결합해 데이터 병목을 제거하고 최상의 토큰 효율을 보장하는 데이터센터 인프라를 구현하고 있다”고 말했다.

‘AI 팩토리’로 기술 주도권 확보

망고부스트는 새로 출시한 망고 인퍼런스를 시작으로 본격적인 매출 창출에 나선다. AI를 합리적인 비용으로 활용하려는 일반 기업은 물론, AI 인프라 구축을 희망하는 하이퍼스케일러와 온프레미스(자체 구축) 환경을 원하는 금융·국방 분야까지 폭넓은 고객층을 수용한다는 전략이다.

인프라 확장 로드맵도 구체화되고 있다. 망고부스트는 서울 강남 도산공원 인근에 구축 중인 1MW(메가와트) 규모의 데이터센터 인프라를 시작으로, 내년 5MW 규모 확장에 나선다. 나아가 AMD 등 글로벌 파트너 및 데이터센터 사업자들과 손잡고 미국·일본·동남아 등지에 500MW를 넘어 GW(기가와트)급 AI 팩토리를 단계적으로 구축해 글로벌 인프라 사업자로 자리매김할 계획이다.

김장우 대표는 “지금까지 시스템을 만들고 요소 기술을 공급하며 기반을 다져왔다면, 유료 서비스를 시작한 오늘을 기점으로 본격적인 비즈니스 레이스에 나선다”고 말했다. 이어 “올해 100억원 이상의 매출은 당연히 달성 가능하지만, 이는 사업의 시작일 뿐 매출 수치로 보지도 않는다”며 “조 단위 매출을 올리는 글로벌 기업으로 도약하는 것이 목표이며, 내년부터 그 결실이 본격화될 것”이라고 자신했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지