Theme 01. 식지 않는 AI 투자 열기
주요 AI CSP 4사(Microsoft, Amazon, Alphabet, Meta)는 25년 기존 가이던스를 잇따라 상향하며, 2H25 CAPEX 규모는 총 2,060억 달러에 이를 것으로 추정된다. 또한 엔비디아는 또한 엔비디아는 25년 10월, 데이터 센터 CAPEX 투자규모를 약 6,000억 달러로 발표하였으며, 30년까지 3~4조 달러까지 늘릴 것으로 발표했다. 이는 AI산업이 Generative AI에서 Agentic AI로 접어들면서 주도권을 확보하기 위한 움직임에 기인한다.
Agentic AI 시대의 개화
AI 모델을 실제 서비스에 적용하고 활용하는 사례가 많아짐에 따라, 25년 AI 반도체 시장에서 학습용 칩 비중이 약 22%, 추론용 칩 비중이 약 78%를 차지했다. 이는 현재 AI 산업이 ‘훈련’ 중심에서 ‘추론'시장, 즉 Agentic AI로 빠르게 이동하고 있다는 것을 방증한다.
Agentic AI란 스스로 목표를 설정하고 계획을 수립하며, 끊임없이 외부 환경을 탐색해 자율적으로 행동하는 AI를 말한다. 이는 기존 Generative AI가 사용자의 명령에 따라 결과물을 생성하고 그치는 것에서 차이가 있다.
그러나 이러한 구조적인 변화는 AI가 결과를 생성하는 데 있어 필요한 전력 비용을 기하급수적으로 증가시킨다. 이는 AI의 계산량과 열을 감당하기 위한 전력을 끊임없이 공급해줘야 한다는 데 기인한다.
Theme 02. 추론용 AI 가속기 시장의 개화
25년 추론용 AI 반도체 시장 규모는 약 69억 2,680만 달러로 33년까지 301억 2천만 달러(CAGR +20.5%)로 성장할 것으로 판단된다. 이는 AI 산업을 이끌고 있는 주요 기업들이 막대한 전력 비용을 줄이기 위해 추론용 AI에 최적화된 AI 가속기를 개발하고 있다는 데 기인한다.
학습용 AI 가속기 VS 추론용 AI 가속기
학습용 AI 가속기(GPU)는 데이터를 반복적으로 학습하며 가중치를 업데이트 할 수 있어 범용성이 높지만, 그만큼 불필요한 계산과 전력소모를 동반한다. 반면 추론용 AI 가속기는 칩마다 고유의 가중치를 보유해 범용성은 낮지만, 연산 효율성과 전력 효율을 획기적으로 개선할 수 있다.
AI 가속기 시장은 분화 중
Agentic AI 시대로 접어들며 효율적 비용관리가 대두된 상황에서, 26년부터 주요 경쟁사들은 본격적인 추론용 AI 가속기를 출시할 예정이다. 이는 비용 절감을 넘어, 빠르게 성장하는 추론 시장에서 필수적인 실시간성과 연산 효율성을 확보하기 위한 전략이다.
나아가 GPU 중심의 데이터센터 구조가 추론용 AI 가속기를 기반으로 재편됨에 따라, 글로벌 클라우드 산업 전반에서 인프라 투자와 밸류체인 구조적 변화가 가속화될 것으로 전망된다.
Theme 03. 어부지리인 HBM과 NAND
본 리서치원은 Agentic AI로의 이행이 가속화되는 현 시점에서, 고대역폭 메모리(HBM)과 비휘발성 메모리(NAND) 시장이 구조적 수혜를 받을 것으로 판단한다. 이는 1) 연속 추론 기반 모델이 기존 대비 수백 배 이상의 데이터 전송량과 저장 용량을 필요로 하며, 2) 메모리 반도체 빅 3사가 고성능 AI 메모리 공급망에서 지배적 위치를 점하고 있기 때문이다.
HBM과 NAND의 역할
HBM은 AI 가속기 내에서 데이터를 빠르게 전송·처리하기 위한 핵심 메모리로, 초당 수백 GB에 달하는 대역폭을 제공해 모델 학습 및 추론 속도를 결정짓는 주요 요소로 작용한다. 반면 NAND는 학습 및 추론 과정에서 생성·저장도는 대규모 파라미터, 가중치, 데이터셋을 장기 보관하는 역할을 담당한다. 선술하였듯, 추론용 AI 반도체 칩 생산이 급증하고 있는 현 시점에서 AI 가속기의 구조적 특성상 HBM과 NAND 모두 수요가 집중될 수밖에 없는 환경이 조성되고 있다.
제한적인 생산자
HBM과 NAND의 수요가 급증하고 있는 반면, 공급은 여전히 제한적이다. 특히 26년에도 일반 DRAM의 공급이 제한된 가운데, AI 서버 수요 확대로 인해 HBM을 중심으로 한 수급 타이트 현상이 지속될 전망이다. 또한 최근 몇년간 공급 과잉과 가격 하락으로 인해 제조사들은 생산량 조정과 재고 축소에 나서왔으나, AI 데이터센터 건설 증가로 인한 스토리지 확충 수요 급등이 다시금 시장 균형을 변화시키고 있다. 이에 따라 NAND를 기반으로 한 SSD 수요가 급증하고 있으며, 이러한 환경은 메모리 제조사들의 영업이익률을 구조적으로 개선시키는 요인으로 작용하고 있다.
* 위 글에 포함된 어떤 정보도 특정 종목의 매수나 매도를 권유하거나 추천하는 것이 아니며, 모든 투자 판단의 책임은 투자자 본인에게 있습니다
* 법적, 재무적, 회계적 자문으로 간주되지 않으며, 투자 손실에 대한 법적 책임을 지지 않습니다.
대표사진 출처 : 데일리 바이트