K-반도체 AI투자 (HBM, 퓨리오사AI와 리벨리온, 한국 ai반도체)
솔직히 저는 국장에서 AI 테마주가 왜 이렇게 들썩이는지 처음엔 전혀 몰랐습니다. 뉴스에서 엔비디아 얘기가 나올 때마다 그냥 미국 반도체 회사겠거니 하고 넘겼는데, 막상 공부를 시작하고 나서야 이게 단순한 주식 테마가 아니라는 걸 알게 되었습니다. 우리나라 반도체 기업들이 이 흐름에서 어떤 역할을 하는지, 그리고 실제로 투자할 만한 근거가 있는지 직접 파헤쳐봤습니다.
HBM과 K-반도체, 엔비디아 독주에 균열이 생기는 이유
제가 처음 이 시장을 들여다봤을 때 가장 놀란 건 메모리 쪽이었습니다. 일반적으로 AI 반도체 하면 엔비디아 GPU만 떠올리기 쉬운데, 실제로 들여다보니 구조가 그렇게 단순하지 않았습니다.
AI 모델을 학습하고 서비스하려면 엄청난 데이터를 끊임없이 처리해야 합니다. 그런데 아무리 강력한 GPU도 데이터를 빠르게 공급해주는 메모리가 없으면 제 성능을 낼 수가 없습니다. 여기서 HBM(High Bandwidth Memory)이 등장합니다. HBM이란 기존 메모리보다 훨씬 넓은 데이터 통로를 가진 고대역폭 메모리로, AI 연산에 필요한 대규모 데이터를 GPU에 빠르게 밀어 넣는 역할을 합니다. 쉽게 말해 GPU가 엔진이라면 HBM은 연료 공급 파이프라고 보면 됩니다.
그리고 그 HBM 시장을 사실상 한국이 쥐고 있습니다. 2025년 2분기 기준 글로벌 HBM 시장에서 SK하이닉스가 62%, 삼성전자가 17%를 차지해 두 회사 합산 약 80%를 점유하고 있습니다(출처: TrendForce). 전 세계 AI 데이터센터에 들어가는 메모리 열 개 중 여덟 개가 한국산인 셈입니다. 제 경험상 이런 공급망 구조를 먼저 파악하고 나서 투자 방향을 잡는 것과, 그냥 테마주라서 사는 것 사이에는 확신의 깊이가 완전히 다릅니다.
여기서 또 하나 짚어야 할 변화가 있습니다. AI 시장이 학습(Training)에서 추론(Inference)으로 무게중심이 이동하고 있다는 점입니다. 학습이란 거대한 AI 모델 자체를 만드는 과정이고, 추론이란 완성된 모델을 실제 서비스로 운영하는 과정입니다. 엔비디아는 학습 시장에서 90% 넘는 점유율을 갖고 있지만, 추론 시장에서는 전력 효율과 비용 경쟁력이 훨씬 중요해지기 때문에 경쟁 압력이 커지고 있습니다. 닷컴버블 이후 처음 맞는 반도체 슈퍼사이클이라는 말이 괜히 나오는 게 아닙니다. 그 사이클의 성격 자체가 지금 변하고 있는 것입니다.
퓨리오사AI와 리벨리온, 한국판 AI 반도체의 실력은 어디까지 왔나
퓨리오사AI와 리벨리온에 대해 처음 들었을 때 솔직히 반신반의했습니다. '국내 스타트업이 엔비디아를 따라잡겠다고?' 하는 느낌이었습니다. 그런데 조금 더 들여다보니, 이 회사들이 엔비디아를 그대로 복사하려는 게 아니라는 걸 알게 되었습니다.
퓨리오사AI는 2017년 삼성전자, AMD, 애플 출신 엔지니어들이 설립한 스타트업으로, 처음부터 MPU(Memory Processing Unit) 방향을 선택했습니다. MPU란 GPU와 달리 AI 추론 연산에 특화된 가속기로, 범용성은 낮지만 특정 환경에서는 GPU보다 훨씬 적은 전력으로 더 빠른 처리가 가능합니다. 퓨리오사AI의 2세대 칩 레니게이드는 엔비디아 동급 제품 대비 전력 효율이 최대 60% 이상 뛰어난 것으로 알려져 있습니다.
2025년 3월 메타가 약 8억 달러 수준의 인수 제안을 했지만 사업 방향에 대한 이견으로 협상이 결렬되었다는 보도가 나왔습니다. 그 뒤로도 퓨리오사AI는 TSMC에서 제조한 레니게이드 1차 양산 물량 4,000장을 수령했고, 2026년 총 2만 장 수준의 생산 계획과 함께 삼성 SDS를 고객으로 추가 확보했습니다. 가능성 있는 스타트업에서 실제 양산과 고객 확보 단계로 넘어온 것입니다.
리벨리온은 또 다른 방식으로 저지연성(Low Latency)을 핵심 무기로 삼고 있습니다. 저지연성이란 입력 신호를 받고 결과를 출력하기까지 걸리는 시간 간격을 말합니다. 챗GPT에 질문을 입력하고 답변이 나오기까지의 그 찰나, 자율주행차가 장애물을 인식하고 브레이크를 밟기까지의 그 0.몇 초가 바로 이 지연 시간입니다. 리벨리온의 아톰 칩은 글로벌 벤치마크에서 엔비디아 동급 제품보다 두세 배 빠른 처리 속도를 기록했으며, KT 클라우드가 국내 최초로 아톰 기반 AI 서비스 인프라를 구축해 운영 중입니다(출처: 리벨리온 공식 자료).
한국 ai반도체, 통과해야할 관문
제가 이 두 회사를 공부하면서 느낀 건, 하드웨어 성능 수치 하나보다 실제로 고객의 서버실에서 잘 돌아가는지가 훨씬 중요하다는 점입니다. 한국 AI 반도체 기업들이 지금 통과해야 할 진짜 관문은 다음 세 가지입니다.
- 소프트웨어 스택 완성도: 엔비디아의 쿠다(CUDA) 생태계는 수십 년간 쌓인 개발자 기반을 갖고 있습니다. 쿠다란 엔비디아가 만든 GPU 병렬 연산 플랫폼으로, 전 세계 AI 개발자들이 이미 이 환경에서 코드를 짜왔습니다. 새 칩이 아무리 빠르더라도 기존 코드가 그대로 돌아가지 않으면 고객은 쉽게 갈아타지 않습니다.
- 고객 레퍼런스 축적: 기업 고객이 새 반도체를 도입하려면 성능 검증부터 기존 시스템 호환성 확인까지 빠르면 수개월, 길면 1년 이상 걸립니다. 실제 서비스에 투입된 사례가 쌓여야 신뢰가 생깁니다.
- 공략 시장의 선명한 설정: 데이터센터 추론인지, 엣지 AI인지, 자율주행인지, 각자 이길 수 있는 전장을 명확히 가져가야 합니다.
알고 투자하면 시장이 흔들릴 때도 버틸 수 있습니다. 저는 이 구조를 이해하고 나서 국장 AI 테마를 바라보는 시각이 완전히 달라졌습니다.
한국판 엔비디아가 당장 내일 나온다는 말은 과장이겠지만, 적어도 지금 한국 AI 반도체 기업들은 처음으로 진짜 자기 차례를 기다리는 구간에 들어섰다고 봅니다. HBM 공급망이라는 탄탄한 토대 위에서 퓨리오사AI는 효율 중심의 독자 노선을, 리벨리온은 실서비스 확장 노선을 걷고 있습니다. 장기 투자를 고민한다면 이 회사들이 고객 레퍼런스를 얼마나 빠르게 쌓아가는지를 가장 먼저 지켜보시길 권합니다.
이 글은 개인적인 공부와 경험을 바탕으로 작성한 의견 공유이며, 특정 종목에 대한 투자 조언이 아닙니다. 투자 결정은 반드시 본인의 판단과 책임하에 하시기 바랍니다.