AI 혁신의 중심, 엔비디아 아성에 균열을 낼 차세대 반도체 대항마들

엔비디아의 독주 시대가 저물고 있다. AMD, 인텔, 구글의 TPU가 만들어가는 새로운 반도체 지형도에서 진짜 투자 기회를 찾아보자.

---

서론

2025년 AI 반도체 시장은 그야말로 격전지다. 2025년 중반 출시 예정인 블랙웰은 현재의 호퍼보다 향상된 성능을 제공한다며 엔비디아가 여전히 독보적 지위를 유지하고 있지만, 그 아래서는 거대한 지각 변동이 일어나고 있다. AI 반도체 시장의 잠재력이 분명한 만큼 엔비디아의 뒤를 쫓는 경쟁사에도 주목할 필요가 있다.

핵심 포인트: 올해 전 세계 AI 반도체 매출이 전년 대비 33% 증가한 총 710억 달러(한화 약 97조 8,025억 원)에 이를 것으로 전망된다는 가트너의 전망은 시장의 폭발적 성장을 단적으로 보여준다.

---

엔비디아 독점 구조의 현주소

현재 AI 반도체 시장은 엔비디아의 압도적 지배 하에 있다. 엔비디아는 GPU 시장의 80%와 AI 모델 개발에 필수적인 반도체 시장의 98%를 차지하며, 이로 인해 가격 결정권과 높은 수익성이 확보된 상태다.

 

엔비디아의 압도적 수치들:

• 시장점유율: AI GPU 시장 80~85% 점유
• 매출 성장: 3분기 매출은 350억 달러로 전년 대비 94% 증가했으며, 데이터센터 부문이 307억 달러로 112% 성장
• 고객사 투자규모: 알파벳은 100억 달러 규모의 GB200 40만대, 메타는 80억 달러 규모의 36만대를 주문했다

하지만 이러한 독점적 지위가 영원할 것이라고 보는 건 성급하다. 엔비디아는 지난 4년 동안의 전체 인수합병 거래보다 더 많은 기업을 2024년에 인수했다는 사실은 경쟁 압박을 의식한 방어적 전략으로 해석된다.

---

AMD: 가장 현실적인 엔비디아 대항마

AMD는 엔비디아에 대한 가장 강력한 도전장을 내밀고 있다. MI300X는 최대 192GB의 메모리를 탑재했으며 생성 AI를 위한 대규모 언어 모델 훈련 및 추론에 필요한 컴퓨팅 및 메모리 효율을 제공한다. 엔비디아의 경쟁 칩 H100은 120GB의 메모리를 지원한다.

 

AMD의 핵심 경쟁력:

• 메모리 우위: MI300X 칩은 엔비디아 H100 대비 2.4배의 메모리 밀도와 1.6배 이상의 대역폭을 제공한다
• 주요 고객 확보: 메타와 마이크로소프트, 오라클 등이 MI300X를 이미 채택했거나 채택을 위한 과정에 있다
• 로드맵 확실성: AMD는 2025년 MI350, 2026년 MI400을 출시할 예정이라고 발표했다. 매년 신규 AI 반도체를 출시하겠다는 계획이다

투자자 관점에서의 AMD 전망: 리사 수 AMD CEO의 "우리는 엔비디아를 이길 필요가 없다"는 발언은 현실적이다. 오는 2027년 AI 칩 시장이 4000억달러 규모로 성장할 것이란 전망이 나오고 있는 만큼 일부 점유율만 차지해도 성공적이라는 판단이다.

---

인텔: 구조조정 속에서 피어나는 희망

경영난을 겪고 있는 인텔이지만, AI 반도체 '가우디3'를 통해 반전을 노리고 있다. 가우디3는 전작 대비 처리 속도를 최대 4배 향상했다. 고대역폭 메모리(HBM) 탑재 용량이 1.5배 늘어나 대규모 언어 모델(LLM) 처리 성능도 높였다.

 

가우디3의 차별화 포인트:

• 전력 효율성: 인텔은 가우디3가 엔비디아의 H100보다 전력 효율이 2배 이상 높고, AI 모델을 1.5배 더 빠르게 실행할 수 있다고 강조했다
• 가격 경쟁력: 올해 초 인텔은 기본 보드에 8개의 가우디 3 프로세서를 탑재한 가속기 키트가 12만5000달러(약 1억7000만원)에 판매될 것이라고 밝혔다
• 개방형 생태계: 인텔은 가우디 3의 개방적인 생태계가 엔비디아의 폐쇄적인 쿠다(CUDA) 생태계와 다르다고 강조했다

현실적 한계와 기회: 가우디 3는 64개의 텐서 프로세서 코어, 8개의 행렬 곱셈 엔진 및 초당 19.2테라바이트(TB) 대역폭의 96MB 온다이 SRAM 캐시를 탑재한 두개의 칩렛을 사용한다. 하지만 이론적으로는 가우디 3가 엔비디아의 H100 BF16 매트릭스 성능 1979 TFLOPS보다 약간 낮고다는 점에서 성능 면에서는 아직 한계가 있다.

---

구글 TPU: 수직계열화의 완성체

구글의 TPU 전략은 다른 기업들과는 차원이 다르다. 구글의 자체 머신러닝 전용 프로세서 '텐서처리장치(TPU)'는 2015년부터 구글 데이터센터의 머신러닝, 딥러닝 워크로드 개발과 운영에 활용된 이래 2025년 현재 6세대에 이르렀다.

 

TPU의 혁신적 사양:

• 메모리 대폭 확장: 아이언우드 칩 하나당 탑재되는 HBM 용량은 192GB로 이전 세대 '트릴리움'의 32GB 대비 6배 증가했다. HBM 대역폭도 이전 세대보다 4.5배 증가한 칩당 7.2TBps다
• 슈퍼컴퓨터급 성능: 구글은 최대 9216개의 TPU를 네트워크로 연결해 세계 최대 슈퍼컴퓨터인 '엘 캘피탄'보다 24배 이상의 컴퓨팅 성능을 지원한다고 설명했다

구글 전략의 핵심: 자체 개발한 가속기를 보유하면, AI 모델의 기반 소프트웨어 스택을 하드웨어와 함께 최적화할 수 있다. 이는 하드웨어-소프트웨어 통합 최적화를 통한 차별화된 경쟁력 확보 전략이다.

---

한국 반도체 기업들의 기회

이러한 AI 반도체 경쟁 격화는 한국 메모리 반도체 기업들에게는 절호의 기회다.

 

SK하이닉스의 선점 효과: SK하이닉스는 발 빠르게 HBM에 투자해 HBM 시장을 50% 이상 차지한 것으로 전해진다. 특히 SK하이닉스는 엔비디아 GPU에 탑재되는 HBM을 공급 중으로, 엔비디아의 AI 반도체 수요가 증가하면 자연스럽게 SK하이닉스의 실적도 오르는 효과를 거두고 있다.

 

삼성전자의 추격: 업계에서는 삼성전자가 올해 상반기부터 양산 중인 5세대 고대역폭메모리(HBM) 12단 제품이 AMD 325X에 탑재되는 것으로 내다보고 있다. 고객사 다변화를 통한 점유율 확대 기회를 잡고 있다.

 

HBM 수요 확산 효과: 구글 등으로 고객사가 다변화되면 HBM 후발주자인 삼성전자, 마이크론으로서는 점유율을 확대할 기회가 될 수 있다. 메모리 기업들에게는 시장 저변 확대와 공급망 안정성 측면에서 긍정적이다.

---

투자 전략 및 리스크 분석

투자 기회 관점:

1. 단기 관점 (1-2년): AMD가 가장 현실적인 대안이다. 내년 20억달러 매출에 대한 확신과 주요 클라우드 기업들의 채택이 확실하다.
2. 중기 관점 (3-5년): 인텔의 구조조정 완료 후 반등 가능성과 구글 TPU의 외부 공급 확대 가능성을 주목해야 한다.
3. 장기 관점 (5년+): 올해 400억 달러(약 53조 원, 딜로이트 기준) 수준인 AI 반도체 시장 규모는 2027년에 4000억 달러(약 533조 원)까지 확대될 전망이다. 3년 만에 10배 성장한다는 의미다.

핵심 리스크 요소:

1. 소프트웨어 생태계: AMD는 AI 개발자들이 엔비디아의 AI칩을 더 선호하는 이유 중 하나가 쿠다라는 점을 인식하고 이를 해결하기 위해 ROCm 기능을 개선한 것으로 알려졌다
2. 기술 격차: 현재 AI 모델 학습에 필수적인 고성능 GPU 시장에서 실질적인 경쟁자가 없는 상황이다
3. 공급망 제약: TSMC가 엔비디아를 비롯한 여러 인공지능 반도체 기업들에 대규모 수주를 확보했고 이에 따라 공격적으로 시설 투자를 늘리며 대응하고 있다

728x90

---

결론: 변화의 시작점에서 찾는 투자 기회

엔비디아의 독주는 여전하지만, AI 반도체 시장의 급격한 성장과 함께 경쟁 구도가 다각화되고 있다. AMD는 현실적인 대안으로, 인텔은 반전의 기회로, 구글 TPU는 게임 체인저로 각각의 역할을 하고 있다.

투자자들은 단순히 엔비디아만 바라볼 것이 아니라, 이들 대항마들의 성장 가능성과 한국 메모리 반도체 기업들의 수혜 효과를 종합적으로 고려한 포트폴리오 구성이 필요하다.

 

최종 투자 포인트: AI 반도체 시장은 이제 독점에서 경쟁의 시대로 접어들고 있다. 이 변곡점에서 진정한 투자 기회를 찾는 안목이 중요한 시점이다.

---

🔗 이전글 연결

AI 투자 게임체인저! 생성형 AI를 넘어 에이전틱 AI가 주도하는 혁신 투자 전략