서론
AI 반도체 시장이 폭발적으로 성장하며 새로운 패권 다툼이 시작되었습니다. 세계 AI 반도체 시장 규모는 2020년 약 185억 달러에서 2024년 약 439억 달러로 2배 이상 증가했고, 2027년에 AI 반도체 시장은 4,000억 달러로 확대될 것으로 전망됩니다. 이러한 거대한 시장에서 엔비디아가 AI 반도체 시장의 80~90%를 차지하고 있지만, AMD와 인텔은 각자의 독특한 전략으로 반격을 준비하고 있습니다.
엔비디아의 H100이 시장을 장악한 가운데, AMD는 MI300X 시리즈로, 인텔은 Gaudi3와 Xeon 6로 차별화된 접근을 시도하고 있습니다. 과연 이들이 엔비디아의 아성에 균열을 가할 수 있을까요?
AI 반도체 시장의 현재 상황과 전망
2025년은 AI 반도체 산업의 분수령이 될 것으로 보입니다. 시스템 반도체 시장에서 AI 반도체가 차지하는 비중은 2025년 17.3%, 2030년 31.3%로 확대될 것으로 전망됩니다. 특히 주목할 점은 AI 추론 시장의 급속한 성장입니다. 엔비디아는 최근 자사 AI 칩 매출의 40%가 추론에서 발생한다고 밝혔습니다.
시장 성장의 핵심 동력은 생성형 AI의 대중화입니다. ChatGPT와 같은 대화형 AI 서비스가 일반화되면서, 단순히 AI를 학습시키는 것을 넘어 실시간으로 추론을 수행하는 서비스들이 폭발적으로 증가하고 있습니다. 이는 AI 반도체 수요의 패러다임 변화를 의미합니다.
메모리 반도체 시장도 AI 붐과 함께 급성장하고 있습니다. HBM은 2028년까지 연평균 매출 58% 성장, 연평균 비트 그로스 64% 증가가 전망됩니다. 한국의 삼성전자와 SK하이닉스가 HBM 시장에서 95% 점유율을 차지하며 AI 반도체 생태계의 핵심 역할을 하고 있습니다.
AMD의 도전: MI300X와 혁신적인 아키텍처 전략
AMD는 가장 직접적이고 공격적인 방식으로 엔비디아에 도전장을 냈습니다. AMD는 2023년 12월 6일에 신형 AI 반도체 'Instinct MI300' 시리즈의 발표회를 개최했다. 이미 대형 서버 기업에 출하하고 있으며, 마이크로소프트 Azure에서도 제공할 예정입니다.
MI300X는 단순히 성능만 높인 것이 아니라, 근본적으로 다른 접근 방식을 취했습니다. MI300X 칩셋은 최대 192GB의 메모리를 탑재해 초거대 AI 모델에 장착할 수 있다. 엔비디아 H100(120GB)의 메모리는 물론 H200보다도 큰 용량입니다.
메모리 용량의 우위는 단순한 숫자 게임이 아닙니다. 초거대 AI 모델들이 점점 더 많은 파라미터를 요구하는 상황에서, 더 큰 메모리는 더 복잡한 모델을 한 번에 처리할 수 있게 해줍니다. 이는 특히 기업 환경에서 맞춤형 AI 모델을 구축하려는 고객들에게 매력적인 제안입니다.
AMD는 올해 4분기 출시 예정인 인스팅트 MI325X 가속기의 출시를 발표했다. 그 뒤를 이어 2025년에 새로운 CDNA 4 아키텍처를 기반으로 하는 MI350 시리즈가 출시될 예정이다. AMD는 MI350이 이전 모델인 MI300 시리즈에 비해 35배 향상된 AI 추론 성능을 제공할 것이라고 주장했습니다.
35배 향상된 추론 성능이라는 주장이 사실이라면, 이는 AI 서비스 제공업체들의 운영 비용을 획기적으로 줄일 수 있는 게임 체인저가 될 수 있습니다. 특히 실시간 AI 서비스가 늘어나는 상황에서 추론 성능의 중요성은 더욱 커지고 있습니다.
리사 수 AMD 최고경영자(CEO)는 최근 언론과의 인터뷰를 통해 "AI 시장은 빠르게 변화하고 있으며 아직 초입 단계라 앞으로의 AI의 발전은 이전과 다를 것"이라고 말했습니다. 이러한 발언은 AMD가 단순히 엔비디아를 따라잡으려는 것이 아니라, AI 시장의 다음 패러다임을 선도하겠다는 의지를 보여줍니다.
흥미롭게도 엔비디아의 젠슨 황과는 5촌 관계인 리사 수는 기술적 혁신뿐만 아니라 전략적 파트너십 구축에도 능숙합니다. 그 성능을 인정받아 이미 메타와 마이크로소프트(MS) 등 주요 빅테크와 공급 계약도 마쳤다는 점이 이를 증명합니다.
인텔의 반격: 다각화된 포트폴리오와 가성비 전략
인텔은 AMD와는 완전히 다른 접근 방식을 택했습니다. GPU 단일 제품으로 승부하기보다는, 다양한 워크로드에 최적화된 제품 포트폴리오를 구성했습니다. 인텔 AI 반도체와 관련하여, CPU 단독(서버용 CPU 'Xeon', 컴퓨터용 CPU 'CORE 시리즈'), CPU+GPU('Xeon'+'Intel Data Center GPU'), CPU+딥러닝 전용 반도체(액셀러레이터) 'Habana Gaudi2', 이렇게 3가지 선택지를 마련했습니다.
인텔 Gaudi 3 AI 가속기: 대규모 생성형 AI에 최적화된 Gaudi 3은 64개의 텐서 프로세서 코어(TPC)와 8개의 행렬 곱셈 엔진(MME)을 통해 심층 신경망 연산을 가속화한다. Gaudi 3은 학습 및 추론 작업을 위한 128GB의 HBM2e 메모리와, 확장 가능한 네트워킹을 위한 24개의 200Gb 이더넷 포트를 갖추고 있습니다.
인텔의 핵심 전략은 가격 경쟁력입니다. 인텔은 가격을 공격적으로 책정해 엔비디아보다 크게 낮춰왔다. 가우디3의 가격은 약 12만 5,000달러, 가우디2는 6만 5,000달러로, 30만 달러가 넘는 엔비디아의 솔루션에 비해 훨씬 저렴합니다.
이러한 가격 전략은 특히 중소기업이나 스타트업들에게 매력적입니다. 수조 개의 매개변수가 포함된 기본 AI 워크로드의 경우 뛰어난 컴퓨팅 성능을 갖춘 엔비디아가 여전히 최고의 선택이겠지만, 보다 특화된 작업에서는 AMD와 인텔이 비용 효율적인 대안을 제공할 수 있습니다.
인텔 제온 6 P-코어: 컴퓨팅 집약적인 워크로드를 탁월한 효율로 처리할 수 있도록 설계된 제온 6는 이전 세대 대비 2배 높은 성능을 제공한다. 코어 수 증가, 메모리 대역폭 2배 증가, 모든 코어에 내장 AI 가속 기능을 갖춘 것이 특징입니다.
인텔의 Xeon 6는 AI 워크로드와 기존 서버 워크로드를 동시에 처리할 수 있는 통합형 솔루션을 제공합니다. 이는 기업들이 별도의 AI 인프라를 구축하지 않고도 기존 시스템에 AI 기능을 추가할 수 있게 해주는 실용적인 접근입니다.
미셸 존스턴 홀타우스 인텔 프로덕트 그룹 CEO는 "실리콘 포토닉스는 랙 스케일 대형 아키텍처에서 매우 중요한 요소이며 인텔은 파운드리 고객사에 실리콘 포토닉스 기술을 제공할 수 있는 유일한 회사"라고 설명했습니다.
실리콘 포토닉스 기술은 광신호를 이용해 데이터를 전송하는 혁신적인 기술입니다. AI 클러스터가 대규모화되면서 칩 간 데이터 전송 속도와 전력 효율성이 중요해지는 상황에서, 이 기술은 인텔만의 독특한 경쟁 우위를 제공할 수 있습니다.
엔비디아의 대응: 루빈과 연간 출시 전략
엔비디아는 경쟁자들의 추격에 대응하기 위해 혁신 속도를 더욱 가속화했습니다. 젠슨 황 엔비디아 CEO는 2일(현지시간) 국립대만대학교 체육관에서 AI 시대가 글로벌 신산업 혁명을 어떻게 주도할지와 관련한 연설을 하면서 2026년부터 루빈을 양산할 예정이라고 밝혔다고 발표했습니다.
황 CEO는 "루빈 이후 GPU 개발은 1년 단위로 진행될 것"이라고 말했습니다. 이는 기존의 2년 개발 주기를 절반으로 단축한 것으로, 경쟁자들이 따라잡기 어려운 혁신 속도를 유지하겠다는 전략입니다.
루빈은 우주 암흑물질과 은하 회전속도를 연구한 미국 천문학자 베라 루빈의 이름에서 따왔다는 것처럼, 엔비디아는 여전히 AI 반도체 시장의 미지의 영역을 개척해 나가고 있습니다.
엔비디아는 내년 2분기에 이 제품을 판매할 예정이다. 13일(현지시간) CNBC 등에 따르면 엔비디아는 이날 새로운 그래픽처리장치(GPU) H200을 공개했다고 보고되었습니다. 엔비디아 측은 "메타의 LLM '라마2'를 대상으로 테스트해 본 결과 H200가 기존의 H100에 비해 처리 속도가 최대 2배가량 빠른 것으로 확인됐다"고 설명했습니다.
전력 소모와 데이터센터 인프라 도전
AI 반도체의 성능 향상과 함께 전력 소모 문제가 심각한 도전 과제로 떠오르고 있습니다. 뱅크오브아메리카는 엔비디아 H200 인공지능 반도체 기반 서버용 랙 제품의 전력 사용량이 대당 70킬로와트에서 신제품 '블랙웰' 기반 제품은 132킬로와트까지 증가했다고 분석했다. 더 나아가 엔비디아가 내년 출시하는 '루빈' 그래픽처리장치(GPU) 기반 인공지능 서버용 제품 전력 사용량은 240킬로와트에 이를 것으로 전망됩니다.
240킬로와트라는 전력 소모량은 일반 가정 약 200가구가 사용하는 전력량과 맞먹습니다. 이는 데이터센터 인프라에 엄청난 부담을 주며, 운영 비용 상승으로 이어집니다.
이러한 전력 문제는 AMD와 인텔에게 기회가 될 수 있습니다. AI용 GPU는 CPU와 비교하면 다이 사이즈(칩 크기)가 크고, 큰 다이 안에 대량의 트랜지스터를 구축하기 때문에, 전력 소비량과 발열량이 크다는 점이다. 이 문제를 해결하기 위해 GPU가 아니라 소비 전력량이 적은 고성능 AI 반도체를 개발하려는 움직임이 늘어나고 있습니다.
한국 기업들의 기회: HBM과 메모리 반도체
한국은 AI 반도체 생태계에서 독특하고 중요한 위치를 차지하고 있습니다. 한국은 고대역폭 메모리(High Bandwidth Memory, HBM) 시장을 흔들림 없이 지켜야 한다. AI 반도체는 HBM과 동반되는 구조다. 한국은 HBM 시장 점유율에서 95%가량을 차지하고 있고, 삼성전자와 SK하이닉스가 경쟁적으로 기술 고도화를 추진하고 있습니다.
SK하이닉스와 삼성전자 등 HBM 기업은 엔비디아의 양산 일정에 맞춰, HBM4 양산을 준비 중이다. 특히 SK하이닉스의 경우 2025년부터 HBM4 양산을 시작하겠다고 밝힌 바 있습니다.
차세대 HBM4부터는 로직칩과 메모리 칩이 본격적으로 통합되면서 파운드리와 메모리 업체 간의 협력이 필수가 될 것입니다. 이는 한국 메모리 기업들에게 새로운 비즈니스 기회를 제공하는 동시에, 더 복잡한 기술 경쟁에 참여해야 함을 의미합니다.
시장 전망과 투자자 관점
AI 반도체 시장의 경쟁은 이제 시작에 불과합니다. 올해 400억 달러(약 53조 원, 딜로이트 기준) 수준인 AI 반도체 시장 규모는 2027년에 4000억 달러(약 533조 원)까지 확대될 전망이다. 3년 만에 10배 성장한다는 의미입니다.
엔비디아가 약 1조 7,810억 달러에 달하는 시가총액으로 상위 6위에 위치하고, 37위의 AMD는 약 2,787억 달러에 달하지만, 인텔은 약 1,831억 달러로 64위로 밀려나 있습니다. 이는 현재 시장이 미래 성장 가능성을 어떻게 평가하고 있는지를 명확히 보여줍니다.
그러나 시장 상황은 빠르게 변할 수 있습니다. 이러한 확장이 AI 소프트웨어 생태계는 물론 클라우드 컴퓨팅, 엣지 컴퓨팅, IoT와 같은 상호 보완적인 분야의 성장을 촉진해 산업 전반에 걸쳐 AI 기술의 적용 범위와 영향력을 확대할 것으로 예상됩니다.
결론: 3파전에서 승자는?
AI 반도체 시장의 경쟁은 단순한 기술 경쟁을 넘어선 생태계 전쟁입니다. 엔비디아는 혁신 속도를 가속화하며 시장 지배력을 유지하려 하고, AMD는 메모리 우위와 추론 성능으로 차별화를 시도하며, 인텔은 비용 효율성과 다각화된 포트폴리오로 틈새시장을 공략하고 있습니다.
각 기업의 전략이 성공하려면 다음과 같은 조건들이 충족되어야 합니다:
AMD는 MI350의 35배 향상된 추론 성능 약속을 실현하고, 주요 클라우드 업체들과의 파트너십을 확대해야 합니다. 인텔은 Gaudi3의 가격 경쟁력을 유지하면서도 성능 격차를 줄이고, 실리콘 포토닉스 기술을 상용화해야 합니다. 엔비디아는 루빈의 전력 효율성 문제를 해결하면서도 연간 출시 주기를 안정적으로 유지해야 합니다.
가장 흥미로운 점은 이 경쟁이 AI 산업 전체를 더욱 발전시킬 것이라는 점입니다. 경쟁 압력이 혁신을 가속화하고, 가격을 낮추며, 더 다양한 AI 솔루션을 만들어낼 것입니다. 궁극적으로는 모든 기업과 소비자가 이 경쟁의 수혜자가 될 것입니다.
2025년은 AI 반도체 시장의 판도가 재편되는 중요한 해가 될 것입니다. 과연 누가 엔비디아의 왕좌에 도전할 수 있을지, 흥미진진한 경쟁이 펼쳐질 것입니다.
🔗 이전글 연결
'금융\절약\재테크' 카테고리의 다른 글
| 2025년 새로운 수익 창출의 키워드! 숏폼과 롱폼 동영상 완전 정복 가이드 (4) | 2025.07.25 |
|---|---|
| SK하이닉스가 엔비디아를 사로잡은 비밀 무기, 삼성전자의 반격이 시작됐다 (0) | 2025.07.24 |
| AI 혁신의 게임 체인저가 온다! 엔비디아 블랙웰의 모든 것 (0) | 2025.07.23 |
| AI 혁신의 중심, 엔비디아 아성에 균열을 낼 차세대 반도체 대항마들 (0) | 2025.07.22 |
| AI 투자 게임체인저! 생성형 AI를 넘어 에이전틱 AI가 주도하는 혁신 투자 전략 (0) | 2025.07.22 |