메타 설명: 엔비디아가 장악한 AI 반도체 시장에 AMD와 인텔이 새로운 가속기와 개방형 생태계를 앞세워 도전하고 있다. AMD 인스팅트 MI400 시리즈와 인텔의 추론 중심 전략이 AI 칩 시장에 어떤 변화를 가져올지 분석한다.
생성형 인공지능 산업이 빠르게 성장하면서 AI 칩은 글로벌 반도체 시장의 핵심 제품으로 떠올랐다. 대규모 언어 모델을 학습하고 운영하려면 막대한 연산 능력이 필요하기 때문이다. 현재 AI 데이터센터 시장에서는 엔비디아가 강력한 영향력을 유지하고 있지만, 최근 AMD와 인텔이 제품·소프트웨어·시스템 전략을 동시에 강화하면서 경쟁 구도가 달라지고 있다.
특히 AI 모델을 처음부터 학습하는 ‘훈련’뿐 아니라 완성된 모델을 실제 서비스에 활용하는 ‘추론’ 시장이 커지면서, 고객들은 단순히 가장 빠른 칩보다 가격, 전력 효율, 메모리 용량, 네트워크 확장성까지 종합적으로 비교하기 시작했다. 이러한 변화는 AMD와 인텔에 새로운 기회가 되고 있다.
엔비디아 중심의 AI 칩 시장, 왜 변화가 필요한가
엔비디아가 AI 반도체 시장에서 강한 경쟁력을 확보한 이유는 GPU 성능만이 아니다. 개발자들이 AI 모델을 구축할 때 사용하는 CUDA 소프트웨어 생태계와 GPU 간 통신 기술, 서버 시스템, 라이브러리까지 하나의 플랫폼으로 제공한다는 점이 핵심이다.
기업이 엔비디아 환경에서 AI 시스템을 구축하면 다른 회사의 칩으로 전환하기가 쉽지 않다. 기존 코드를 수정해야 하고 성능 최적화 과정도 다시 거쳐야 하기 때문이다. 이런 소프트웨어 전환 비용은 엔비디아의 중요한 진입 장벽으로 작용하고 있다.
그러나 AI 인프라 투자 규모가 커지면서 상황은 조금씩 달라지고 있다. AI 가속기의 높은 가격과 전력 소비, 공급 부족, 특정 기업에 대한 의존도가 기업들의 부담으로 작용하기 시작한 것이다.
시장조사업체 트렌드포스는 엔비디아가 2025년 AI 칩 시장에서 약 70%의 점유율을 유지할 것으로 추정하면서도, 2026년부터 클라우드 기업의 자체 AI 반도체와 경쟁사 제품이 확대되면서 시장이 점차 다변화될 가능성을 제시했다.
즉, 엔비디아의 경쟁력이 갑자기 무너진다기보다는 AMD GPU, 인텔 가속기, 구글 TPU, 아마존 트레이니엄과 같은 다양한 선택지가 늘어나는 방향으로 시장이 재편될 가능성이 크다.
AMD의 반격, 단일 GPU를 넘어 AI 시스템 전체를 노린다
AMD의 핵심 무기는 데이터센터용 AI 가속기인 ‘인스팅트’ 시리즈다. AMD는 MI300X를 시작으로 MI350 시리즈와 MI400 시리즈까지 제품 출시 주기를 단축하며 엔비디아를 추격하고 있다.
AMD에 따르면 MI350 시리즈는 이전 세대보다 AI 연산 성능이 크게 향상됐으며, ROCm 7 소프트웨어와 함께 추론 및 훈련 성능 개선을 목표로 설계됐다. AMD는 2026년 MI400 시리즈와 이를 기반으로 한 ‘헬리오스’ 랙 시스템을 본격적으로 확대하고 있다.
MI400 계열의 중요한 특징은 대용량 HBM 메모리와 높은 메모리 대역폭이다. 대규모 AI 모델을 실행할 때는 단순한 연산 성능뿐 아니라 데이터를 얼마나 빠르게 메모리에서 불러올 수 있는지가 중요하다. 모델 규모가 커질수록 메모리 용량과 대역폭이 전체 시스템 성능을 좌우할 가능성이 높다.
AMD의 전략은 더 이상 GPU 한 장의 성능만 비교하는 방식에 머물지 않는다. 헬리오스는 AMD 인스팅트 GPU, 에픽 서버 CPU, 펜산도 네트워크 장치, ROCm 소프트웨어를 하나의 랙 단위로 결합하는 통합 AI 시스템이다.
이는 엔비디아가 GPU와 CPU, 네트워크 장비를 결합해 완성형 AI 데이터센터 시스템을 판매하는 전략에 정면으로 대응하려는 움직임이다. 앞으로 AI 칩 경쟁은 개별 반도체의 성능보다 수십 개의 가속기를 얼마나 안정적으로 연결하고 운영할 수 있는지를 겨루는 시스템 경쟁으로 발전할 가능성이 크다.
ROCm 생태계가 AMD 반격의 성패를 좌우한다
AMD가 엔비디아를 추격하기 위해 반드시 해결해야 할 과제는 소프트웨어다. 아무리 반도체 성능이 좋아도 개발자가 사용하기 어렵거나 기존 AI 모델을 쉽게 옮길 수 없다면 실제 도입은 제한될 수밖에 없다.
AMD는 자체 소프트웨어 플랫폼인 ROCm의 지원 범위를 확대하고 있다. 파이토치와 주요 대규모 언어 모델 지원을 강화하고, 개발자가 AMD GPU를 테스트할 수 있는 클라우드 환경도 제공하고 있다.
ROCm이 안정성과 호환성 측면에서 개선될수록 기업은 엔비디아 GPU만을 고집할 필요가 줄어든다. 특히 클라우드 기업과 대형 AI 기업은 수십만 개의 가속기를 운영하기 때문에 칩 가격이나 전력 효율이 조금만 개선돼도 전체 비용에서 큰 차이가 발생한다.
따라서 AMD가 엔비디아를 완전히 대체하지 못하더라도, 두 종류 이상의 AI 가속기를 함께 사용하는 ‘멀티 벤더’ 시장을 확대하는 것만으로 상당한 성장 기회를 확보할 수 있다.
인텔의 반격, 훈련보다 AI 추론 시장을 겨냥하다
인텔의 전략은 AMD와 다소 다르다. AMD가 대규모 학습과 랙 단위 AI 시스템에서 엔비디아와 직접 경쟁한다면, 인텔은 가성비와 개방형 네트워크, 기업용 추론 시장을 중심으로 돌파구를 찾고 있다.
현재 인텔의 대표 AI 가속기인 가우디 3는 일반적인 이더넷 기반 네트워크를 사용할 수 있다는 점을 강조한다. 엔비디아의 전용 연결 기술 대신 기업이 기존에 사용하던 네트워크 인프라를 활용할 수 있어 초기 구축 비용과 특정 공급업체에 대한 의존도를 낮출 수 있다는 논리다.
가우디 3는 이전 세대와 비교해 FP8 연산 성능과 네트워크 대역폭을 높였으며, 파이토치와 허깅페이스 등 주요 AI 프레임워크 지원도 확대하고 있다. 인텔은 GPU 기반 모델을 가우디 환경으로 이전할 때 필요한 코드 변경을 줄이는 방향으로 소프트웨어를 개선하고 있다.
다만 인텔은 당초 차세대 AI 가속기로 개발하던 팔콘 쇼어스를 일반 판매 제품으로 출시하지 않고 내부 테스트용으로 전환했다. 대신 기업용 AI 추론에 최적화된 크레센트 아일랜드와 장기적인 차세대 GPU인 재규어 쇼어스에 역량을 집중하고 있다. 인텔의 공식 사업보고서에서도 크레센트 아일랜드를 저전력·고처리량 추론용 제품으로, 재규어 쇼어스를 차세대 AI 워크로드를 위한 아키텍처로 설명하고 있다.
이는 인텔이 엔비디아와 초대형 AI 모델 훈련 시장에서 즉시 정면승부하기보다는, 앞으로 수요가 급증할 기업용 AI 추론 시장을 우선 공략하려는 전략으로 해석할 수 있다.
AI 훈련에서 추론으로, 경쟁의 중심이 이동한다
생성형 AI 산업 초기에는 더 큰 모델을 훈련하는 것이 가장 중요한 목표였다. 그러나 AI 서비스가 실제 기업 업무와 소비자 제품에 적용되면서 시장의 중심은 점차 추론으로 이동하고 있다.
훈련은 모델을 만드는 과정이지만, 추론은 사용자가 질문하거나 이미지를 생성할 때마다 반복해서 발생한다. 이용자가 증가할수록 추론에 필요한 컴퓨팅 자원과 전력 비용도 계속 늘어난다.
따라서 기업들은 최고 성능의 칩만 찾는 것이 아니라 일정 수준 이상의 성능을 제공하면서도 가격과 전력 소비가 낮은 제품을 원하게 된다. 이 과정에서 AMD는 대용량 메모리와 랙 단위 시스템을, 인텔은 저전력 추론과 표준 이더넷 기반 확장성을 경쟁력으로 내세우고 있다.
AI 반도체 성능은 모델 규모와 배치 크기, 입력 문장의 길이, 활용 목적에 따라 결과가 달라질 수 있다. 한 연구에서도 AI 가속기의 최적 성능은 작업 조건에 따라 달라지며 특정 제품이 모든 환경에서 항상 우수한 것은 아니라는 분석이 제시됐다.
결국 기업들은 하나의 가속기로 모든 작업을 처리하기보다 훈련, 대규모 추론, 소규모 기업용 추론에 서로 다른 반도체를 배치할 가능성이 높다.
AI 칩 경쟁이 반도체 산업에 미치는 영향
AMD와 인텔의 반격은 두 회사만의 문제가 아니다. AI 가속기 시장이 확대되면 HBM, 파운드리, 첨단 패키징, 네트워크 장비, 데이터센터 전력 설비까지 연관 산업 전반에 영향을 미친다.
첫째, HBM 수요가 계속 증가할 가능성이 높다. 대규모 AI 모델을 처리하려면 일반 메모리보다 빠른 HBM이 필요하다. AMD MI400 계열과 엔비디아 차세대 GPU뿐 아니라 클라우드 기업의 자체 AI 칩도 HBM 채택을 확대하고 있다. 트렌드포스는 2026년 HBM 사용량이 전년 대비 70% 이상 증가할 가능성을 전망했다.
둘째, 첨단 패키징의 중요성이 커진다. 최신 AI 가속기는 여러 개의 반도체 칩과 HBM을 하나의 패키지로 연결한다. 이에 따라 TSMC와 삼성전자, 인텔 등 반도체 제조 기업의 패키징 기술과 생산 능력이 AI 칩 공급을 결정하는 핵심 요소가 될 수 있다.
셋째, 네트워크 반도체 시장도 함께 성장한다. 수십 개 또는 수백 개의 AI 가속기를 연결하려면 칩 간 데이터를 빠르게 전달할 수 있는 네트워크 장치가 필요하다. AI 데이터센터 경쟁은 GPU뿐 아니라 스위치, 광통신, 네트워크 인터페이스 카드까지 포함하는 종합 인프라 경쟁으로 확대되고 있다.
AMD와 인텔이 넘어야 할 현실적인 장벽
AMD와 인텔의 제품 경쟁력이 높아지고 있다고 해서 엔비디아의 시장 지배력이 곧바로 사라지는 것은 아니다.
가장 큰 장벽은 여전히 소프트웨어 생태계다. 수많은 AI 개발자가 이미 CUDA를 기반으로 모델을 만들고 있으며, 주요 클라우드 서비스와 기업용 솔루션도 엔비디아 환경에 최적화돼 있다. 경쟁사가 비슷한 하드웨어 성능을 제공하더라도 개발 편의성과 안정성에서 차이가 발생하면 고객은 쉽게 이동하지 않는다.
공급 능력도 중요하다. 대형 클라우드 기업은 수천 개가 아니라 수만 개 이상의 AI 가속기를 안정적으로 공급받기를 원한다. 제품 발표보다 실제 생산량, 서버 제조사와의 협력, 데이터센터 설치 일정이 시장 점유율 확대에 더 직접적인 영향을 줄 수 있다.
인텔은 제품 로드맵의 연속성을 증명해야 한다. 팔콘 쇼어스의 상용화 계획을 변경한 사례에서 볼 수 있듯이, 고객이 장기적으로 인텔 가속기에 투자하려면 향후 제품과 소프트웨어 지원이 꾸준히 이어질 것이라는 신뢰가 필요하다.
AMD 역시 ROCm의 사용 편의성과 모델 지원 범위를 계속 확대해야 한다. 하드웨어 성능만으로는 오랫동안 구축된 CUDA 생태계를 단기간에 따라잡기 어렵기 때문이다.
AI 칩 시장의 지각변동은 ‘엔비디아 몰락’이 아니다
AMD와 인텔의 반격을 엔비디아의 몰락으로 해석하는 것은 지나치게 단순한 접근이다. 엔비디아는 여전히 강력한 소프트웨어 생태계와 네트워크 기술, 완성형 AI 시스템을 보유하고 있다.
다만 AI 시장이 빠르게 확대될수록 모든 수요를 한 기업이 독점하기는 어려워진다. 대형 클라우드 기업은 비용 절감과 공급망 안정성을 위해 자체 칩과 경쟁사 제품을 함께 사용할 가능성이 높다. 기업용 AI 시장에서는 최고 성능보다 가격 대비 성능과 기존 인프라와의 호환성이 더 중요하게 평가될 수도 있다.
AMD는 고성능 가속기와 랙 단위 통합 시스템으로 엔비디아의 직접적인 대안이 되려 하고 있다. 인텔은 표준 이더넷과 저전력 추론, 기존 제온 서버 생태계를 활용해 차별화된 영역을 공략하고 있다.
결국 앞으로의 AI 칩 시장은 한 기업이 모든 영역을 독점하는 구조보다 엔비디아, AMD, 인텔, 클라우드 기업의 자체 반도체가 용도별로 경쟁하는 다극화 시장에 가까워질 가능성이 크다.
결론: AI 반도체 시장은 성능 경쟁에서 생태계 경쟁으로
AI 칩 시장의 승자는 단순히 연산 성능이 가장 높은 반도체를 만든 기업이 아닐 수 있다. 하드웨어 성능과 메모리, 네트워크, 전력 효율, 소프트웨어 호환성, 공급 능력을 하나의 시스템으로 제공하는 기업이 장기적인 경쟁 우위를 확보할 가능성이 높다.
AMD는 MI400 시리즈와 헬리오스를 통해 GPU 기업에서 종합 AI 인프라 기업으로 확장하고 있다. 인텔은 가우디 3와 크레센트 아일랜드, 재규어 쇼어스를 통해 기업용 추론과 개방형 인프라 시장에서 재도약을 시도하고 있다.
AMD와 인텔의 반격이 엔비디아의 지배력을 단기간에 무너뜨리지는 못하더라도, 고객의 선택지를 확대하고 AI 인프라 비용을 낮추는 계기가 될 수 있다. AI 칩 시장의 지각변동은 이미 시작됐으며, 앞으로의 핵심 경쟁은 GPU 한 개의 성능이 아니라 데이터센터 전체를 누가 더 효율적으로 설계하고 운영할 수 있는지에 달려 있다.