- MI450X IF128은 128개의 GPU를 HBM4와 가속 이더넷에 연결하여 밀도와 대역폭을 우선시합니다.
- AMD는 Rubin NVL144에 비해 프레임당 더 많은 메모리와 FLOPS를 추가하는 것을 목표로 하고 있습니다.
- 핵심은 소프트웨어입니다. ROCm과 HIP는 CUDA 경험에 더욱 가까워져야 합니다.
- IF64는 생산을 앞당겨 2026년에 실제 배치를 시작할 수도 있습니다.
AMD Instinct MI450X 가속기는 차세대 AI 인프라를 둘러싼 논쟁의 핵심으로 떠올랐습니다. 그 이유는 바로 랙 스케일 접근 방식이 밀도와 연결성 측면에서 엄청난 도약을 약속하기 때문입니다. 이 리뷰에서는 퍼즐의 각 부분을 자세히 살펴보겠습니다. IF128 및 IF64 아키텍처부터 HBM4 및 가속 이더넷, NVIDIA의 Vera Rubin과의 비교까지 그리고 AMD가 원시적인 힘을 실제 결과로 전환하기 위해 해결해야 할 소프트웨어 과제도 있습니다.
헤드라인을 넘어 흥미로운 점은 AMD가 최초의 진정한 랙 규모 GPU 클러스터를 준비하고 있으며 그 설계 결정은 다음과 같습니다. 대규모 대역폭, 낮은 대기 시간 및 더 간단한 배포 데이터 센터에서. 이 모든 것이 함께 제공됩니다. 상위로부터의 명확한 신호 이 회사의 목표는 MI450을 밀라노의 순간으로 만드는 것입니다. 즉, 시장이 주저하는 것을 멈추고 자신 있게 자사의 기술 스택을 도입하는 전환점이 되는 것입니다.
MI450X IF128이란 무엇이며 랙 접근 방식이 중요한 이유는 무엇입니까?
AMD는 Instinct MI400 제품군을 두 가지 뚜렷한 목표에 따라 두 가지 라인으로 분할했습니다. 정밀 HPC를 목표로 하는 MI430X와 대규모 AI에 초점을 맞춘 MI450X입니다. 후자에는 플래그십 라인업이 등장합니다. MI450X IF128은 Infinity Fabric over Ethernet을 사용하여 128개의 GPU를 연결하는 랙 아키텍처입니다.동시에 회사는 약 절반의 리소스로 더 간단한 단일 랙 설치를 위해 설계된 IF64 마더보드를 계획하고 있습니다.
IF128 구성에서 각 MI450X 가속기는 TSMC의 3nm 공정 노드에서 제조되고 CoWoS-L과 함께 패키징될 예정입니다. 통합 메모리는 HBM4적어도 GPU당 288GB 및 최대 18TB/s 대역폭, 거대한 모델의 학습 목표에 맞는 수치입니다. 선언된 계산은 약 GPU당 FP4에서 50PetaFLOPS이를 통해 메모리 병목 현상 없이 토큰과 매개변수를 확장하는 경쟁에서 시스템을 최전선에 배치합니다.
내부 커뮤니케이션 계획은 짧지 않습니다. AMD는 대략 다음과 같이 말합니다. GPU당 1,8TB/s의 단방향 대역폭 랙 내부. 128개의 가속기를 합치면 프레임 패브릭은 약 2.304TB/s 집계이 수치는 수천 개의 GPU가 분산되어 있고 높은 효율성을 유지하는 것이 목표일 때 나타나는 전형적인 병목 현상에 대응합니다. 분산 훈련.
기능을 추가하면 MI450X IF128 세트가 이동합니다. 6.400 PetaFLOPS FP4 및 약 36,9TB의 HBM 메모리 프레임 내에서 높은 대역폭. IF64 모드의 경우 값은 약 절반이 되며 이는 유용한 정보입니다. 성장 경로를 포기하지 않고 단일 랙으로 시작하려는 센터 동일한 기술 스택을 제안합니다.
또 다른 관련 데이터는 열 봉투입니다. 소스는 가속기당 소비량을 다음과 같이 배치합니다. 1,6kW 및 2,0kW이 매개변수는 랙 밀도, 전력 및 냉각 요구 사항, 그리고 궁극적으로 배포의 총 소유 비용을 결정하므로 중요하지 않습니다.
패키징에 대한 흥미로운 논의도 있습니다. 일부 소식통은 NVIDIA가 NVL144 시스템에서 발표한 카운트가 결합되었다고 지적합니다. 패키지당 2개의 GPU가 포함된 72개의 패키지, 최종 144개 논리 단위가 나옵니다. AMD의 경우 다음과 같은 이야기가 있었습니다. 128 팩그리고 각 패키지가 결국 2개의 GPU를 통합하게 되면 클러스터는 랙당 256개의 GPU로 확장됩니다. 이러한 증가는 밀도 확장에서 77%의 잠재적 이점 NVL144와 비교했을 때, 이는 성능과 총 소비량 면에서 모두 향상된 것을 의미합니다.
상호 연결: 이더넷, UALink 및 NIC를 통한 Infinity Fabric에 대한 생각
MI450X의 AI에 대한 독보적인 기능은 통신 패브릭입니다. 기존 버스에 의존하는 대신, AMD는 이더넷을 통해 Infinity Fabric을 사용합니다. 각 GPU를 Pensando 제품군 800GbE NIC 3개에 연결합니다. 목표는 명확합니다. 수평 확장을 가능하게 합니다. 표준화된 기술과 하드웨어 가속데이터 센터의 이더넷 생태계가 성숙해진 것을 활용합니다.
이 세대에서는 UALink가 PCIe에 의존하지 않고 GPU를 GPU에 연결하는 수단으로 보이지만, 산업 현실은 다음과 같습니다. Broadcom이나 Astera Labs와 같은 공급업체의 UALink 스위치는 첫날부터 사용할 수 없습니다.AMD가 메시 및 가속화된 이더넷 기반 네트워킹을 통해 높은 성능을 유지하는 동시에, 이러한 스위치에 의존하지 않는 토폴로지 옵션을 설계한 이유가 여기에 있습니다.
이 맥락에서는 제품 세분화도 설명합니다. 이중 정밀도 HPC를 목표로 하는 MI430X UL4는 4개의 GPU를 사용하는 지점 간 메시를 사용합니다. 컴팩트한 클러스터에서 지연 시간을 최소화하기 위해 UALink 스위치는 여전히 시간이 걸리기 때문입니다. 대규모 AI를 위한 또 다른 옵션인 MI450X는 Ultra Ethernet과 기존 UEC 스위치 지원에 중점을 두어 수백 개의 노드가 있는 농장 UALink 전용 실리콘이 완성될 때까지 기다리지 않고도 가능합니다.
실제로 이 전략은 일정 위험을 줄이고 즉각적인 도입 경로를 제공합니다. 이미 고성능 이더넷 패브릭이 있는 경우IF64 또는 IF128 랙을 마찰 없이 통합하고 NetOps 및 SRE 팀이 수년간 숙달해 온 도구를 사용하여 대규모 교육을 조정할 수 있습니다.
이더넷에 대한 헌신이 병목 현상과 동의어가 아니라는 점을 강조하는 것이 좋습니다. GPU당 단방향 1,8TB/s 가속기당 800GbE 링크 3개를 사용하면 최신 부하에서 활성화, 그래디언트 및 전체 감소 트래픽을 위한 매우 관대한 파이프라인이 생성됩니다.
NVIDIA 비교: Vera Rubin VR200과 VR300으로의 전환
IF128의 도달 범위를 측정하려면 NVIDIA의 직접 경쟁사와 비교해야 합니다. 공개 기술 추정치는 베라 루빈 VR200 NVL144는 랙당 약 3.600페타플롭스의 FP4 컴퓨팅 성능과 약 936TB/s의 총 메모리 대역폭을 제공합니다. 반면 AMD의 IF128 방식은 랙 스케일 메모리 대역폭의 약 두 배와 더 높은 컴퓨팅 성능을 목표로 합니다.
고려해야 할 또 다른 측면은 개정 속도입니다. 기술 자료에 접근할 수 있는 소식통에 따르면 AMD와 NVIDIA 모두 TGP 및 메모리 대역폭 초기 계획과 비교했을 때, 경쟁 압력에 맞춰 즉석에서 조정하고 있습니다. AMD 측에서는 다음과 같은 이야기가 있습니다. 약 200W 증가 TGP에서 초기 수치에 따르면 NVIDIA에서는 점프가 최대치까지 올라갔을 것입니다. 가속기당 약 2.300W기억 속에서 Rubin은 ~13TB/s에서 시작했을 것입니다. GPU당 최대 20TB/s 가장 야심찬 반복에서.
하지만 핵심은 일정입니다. AMD가 다음과 같이 설명했듯이 2026년 하반기 첫 IF128 프레임엔비디아는 이미 업계 주요 기업들이 루빈을 조기에 도입하고 있으며, OpenAI처럼 대규모 고객사도 언급되고 있다고 합니다. 다시 말해, 경쟁은 이미 시작되었으며, 각 부문의 부분적인 승자는 순수한 지표뿐 아니라 시기와 가용성에도 달려 있습니다.
지평선에는 NVIDIA의 진화도 나타납니다. VR300 울트라 NVL576, 각각 4개의 GPU를 탑재한 144개 GPU로 개수를 늘리는 시스템 컴퓨팅 칩렛, 합산 576 계산 주사위 랙당. AMD가 IF128로 먼저 목표를 달성하고 실질적인 대역폭 우위를 유지한다면, 경쟁사가 세대를 뛰어넘기 전에 기회를 얻게 될 것입니다.
그것만으로도 충분하지 않은 듯, 패키징 산술은 미묘한 차이를 추가합니다. AMD가 결국 사용하게 되면 128개 패키지에 패키지당 2개의 GPU가 들어 있습니다.랙당 총 GPU 수는 Rubin의 NVL144에 탑재된 72개의 2-GPU 패키지보다 훨씬 더 클 것입니다. 이 차이는 더 많은 것으로 변환됩니다. 물리적 공간 단위당 훈련 용량랙당 전력 및 냉각에 제한이 있는 센터에서는 설득력 있는 주장입니다.
좋은 소프트웨어가 없는 하드웨어는 승리할 수 없다: CUDA 대 ROCm과 HIP의 역할
AI 분야에서 AMD의 역사적 장애물이 있다면 그것은 소프트웨어입니다. 수백만 명의 개발자가 참여하는 CUDA와 그 생태계도구, 라이브러리, 튜토리얼 등이 부족하기 때문에 최고의 하드웨어만으로는 충분하지 않습니다. 많은 랩에서는 가속기 사양을 검토하기 전에 프레임워크 호환성, 드라이버 안정성, 커널 성숙도를 먼저 고려합니다.
이 시점에서 희망적인 징후가 있습니다. AMD 경영진과의 직접 접촉을 통해 회사가 약점을 알고 있다는 것이 분명해졌습니다. ROCm과 HIP 개선의 필요성 CUDA에서의 전환을 용이하게 하기 위해 외부 팀과의 기술 세션에서 버그, 병목 현상, 로드맵 권장 사항을 보고하는 것에 대한 이야기도 있었습니다. 리더십의 개인적 참여 수정 사항의 우선순위를 정합니다.
근본적인 질문은 AMD가 적절한 시기에 다음과 같은 환경을 제공할 수 있을지 여부입니다. 기능적 동등성이 충분합니다 CUDA에서 마이그레이션한다고 해서 수개월에 걸친 추가 엔지니어링이 필요한 것은 아닙니다. 최근 게임 드라이버 개발 사례를 보면 AMD가 집중력과 끈기를 통해 따라잡을 수 있다는 것을 알 수 있습니다. AI 분야에서는 시간이 촉박하며, 경쟁 플랫폼의 고도로 최적화된 라이브러리가 기준을 제시하고 있습니다.
이 논쟁은 AMD에만 국한되지 않습니다. CloudMatrix 384를 탑재한 Huawei 16개 랙에 384개의 Ascend 910C 칩을 결합했음에도 불구하고, 둥근 소프트웨어 환경이 없으면 비용이 얼마나 많이 드는지 보여줍니다. 300 PetaFLOPS BF16 및 560kW 소비소프트웨어 및 공급망의 제약(특히 수출 제한)은 도입을 어렵게 만듭니다. 이는 AI를 초고속으로 확장하려는 모든 사람에게 분명한 교훈입니다.
그래서 MI450X IF128도 다음과 같습니다. 이더넷 기반 패브릭이 제공할 수 있는지에 대한 주요 테스트 실제 교육 요구 사항을 충족해야 합니다. 랩 수치만으로는 충분하지 않습니다. 중요한 지표는 고객이 이미 사용 중인 소프트웨어 스택을 사용하여 노드당, 랙당, 그리고 클러스터 수준에서 얻은 최종 효율성입니다.
AMD의 여정: MI325X와 MI355X에서 MI450의 야망까지
MI450이 어디에 속하는지 이해하려면 이전 단계를 다시 살펴보는 것이 좋습니다. MI325X는 H200과 경쟁했습니다. AMD가 가치 격차를 좁혔지만 확실한 영향을 미치지는 못한 시기에. 나중에 MI355X가 Blackwell Ultra에 접근했습니다. 유로당 성능 면에서는 우수했지만, 최고급 경쟁 제품의 순수한 힘에는 미치지 못했습니다.
MI450을 통해 AMD는 위험을 높였습니다. 데이터 센터 부문의 메시지는 다음과 같습니다. 훈련 및 추론에서 선도적인 성과이 회사는 이를 CPU 부문의 밀라노 모멘트에 비유합니다. 밀라노 모멘트는 EPYC가 상황을 반전시켜 시장 점유율 10%를 넘어선 시기이며, 이후 서버 매출이 크게 증가한 사례입니다.
기술 계획은 연설과 함께 제공됩니다. MI400/MI450 제품군에서는 다음과 같은 이야기가 있습니다. 최대 432GB 용량의 HBM4 일부 구성에서는 이전 세대보다 훨씬 더 높은 대역폭과 랙 아키텍처(일부 시트에서는 내부적으로 Helios로 알려짐)를 사용합니다. 질서 있게 규모를 조정하다 단일 랙부터 수백 개의 노드가 있는 팜까지.
이 로드맵은 초점을 명확하게 구분합니다. FP64 및 HPC 애플리케이션용 MI430X UL4 컴팩트하고 지연 시간이 짧은 토폴로지와 함께 대규모 AI를 위한 MI450X 고성능 이더넷과 800GbE NIC 링크를 통해 AMD는 이러한 세분화를 통해 공격할 수 있습니다. 최적화된 솔루션을 통한 두 가지 다른 요구 사항 UALink의 모든 요소가 성숙될 때까지 기다리지 않아도 됩니다.
동시에 회사는 소프트웨어 메시지를 강화하고 있습니다. ROCm이 출시될 준비가 되어 있어야 하며, 고객이 플랫폼을 선택할 때 불이익을 느끼지 않아야 한다는 것입니다. 소프트웨어 패리티가 하드웨어 도약을 수반한다면도입에 미치는 영향은 EPYC를 사용하면서 경험했던 전환점과 유사할 수 있습니다.
MI450X IF128 시스템 사양 및 주요 수치
필수 사항을 한눈에 보고 싶어하는 사람들을 위해 다음과 같습니다. 가장 관련성 있는 크기 IF128 프레임에 대해 발전된 사항:
- 랙당 128개 GPU 이더넷을 통한 Infinity Fabric을 통해 연결됨; IF64 옵션은 ~half입니다.
- GPU당 HBM4: 최소 288GB에서 최대 18TB/s, 최대 432GB 구성이 MI400 제품군에서 제공됩니다.
- GPU당 성능: 약 50 PetaFLOPS FP4; 전체 랙 속도는 약 6.400 PetaFLOPS입니다.
- 내부 대역폭: GPU당 단방향 약 1,8TB/s, 랙당 총 2.304TB/s.
- 빨간색GPU에 통합된 3개의 800GbE ThinkPad NIC; Ultra Ethernet을 통한 수평 확장.
- 소비: 가속기당 목표는 1,6~2,0kW이며 TGP 개정에 따라 달라질 수 있습니다.
이 수치는 MI450X IF128을 다음과 같이 배치합니다. 공격적인 밀도 플랫폼, 이국적인 재배선 없이 프런티어 모델을 훈련하고 대규모 추론을 제공하도록 설계되었습니다.
생산 위험, 타이밍 및 배포 전략
이처럼 야심찬 건축은 도전 없이는 이루어지지 않습니다. 생산 램프는 복잡할 수 있습니다HBM4와 CoWoS-L의 통합 및 고급 네트워크 구성 요소의 가용성을 위해 AMD는 이를 인지하고 있습니다. IF64로 더 일찍 종료IF128의 산업화를 완성하면서 가장 간단한 프레임을 개발했습니다.
사용중인 달력은 다음을 배치합니다. AMD, 2026년 하반기 첫 랙 스케일 GPU 클러스터 출시실현된다면 이는 NVIDIA와 비교할 수 있는 턴키 시스템 시장에 회사가 공식적으로 진입하는 것을 의미하며 고객이 실제 부하로 플랫폼을 검증합니다. 소프트웨어 개선과 병행하여.
운영자에게 이는 2026년과 2027년이 AMD, Rubin 및 이후 버전에 대한 집중적인 비공개 벤치마킹이 이루어지는 몇 년이 될 것임을 의미합니다. 총 소유 비용 (전력, 냉각, 점유율, 소프트웨어 효율성)은 특히 하이퍼스케일러의 경우 원시 FLOPS나 대역폭만큼 중요할 것입니다.
간과해서는 안 될 한 가지 점은 기억의 진화입니다. HBM4와 그 기능 학습 및 추론을 위해 초당 얼마나 많은 토큰 처리량을 유지할 수 있는지를 결정합니다. AMD가 GPU당 288GB를 통합하고 패키징이 성숙됨에 따라 더 높은 용량의 변형을 지원하게 되면 유연성을 확보할 수 있습니다. 엄청난 맥락을 필요로 하는 모델.
궁극적으로 가속화된 이더넷 네트워킹, 대용량 HBM4 및 랙 튜닝 설계의 조합은 매력적인 제안을 만들어냅니다. ROCm과 생태계는 완벽하게 동반됩니다..
MI450X IF128의 전체 그림은 일관된 전략을 보여줍니다. AMD는 숫자뿐만 아니라 전체 랙을 확장하도록 설계된 아키텍처 널리 사용되는 데이터 센터 기술을 사용합니다. Rubin과 비교했을 때, AMD는 두 개의 GPU 패키지가 확정될 경우 랙당 더 많은 메모리 대역폭과 잠재적인 밀도를 확보할 수 있을 것으로 기대합니다. 하지만 균형을 깨는 것은 소프트웨어입니다. ROCm과 HIP가 CUDA와의 격차를 빠르게 좁힌다면, AMD의 제안은 효율성이나 구현 속도를 희생하지 않고도 다각화와 종속성 회피를 추구하는 운영자들에게 어필할 수 있을 것입니다.
