- 동일한 심장: 1 PFLOP FP4와 128GB 통합 LPDDR5X를 탑재한 NVIDIA Grace Blackwell GB10 슈퍼칩.
- 장치당 최대 200B 매개변수를 지원하는 모델이며, ConnectX-7(200Gbps)을 통해 두 노드를 연결하면 ~405B 매개변수를 지원합니다.
- 전체 연결성: 10GbE, Wi-Fi 7, BT 5.3, HDMI 2.1 및 USB 3.2 Gen 2×2 Type-C(PD IN 포함).
- 소프트웨어 준비: NVIDIA DGX OS/Ubuntu, NVIDIA AI Stack 및 GIGABYTE AI TOP Utility 지원.
새로운 소형 가속기 등 강력한 데스크톱 장비가 등장하면서 데스크톱 인공지능은 더 이상 먼 약속이 아니라 확실한 현실이 되었습니다. GIGABYTE AI TOP ATOM과 NVIDIA DGX Spark는 기술 핵심을 공유합니다. 그리고 클라우드에 항상 의존하지 않고도 고급 모델을 프로토타입으로 만들고, 조정하고, 배포해야 하는 사용자 프로필을 타겟으로 합니다.
가장 눈에 띄는 점은 두 제품 모두 NVIDIA Grace Blackwell GB10 슈퍼칩을 기반으로 한다는 점입니다. 이 슈퍼칩은 CPU와 GPU를 고대역폭 공유 메모리로 통합한 차세대 SoC입니다. 이 접근 방식을 사용하면 1.000 TOPS(1 petaFLOP FP4)의 AI 컴퓨팅이 가능합니다. 약 1리터의 작은 섀시에 들어 있는 이 제품은 개발자, 연구자, 교육 센터가 일상적으로 사용할 수 있는 AI 슈퍼컴퓨팅 도구에 한 걸음 더 다가갈 수 있도록 해줍니다.
GIGABYTE AI TOP ATOM 대 NVIDIA DGX Spark: 무엇이고 누구를 겨냥하는가
GIGABYTE는 생성 모델, 머신 러닝 및 까다로운 LLM 워크로드를 위해 설계된 자체 데스크톱 "미니 AI 슈퍼컴퓨터"인 AI TOP ATOM을 공개했습니다. 그 접근 방식은 NVIDIA DGX Spark와 매우 유사합니다.NVIDIA(MediaTek과 협력)가 추진하는 플랫폼으로, 이전에는 Project DIGITS로 알려졌으며, 매우 컴팩트한 포맷으로 고성능 AI 개발을 대중화합니다.
대상 고객은 전문가와 R&D 팀부터 로컬 컴퓨팅에 즉시 접근할 수 있는 것이 중요한 요소인 교실과 실험실까지 다양합니다. 더 작은 포맷은 물류 및 소비 장벽을 줄여줍니다.그 대가로 실험과 배포에 모두 유리한 도구를 갖추고 있어 전문 서버에서 일반적으로 볼 수 있는 성능을 제공합니다.
NVIDIA Grace Blackwell GB10 아키텍처
AI TOP ATOM의 핵심은 NVIDIA GB10 SoC로, 최첨단 Blackwell GPU와 함께 20코어 Armv9 CPU(10개의 고성능 Cortex-X925와 10개의 고효율 Cortex-A725)를 통합했습니다. 이 CPU+GPU 조합은 통합된 데이터 흐름을 가능하게 합니다. 가벼운 훈련, 미세 조정, 집중적 추론의 전형적인 작업을 가속화합니다.
GPU는 5세대 텐서 코어와 4세대 RT 코어를 통합하여 필요에 따라 혼합 컴퓨팅 최적화와 레이 트레이싱 그래픽을 구현할 수 있습니다. 비디오 서브시스템은 1개의 NVENC와 1개의 NVDEC를 추가합니다.컴퓨터 비전 환경이나 멀티모달 파이프라인에서 멀티미디어 흐름을 전달하는 데 유용합니다.
주요 차별화 요소는 슈퍼칩 블록 간의 NVLink-C2C 상호 연결로, 내부 통신을 위한 PCIe 5.0보다 훨씬 높은 대역폭을 제공합니다. 매우 낮은 지연 시간 링크는 통합 메모리의 핵심입니다.CPU와 GPU가 불필요한 복사 페널티 없이 동일한 데이터에 접근하기 때문입니다.
통합 메모리, 스토리지 및 I/O
이 시스템은 CPU와 GPU가 공유하며 대역폭이 273GB/s인 128GB 256비트 LPDDR5X 메모리를 탑재하고 있습니다. 통합된 기억 개발을 단순화합니다 또한, 별도의 공간 사이에서 텐셔너를 이동할 때 발생하는 병목 현상을 방지하여 GB10의 성능을 최대한 발휘하는 데 도움이 됩니다.
저장 장치의 경우, GIGABYTE는 PCIe Gen5 SSD에서 최대 4TB의 구성을 제공하며, 선택한 용량에 따라 PCIe 4.0으로 변형된 제품도 제공됩니다. 이러한 유연성으로 인해 장비를 더 쉽게 적응할 수 있습니다. 로컬 데이터 세트, 모델 캐시 및 실험 저장소에 의존하지 않고 하이퍼컨버지드 스토리지 솔루션.
주변 장치 연결 측면에서 이 장치는 여러 개의 USB 3.2 Gen 2×2 Type-C 포트 외에도 HDMI를 통한 다중 채널 비디오 및 오디오 출력을 위한 HDMI 2.1a를 통합했습니다. USB-C 포트 중 하나는 전원 입력(PD IN) 역할을 합니다., 그리고 다른 세 가지는 고속 장치에 최대 20Gbps를 제공합니다.
AI 성능 및 모델 크기
AI TOP ATOM은 FP4에서 1.000 TOPS의 AI 성능을 발표했는데, 이는 최적화된 워크로드의 경우 1페타플롭에 해당합니다. 이 수치를 통해 LLM은 단일 시스템에서 최대 200.000억 개의 매개변수를 처리할 수 있습니다.약 70.000억 개의 인기 모델을 처리할 수 있는 충분한 용량과 복잡한 생성 작업을 처리할 수 있는 기동 공간을 갖추고 있습니다.
야심이 커짐에 따라 두 개의 단위를 결합하고 컴팩트하고 지연 시간이 짧은 클러스터를 가정할 때 약 405.000억 개의 매개변수를 가진 모델을 처리할 수 있도록 확장하는 것이 가능합니다. 이 옵션을 사용하면 대규모 인프라를 구축하지 않고도 천장을 확장할 수 있습니다., 지역 자원을 활용하여 운영상의 이점을 유지합니다.
실제로 통합 메모리, Blackwell, NVLink-C2C를 결합하면 집약적인 전송과 빠른 사전/사후 처리가 필요한 미세 조정, RAG, ML 파이프라인에 유리합니다. 결과적으로 데이터의 흐름이 더욱 원활해졌습니다.각 단계 사이의 다운타임이 줄어들고 전용 서버와 더 유사한 경험을 제공합니다.
네트워크 연결성 및 확장성
GIGABYTE는 이 시스템에 10GbE 유선 네트워크와 Wi-Fi 7 및 Bluetooth 5.3을 통한 차세대 무선 연결을 탑재했습니다. 이를 통해 현대 실험실에 더 쉽게 통합할 수 있습니다. 대규모 데이터 세트에 적합한 제한된 대기 시간과 대역폭을 갖춘 혼합된 작업 환경입니다.
확장을 위해 핵심 구성 요소는 NVIDIA ConnectX-7 SmartNIC로, 시스템 간에 최대 200Gbps의 매우 고속 링크를 지원합니다. 이는 컴팩트 클러스터에 권장되는 경로입니다.두 개의 AI TOP ATOM을 함께 추가하거나 다른 동등한 노드에 연결하더라도 낮은 지연 시간과 높은 성능을 유지합니다.
일부 통합자는 공간과 케이블을 더 효율적으로 활용하기 위해 물리적으로 쌓아서 ConnectX-7을 통해 연결하는 것을 제안하기도 합니다. 아키텍처는 병렬로 확장되도록 설계되었습니다. 데스크톱에 집중하는 데 방해가 되지 않으므로 프로젝트 규모가 커질 때 이상적입니다.
물리적 형식 및 소비
섀시는 약 1리터이고, 치수는 150×150×50,5mm, 무게는 1,2kg으로, 탑재된 하드웨어에 비해 정말 컴팩트한 편입니다. 그 크기라면 어떤 테이블에나 놓을 수 있습니다.선반 위나 모니터 뒤에 두어 사용자와 데이터 수집 장치에 매우 가깝게 배치합니다.
소프트웨어: DGX OS, Ubuntu 및 NVIDIA AI 스택
소프트웨어 측면에서는 NVIDIA DGX OS와 Ubuntu Linux가 호환되어 최고 수준의 AI 드라이버와 라이브러리 지원을 통해 전문적인 작업 환경을 구축할 수 있습니다. NVIDIA 소프트웨어 스택과의 통합이 완료되었습니다.로컬에서 개발, 교육 및 배포하는 데 필요한 프레임워크, SDK 및 도구를 포함합니다.
GIGABYTE는 또한 모델 다운로드, 추론, RAG 및 마찰 없는 머신 러닝 작업 등의 설정을 용이하게 하도록 설계된 애플리케이션인 AI TOP Utility를 추가했습니다. 이 소프트웨어에는 미세 조정 및 배포 기능도 포함되어 있습니다. LLM과 LMM은 개인정보 보호와 데이터 보안에 중점을 두고 로컬에서 관리합니다.
민첩한 팀의 경우 운영 체제, NVIDIA 스택, GIGABYTE 유틸리티의 조합은 진입 장벽을 낮추고 반복 작업을 가속화합니다. 인프라와의 싸움에 소요되는 시간 감소 즉, 프롬프트, 토큰, 데이터 세트를 개선하는 데 더 많은 시간이 걸린다는 뜻입니다.
도움이 되는 사용 사례 및 프로필
응용 분야는 광범위합니다. 생성적 어시스턴트와 엔터프라이즈 RAG 파이프라인 개발부터 학술 연구와 고급 교육까지 다양합니다. 또한 스마트 시티와 로봇공학과 같은 분야도 강조합니다.지연 시간, 보안, 데이터 제어가 결정적인 요소입니다.
교육 및 실험실에서는 모든 작업대에 재현 가능하고 강력한 환경을 갖추면 학습 곡선이 향상됩니다. 그리고 기업에서는 모델을 현지에 맞게 조정할 수 있는 능력 이를 통해 제3자에 대한 의존도가 낮아지고, 개념 증명 테스트가 간소화되며, 프로토타입의 가치 실현 시간이 단축됩니다.
가용성 및 가격 책정을 포함한 구성
GIGABYTE AI TOP ATOM은 스토리지 기능과 인터페이스 세대를 결합한 여러 모델로 출시됩니다. 나열된 옵션에는 1TB PCIe 4.0이 있습니다. 그리고 더 많은 디스크 공간과 성능이 필요한 사람들을 위해 4TB 모델(PCIe 4.0 및 PCIe 5.0) 두 가지가 있습니다.
소매 가격은 1TB PCIe 4.0 버전의 경우 3.499,99달러, 4TB PCIe 4.0 버전의 경우 3.899,99달러, 4TB PCIe 5.0 버전의 경우 3.999,99달러부터 시작됩니다. 지역 및 유통업체에 따라 가용성이 다를 수 있습니다.따라서 공식 제품 웹사이트와 공인 매장 목록을 모두 확인하는 것이 좋습니다.
간단한 비교: AI TOP ATOM vs DGX Spark
두 시스템의 유사점은 NVIDIA Grace Blackwell GB10 슈퍼칩, 128GB 통합 LPDDR5X 메모리, 전문가용 데스크톱에 대한 명확한 초점에서 비롯됩니다. 생성 AI 워크로드의 경우 두 가지 모두 동일한 약속을 추구합니다.: NVIDIA 소프트웨어가 탑재된 1리터 용량에서 FP4 성능의 petaFLOP을 구현합니다.
GIGABYTE 측에서는 AI TOP Utility를 통해 생태계를 벗어나지 않고도 모델 다운로드, 추론 또는 RAG와 같은 작업을 가속화할 수 있는 부가 가치를 제공합니다. USB-C 3.2 Gen 2x2 포트, HDMI 2.1 및 10GbE 네트워크 이 제품은 견고한 I/O 프로필을 제공하며, ConnectX-7을 통해 최대 200Gbps까지 확장 가능하므로 작고 지연 시간이 짧은 클러스터로의 명확한 경로가 보장됩니다.
DGX Spark는 이 폼 팩터에 대한 NVIDIA의 직접적인 레퍼런스로 제시되며 MediaTek과의 협업의 결과로 발표되었습니다. 기술적 기반과 목표 시장이 상당히 겹칩니다. GIGABYTE의 제안에 따르면, 선택은 각 제조업체가 제공하는 현지 가용성, 지원 생태계, 액세서리에 집중될 가능성이 있습니다.
GIGABYTE AI TOP ATOM의 필수 사양
기술 사양 측면에서 GIGABYTE 팀이 언급한 가장 주목할 만한 사항은 다음과 같습니다. CPU, GPU, 메모리 및 네트워크의 균형 잡힌 세트 최신 AI 워크로드에 중점을 두었습니다.
- NVIDIA GB10 SoC(그레이스 블랙웰 아키텍처): 20개의 Armv9 코어 10개의 Cortex‑X925 + 10개의 Cortex‑A725로 구성됩니다.
- 5세대 텐서 코어와 4세대 RT 코어를 탑재한 Blackwell GPU VPU: 1× NVENC, 1× NVDEC.
- 시스템 메모리: 128GB LPDDR5X(256비트, 273GB/s) 통합 CPU+GPU.
- 저장 용량: 최대 4TB PCIe Gen5 SSD (구성에 따라 PCIe 4.0 옵션이 다름).
- 비디오 및 오디오: HDMI 2.1 다중 채널 오디오 출력이 가능합니다.
- 빨간색 : 10GbE RJ45; Wi-Fi 7 무선 및 Bluetooth 5.3.
- USB: 1× USB 3.2 Gen 2×2 Type‑C(PD IN) + 3× USB 3.2 Gen 2×2 Type‑C(최대 20Gbps).
- 확장 성 : 최대 200Gbps의 NVIDIA ConnectX‑7 SmartNIC 노드 간 상호 연결을 위해.
- 섀시: 약 1리터(150×150×50,5mm); 무게 1,2kg; 240W 어댑터.
- 소프트웨어: 호환성 NVIDIA DGX OS 및 Ubuntu; NVIDIA AI 스택과 GIGABYTE AI TOP 유틸리티를 통합했습니다.
- AI 성능: 1.000 TOPS(1 PFLOP FP4); 단일 유닛으로 최대 200B의 LLM을 제공하고, 유닛 2개로 최대 405B까지 제공합니다.
컴팩트함을 극대화하고 싶은 사람들에게는 쌓을 수 있다는 점과 고속 네트워크가 처음부터 포함되어 있다는 점이 장점입니다. 인프라를 재구축하지 않고도 단일 노드로 시작하여 두 개로 확장할 수 있습니다.동일한 소프트웨어 환경과 동일한 도구를 유지합니다.
HDMI 2.1a 지원을 통해 최신 4K/8K 디스플레이나 디스플레이 매트릭스에 쉽게 연결하여 데모와 교육 세션을 진행할 수 있습니다. HDMI를 통한 다중 채널 오디오 출력 사운드 구성 요소도 고려되는 다중 모드 모델로 작업하면 점수를 얻습니다.
숫자 너머로 이 경험을 정의하는 것은 전체 패키지입니다. 즉, 빠른 통합 메모리, 5세대 텐서가 탑재된 Blackwell GPU, 바로 사용 가능한 소프트웨어 환경입니다. 이 모든 것이 현대적 워크플로에 적합합니다. 사전 처리, 가속화된 추론, 지속적인 평가 단계가 결합된 형태입니다.
프로젝트에 협업이나 점진적인 성장이 필요한 경우 ConnectX-7은 최근 공상과학 소설처럼 여겨졌던 개념인 데스크톱 클러스터의 길을 열어줍니다. 노드 간 200Gbps로 병목 현상이 감소합니다. 메모리와 컴퓨팅 파워를 합치면 대규모 모델에 정말 유용해집니다.
이러한 기계의 목표는 대규모 데이터 센터를 대체하는 것이 아니라는 점을 기억하는 것이 좋습니다. 엑사스케일 슈퍼컴퓨터오히려 더 많은 사람들에게 더 큰 역량을 제공하기 위해서입니다. 데이터의 근접성과 환경의 완전한 제어 이를 통해 신속한 반복이 가능하고, 기다리지 않고도 아이디어를 테스트할 수 있으며, 민감한 정보를 로컬 경계 밖으로 꺼내지 않고도 보호할 수 있습니다.
이러한 장점을 중시하는 사람이라면 GIGABYTE AI TOP ATOM이 NVIDIA DGX Spark에 비해 든든한 동맹이라는 것을 알게 될 것입니다. 차이점은 핵심보다는 패키지에 더 집중되어 있습니다. 동일한 슈퍼칩, 동일한 정신, 그리고 정렬된 소프트웨어 생태계 AI 작업이 가장 편리한 곳, 즉 키보드에서 몇 센티미터 떨어진 곳에서 수행되도록 하기 위해서입니다.
