NVIDIA DGX Spark Cluster Paketi, 2 adet DGX Spark ünitesi ve 200 Gbps QSFP56 Ethernet DAC kablo içeren hazır kümelenmiş masaüstü AI süperbilgisayar çözümüdür. İki cihaz NVIDIA ConnectX-7 portları üzerinden doğrudan bağlanır; 2 PFLOPS FP4 performans, 256 GB birleşik bellek ve 405 milyar parametreye kadar dağıtık LLM inference kapasitesi sunar. Ek ağ anahtarı veya özel altyapı gerektirmez.

Tek DGX Spark ünitesi 1 PFLOPS FP4 performans, 128 GB birleşik bellek ve 200 milyar parametre inference desteği sunar. Cluster paketi 2 × ünite ile bu değerleri ikiye katlar: 2 PFLOPS FP4, 256 GB unified bellek ve 405 milyar parametreye (örn. Meta Llama 3.1 405B) kadar dağıtık inference imkanı sağlar. Ek olarak tensor parallelism ve pipeline parallelism ile fine-tuning kapasitesi artar.

QSFP56 DAC (Direct Attach Cable) iki NVIDIA ConnectX-7 portunu fiber transceiver ve anahtar gerektirmeden doğrudan bağlayan bakır kablodur. 200 Gbps (4 × 50G PAM4) toplam bant genişliği sunar ve 3 metre mesafeye kadar kayıpsız çalışır. Küme paketinde iki Spark arasındaki dağıtık AI inference trafiği için optimize edilmiş, düşük gecikmeli fiziksel interconnect görevi görür.

Cluster paketi, Meta Llama 3.1 405B, DeepSeek-V3 (671B MoE), Mixtral 8x22B, Qwen 2.5 72B, Falcon 180B ve benzeri büyük ölçekli modelleri dağıtık inference ile çalıştırabilir. 256 GB toplam unified bellek sayesinde 405B parametre modelleri FP4/INT4 quantization ile tek kümede barındırılabilir. NVIDIA NIM, TensorRT-LLM ve vLLM'in dağıtık tensor parallelism modları tam desteklenir.

Küme paketindeki QSFP56 DAC kablo, her iki DGX Spark'ın ConnectX-7 portlarına doğrudan takılır — plug & play. Ek anahtar, transceiver veya konfigürasyon gerektirmez. DGX OS, RDMA over Converged Ethernet (RoCE v2) üzerinden düşük gecikmeli GPU-to-GPU iletişim için otomatik yapılandırılmıştır. NVIDIA NCCL kütüphanesi küme tensor parallel iletişimini yönetir.

DGX Spark Cluster, NVIDIA AI Enterprise yazılım yığınıyla tam uyumludur: CUDA, NCCL (dağıtık iletişim), TensorRT-LLM, NeMo Framework, NIM mikroservisleri, PyTorch DDP/FSDP, DeepSpeed ZeRO-3, vLLM dağıtık inference ve Hugging Face Accelerate desteklenir. DGX OS her iki ünitede aynı yazılım tabanını kullanır; bulut DGX platformuyla birebir uyumludur.

Her bir DGX Spark 150 × 150 × 50.5 mm boyutunda ve 1.2 kg ağırlığındadır; küme toplamda ~30 × 15 cm masa alanı kaplar. Her ünite 240W harici PSU ile çalışır — küme toplam tüketim 480W, standart ofis prizinden karşılanır. 5-30°C çalışma sıcaklığı sayesinde ek soğutma veya data center altyapısı gerektirmez. Kurumsal ofis ortamında çalışmaya uygundur.

DGX Spark Cluster; 405B parametre gibi frontier modelleri yerel çalıştırmak isteyen AI araştırma ekipleri, üniversite laboratuvarları, LLM startup'ları, kurumsal ileri Ar-Ge birimleri ve büyük ölçekli dağıtık fine-tuning yapan veri bilimi takımları için idealdir. KVKK / HIPAA kapsamında bulut AI kullanamayan finans, sağlık ve savunma sektörü ekipleri için de on-premise frontier LLM altyapısı sağlar.

NVIDIA DGX Spark Cluster Paketi, Türkiye'de GTM Teknoloji'den temin edilir. GTM Teknoloji NVIDIA Partner Network (NPN) üyesi, Supermicro Türkiye resmi distribütörü ve Proxmox Silver Partner'dır. Küme paketi; 2 × DGX Spark teslimat, 200G QSFP56 DAC kablo, DGX OS dağıtık yapılandırması, NVIDIA AI Enterprise lisanslaması ve AI altyapı danışmanlığı kurumsal destek paketiyle birlikte sunulur. Teklif için iletişim formunu doldurabilirsiniz.