NVIDIA GB10 AI Cluster: 1 TB Bellek ve Düşük Güç Tüketimi
NVIDIA GB10 AI Cluster, sekiz GB10 sistemini bir araya getirerek yaklaşık 1 TB toplam bellek kapasitesi sunuyor. Dolayısıyla bu yapı, düşük güç tüketimiyle büyük yapay zeka modellerini yerel olarak çalıştırmayı hedefliyor.
8 NVIDIA GB10 ile 1 TB Bellek
Öncelikle belirtmek gerekir ki, NVIDIA GB10, Grace Blackwell mimarisini kompakt bir sistemde bir araya getiriyor. Buna ek olarak, her sistem 20 Arm çekirdeği, Blackwell GPU ve 128 GB LPDDR5X bellek içeriyor.
Sekiz sistem birlikte çalıştığında ise toplam bellek kapasitesi yaklaşık 1 TB‘a ulaşıyor. Ayrıca, toplam Arm çekirdeği sayısı da 160’a çıkıyor. Böylece, daha büyük yapay zeka modelleri için oldukça ölçeklenebilir bir altyapı ortaya çıkıyor.
400GbE ile Yüksek Hızlı AI Cluster Ağı
Sekiz GB10 sisteminin uyum içinde birlikte çalışması için elbette güçlü bir ağ altyapısı gerekiyor. Bu nedenle, proje ekibi MikroTik CRS804 DDQ switch kullanmayı tercih ediyor.
Özellikle 400GbE bağlantı, RDMA/RoCE altyapısıyla cluster düğümleri arasındaki iletişimi ciddi şekilde hızlandırıyor. Bunun sonucunda, sistemler yüksek bant genişliğiyle hızlıca veri alışverişi yapabiliyor.
Büyük AI Modelleri İçin Paylaşımlı Depolama
Diğer taraftan, büyük model dosyalarını sekiz farklı sisteme ayrı ayrı kopyalamak zaman ve depolama alanı açısından hiç de verimli değil.
İşte tam da bu yüzden, proje ekibi QNAP TS-h1290FX All-Flash NAS kullanıyor. Böylelikle, model dosyaları merkezi depolamada tutuluyor ve ardından sistemler verilere ağ üzerinden kolayca erişim sağlıyor.
Yönetim ve Depolama Trafiği Ayrı Ağda
Bununla birlikte, cluster içindeki trafik iki farklı ağ katmanına ayrılıyor. Örneğin, 400GbE bağlantı doğrudan yüksek hızlı GPU iletişimine hizmet ediyor.
Buna karşılık, 10GbE bağlantılar NAS erişimi, SSH ve sistem yönetimi için kullanılıyor.
Düşük Güç Tüketimiyle Büyük Modeller
Güç tüketimi tarafına baktığımızda, sekiz GB10 sistemi ve MikroTik switch boşta 400 W’ın altında güç tüketiyor. Hatta yönetim switch’i de eklendiğinde bu değer yaklaşık 430 W seviyesine çıkıyor.
Ancak, büyük model yükleri devreye girdiğinde toplam tüketim yaklaşık 900–950 W seviyesine ulaşıyor.
Eğer CPU yükünü artırırsanız, toplam tüketim yaklaşık 1,2 kW seviyesine kadar çıkabiliyor. Buna rağmen, GB10 tabanlı yapı, yüksek bellek kapasitesi isteyen AI iş yükleri için oldukça kompakt bir çözüm sunmaya devam ediyor.
NVIDIA GB10 ile Büyük Modelleri Yerel Çalıştırma
Aslında projenin temel hedeflerinden biri, büyük dil modellerini doğrudan yerel ortamda çalıştırmak. Nitekim ServeTheHome ekibi Kimi K2.5 ve Kimi K2.6 gibi büyük modelleri bizzat test etti.
Sonuç olarak bu yaklaşım, özellikle yerel LLM çalıştırma, model geliştirme ve AI agent testleri için büyük ölçüde dikkat çekiyor. Üstelik, kurumlar hassas verilerini dış bir servise göndermeden doğrudan kendi altyapılarında güvenle çalışabiliyor.
NVIDIA GB10 AI Cluster Neyi Gösteriyor?
Kısacası, sekiz GB10 sisteminden oluşan bu proje, yapay zeka altyapısında yalnızca GPU gücünün önemli olmadığını açıkça gösteriyor. Çünkü ağ, depolama ve sistem mimarisi de toplam performansı doğrudan etkiliyor.
Nihayetinde NVIDIA GB10 AI Cluster, yaklaşık 1 TB bellek kapasitesini düşük güç tüketimiyle başarılı bir şekilde bir araya getiriyor. Özetle bu yapı, büyük modelleri yerel olarak çalıştırmak isteyen kurumlar için son derece dikkat çekici bir alternatif oluşturuyor.
GB10 Tabanlı Yapay Zeka Sistemlerini Keşfedin
NVIDIA GB10 ve Grace Blackwell mimarisine dayanan AI sistemlerini inceleyin.
Projeniz için doğru GPU ve yapay zeka altyapısını birlikte değerlendirelim.
🔗 Kaynak:
ServeTheHome (STH), 27 Nisan 2026
— BIG AI Cluster Little Power: The 8x NVIDIA GB10 Cluster