NVIDIA GB10 AI Cluster: 1 TB Bellek ve Düşük Güç Tüketimi
NVIDIA GB10 AI Cluster, sekiz GB10 sistemini bir araya getirerek yaklaşık 1 TB toplam bellek kapasitesi sunuyor. Bu yapı, düşük güç tüketimiyle büyük yapay zeka modellerini yerel olarak çalıştırmayı hedefliyor.
GB10 Sistemi
Toplam Bellek
Cluster Ağı
Yaklaşık Tüketim
8 NVIDIA GB10 ile 1 TB Bellek
NVIDIA GB10, Grace Blackwell mimarisini kompakt bir sistemde bir araya getiriyor. Her sistem 20 Arm çekirdeği, Blackwell GPU ve 128 GB LPDDR5X bellek içeriyor.
Sekiz sistem birlikte çalıştığında toplam bellek kapasitesi yaklaşık 1 TB‘a ulaşıyor. Ayrıca toplam Arm çekirdeği sayısı 160’a çıkıyor. Böylece daha büyük yapay zeka modelleri için ölçeklenebilir bir altyapı ortaya çıkıyor.
400GbE ile Yüksek Hızlı AI Cluster Ağı
Sekiz GB10 sisteminin birlikte çalışması için güçlü bir ağ altyapısı gerekiyor. Bu nedenle proje ekibi MikroTik CRS804 DDQ switch kullanıyor.
400GbE bağlantı, RDMA/RoCE altyapısıyla cluster düğümleri arasındaki iletişimi hızlandırıyor. Böylece sistemler yüksek bant genişliğiyle veri alışverişi yapabiliyor.
Büyük AI Modelleri İçin Paylaşımlı Depolama
Büyük model dosyalarını sekiz farklı sisteme ayrı ayrı kopyalamak zaman ve depolama alanı açısından verimli değil.
Bu nedenle proje ekibi QNAP TS-h1290FX All-Flash NAS kullanıyor. Model dosyaları merkezi depolamada tutuluyor ve sistemler verilere ağ üzerinden erişiyor.
Yönetim ve Depolama Trafiği Ayrı Ağda
Cluster içindeki trafik iki farklı ağ katmanına ayrılıyor. 400GbE bağlantı yüksek hızlı GPU iletişimine hizmet ediyor.
Buna karşılık 10GbE bağlantılar NAS erişimi, SSH ve sistem yönetimi için kullanılıyor.
Düşük Güç Tüketimiyle Büyük Modeller
Sekiz GB10 sistemi ve MikroTik switch boşta 400 W’ın altında güç tüketiyor. Yönetim switch’i de eklendiğinde değer yaklaşık 430 W seviyesine çıkıyor.
Büyük model yüklerinde ise toplam tüketim yaklaşık 900–950 W seviyesine ulaşıyor.
CPU yükünü artırdığınızda toplam tüketim yaklaşık 1,2 kW seviyesine çıkabiliyor. Buna rağmen GB10 tabanlı yapı, yüksek bellek kapasitesi isteyen AI iş yükleri için kompakt bir çözüm sunuyor.
NVIDIA GB10 ile Büyük Modelleri Yerel Çalıştırma
Projenin temel hedeflerinden biri büyük dil modellerini yerel ortamda çalıştırmak. ServeTheHome ekibi Kimi K2.5 ve Kimi K2.6 gibi büyük modelleri test etti.
Bu yaklaşım özellikle yerel LLM çalıştırma, model geliştirme ve AI agent testleri için dikkat çekiyor. Ayrıca kurumlar hassas verileri dış bir servise göndermeden kendi altyapılarında çalışabilir.
Büyük modeller kurum içinde çalıştırılabilir.
Birden fazla GB10 sistemi birlikte çalışabilir.
Farklı modeller gerçek iş akışlarında denenebilir.
Hassas veriler kurum içinde tutulabilir.
NVIDIA GB10 AI Cluster Neyi Gösteriyor?
Sekiz GB10 sisteminden oluşan proje, yapay zeka altyapısında yalnızca GPU gücünün önemli olmadığını gösteriyor. Ağ, depolama ve sistem mimarisi de toplam performansı etkiliyor.
Sonuç olarak NVIDIA GB10 AI Cluster, yaklaşık 1 TB bellek kapasitesini düşük güç tüketimiyle bir araya getiriyor. Bu yapı, büyük modelleri yerel olarak çalıştırmak isteyen kurumlar için dikkat çekici bir alternatif oluşturuyor.
GB10 Tabanlı Yapay Zeka Sistemlerini Keşfedin
NVIDIA GB10 ve Grace Blackwell mimarisine dayanan AI sistemlerini inceleyin.
Projeniz için doğru GPU ve yapay zeka altyapısını birlikte değerlendirelim.
🔗 Kaynak:
ServeTheHome (STH), 27 Nisan 2026
— BIG AI Cluster Little Power: The 8x NVIDIA GB10 Cluster