Geniş Ölçekte Performans Gösterdiği Kanıtlanmış
Supermicro , büyük ölçekli yapay zeka ve HPC altyapısını geliştirmek için AMD Instinct ™ MI300 Serisi hızlandırıcılara sahip üç yeni GPU sistemini piyasaya sürüyor . AMD Instinct MI300X tarafından desteklenen yeni 8U 8 GPU sistemi , kanıtlanmış sistem mimarisi ve 1,5 TB HBM3 bellek kapasitesiyle en büyük yapay zeka modellerinin bile dağıtımını kolaylaştırır . 4U ve sıvı soğutmalı 2U Dört APU sistemleri, HPC ve yapay zekanın yakınlaşmasının üstesinden gelmek için ince ayarlı bir sistem için Supermicro’nun çok işlemcili topoloji ve soğutma tasarımındaki uzmanlığından yararlanır .
Yapay zeka ve HPC altyapısının yapı taşları olan dengeli sistem tasarımı, trilyonlara kadar parametreyle günümüzün en büyük dil modellerine uyacak şekilde düğümler ve raflar arasında yüksek bant genişliğine sahip geniş bir bellek havuzu sağlamak üzere GPU’yu 1:1 400G ağ bağlantısıyla ilişkilendirir. paralel hesaplamayı en üst düzeye çıkarmak ve eğitim süresini ve çıkarım gecikmesini en aza indirmek . Modern veri merkezleri, iş verimliliğini en üst düzeye çıkarmak için optimize edilmiş çözümler gerektirir: AMD Instinct MI300 Serisi hızlandırıcılara sahip Supermicro GPU sistemleri, raf ölçeğinde hem saniye başına işlemleri hem de watt başına performansı artırır .
Up to
3.4x
Single/Half Precision Performance
Up to
5.3 TB/s
Memory Bandwidth
Up to
1.5 TB
HBM3 Memory Per System
Supermicro systems with Quad MI300A
4x AMD CDNA ™ 3 GPU + Zen 4 CPU , toplam 512 GB HBM3
24 AMD ‘ Zen 4 ‘ CPU Çekirdeğini 228 AMD CDNA ™ 3 GPU hesaplama ünitesiyle birleştiren AMD Instinct ™ MI300A Hızlandırılmış İşlem Birimi (APU) , tek bir çipte 128 GB birleşik HBM3 belleği içerir .
MI300X’li Supermicro Sistemler
8x AMD CDNA ™ 3 GPU , toplam 1,5 TB HBM3
304 CDNA ™ 3 GPU işlem birimi ve GPU başına 192 GB HBM3 belleğe sahip sekiz adet AMD Instinct ™ MI300X Hızlandırıcı ve çift soketli AMD EPYC ™ 9004 Serisi İşlemciler içerir .
* Önceki nesil AMD Instinct MI250X GPU’lara göre 3,4 kat daha fazla tek duyarlıklı (FP32) ve yarı duyarlıklı (FP16) toplam teorik kayan nokta performansıyla geliştirilmiş HPC işleme
Büyük Ölçekli Yapay Zeka Eğitimi ve Çıkarımı
AMD Instinct MI300X Hızlandırıcılara Sahip 8U 8 GPU Sistemi
Endüstri standardı OCP Hızlandırılmış Modül (OAM) form faktörü için tamamen optimize edilen bu sistem, hızla gelişen yapay zeka altyapı gereksinimleri için benzersiz esneklik sağlar ve uygun ölçekte dağıtımı basitleştirir . Sunucu düğümü başına 1,5 TB’lık devasa bir HBM3 havuzu, fiziksel GPU belleğinde son derece büyük LLM’leri bile barındırarak , eğitim süresini en aza indirerek ve düğüm başına eşzamanlı çıkarım örneklerinin sayısını en üst düzeye çıkararak AI eğitim darboğazlarını siler . Tam ölçeklenebilirlik göz önünde bulundurularak tasarlanan sistem, devasa AI eğitim kümeleri için her bir GPU’ya doğrudan bağlantı sağlayan 8 adet yüksek hızlı 400G ağ kartını destekler .
AS-8125GS-TNMR2
AS-2145GH-TNMR
Kurumsal HPC ve Süper Bilgi İşlem
AMD Instinct MI300A Hızlandırıcılara Sahip Sıvı Soğutmalı 2U Dört APU Sistemi
Hızlandırılmış HPC iş yüklerini hedefleyen, sıvı soğutmalı bu 2U 4 yollu çoklu APU sistemi, 4 AMD Instinct ™ MI300A hızlandırıcıyı entegre eder. Her APU, yüksek performanslı AMD CPU , GPU ve HBM3 belleği tek bir sistemde toplam 912 AMD CDNA ™ 3 GPU hesaplama birimi ve 96 “Zen 4” çekirdeği için birleştirir . Supermicro’nun doğrudan çipe özel sıvı soğutma teknolojisi, veri merkezi enerji maliyetinde %51’in üzerinde tasarrufla olağanüstü TCO sağlar . Ayrıca hava soğutmalı çözümlerle karşılaştırıldığında fan sayısında %70 oranında azalma vardır. Çift AIOM ve 400G ağ iletişimi ile optimize edilmiş raf ölçeği entegrasyonu, 48U rafta 21 adede kadar 2U sistem içeren yüksek yoğunluklu bir süper bilgi işlem kümesi oluşturur .
Birleşik HPC-AI ve Bilimsel Bilgi İşlem
AMD Instinct MI300A Hızlandırıcılara Sahip Hava Soğutmalı 4U Dört APU Sistemi
Supermicro AS -4145GH-TNMR, esnek dağıtım seçenekleri için hava soğutmalı 4U 4 yollu çoklu APU sistemidir . Yakınsanmış HPC-AI uygulamalarını üstlenmek için dengeli bir CPU- GPU oranına sahiptir ve çeşitli veri türü hassasiyetleri için iyi bir donanıma sahiptir. Ayrıca toplam 912 AMD CDNA ™ 3 GPU bilgi işlem birimi , 96 ” Zen 4 ” çekirdeği ve 512 GB birleşik HBM3 bellek, paralelleştirilebilir iş yükleri için önemli performans sağlar. Bu sistemin mekanik hava akışı tasarımı, 10 adet ağır hizmet tipi 80 mm fana ek olarak termal kısmayı da uzak tutar .
AS-4145GH-TNMR
Yapay Zeka ve HPC için Optimize Edilmiş Çözümler
AMD Instinct ™ MI300 Serisi Hızlandırıcılara Sahip Supermicro Sistemler
 |
 |
 |
|
|---|---|---|---|
| Yapılandırma | AS-8125GS-TNMR2 (8U) | AS-2145GH-TNMR (2U) | AS-4145GH-TNMR (4U) |
| Form faktörü | AMD Instinct MI300X Hızlandırıcılara (hava soğutmalı) sahip 8U 8 GPU Sistemi | AMD Instinct MI300A Hızlandırıcılara sahip 2U 4 GPU Sistemi (sıvı soğutmalı) | AMD Instinct MI300A Hızlandırıcılara sahip 4U 4 GPU Sistemi (hava soğutmalı) |
| İşlemci | Soket başına 128 çekirdeğe/256 iş parçacığına kadar çift AMD EPYC 9004 Serisi İşlemciler | Toplam 96 CPU çekirdeğine (4x 24 AMD “Zen4” çekirdeği) sahip dörtlü AMD Instinct MI300A APU’lar | Toplam 96 CPU çekirdeğine (4x 24 AMD “Zen4” çekirdeği) sahip dörtlü AMD Instinct MI300A APU’lar |
| GPU | AMD Evrensel Ana Kartta (UBB 2.0) birbirine bağlanan, GPU başına 192 GB HBM3 belleğe sahip 8x AMD Instinct MI300X Hızlandırıcılar | APU başına 228 AMD CDNA 3 GPU hesaplama birimine sahip 4x AMD Instinct MI300A | APU başına 228 AMD CDNA 3 GPU hesaplama birimine sahip 4x AMD Instinct MI300A |
| Hafıza | 6 TB’a kadar (24x 256 GB DRAM) 4800MT/sn ECC DDR5 RDIMM/LRDIMM | 5,3 TB/s’ye kadar bant genişliğine sahip 512 GB birleşik HBM3 bellek | 5,3 TB/s’ye kadar bant genişliğine sahip 512 GB birleşik HBM3 bellek |
| Sürücüler | 16x çalışırken değiştirilebilir PCIe 5.0 U.2 NVMe, 1x yerleşik M.2 NVMe, 2x 2,5″ SATA | 2 adet yerleşik 2280 veya 22110 M.2 NVMe ve 8 adet çalışırken değiştirilebilir 2,5″ U.2 NVMe | 2 adet yerleşik 2280 veya 22110 M.2 NVMe ve 8 adet çalışırken değiştirilebilir 2,5″ U.2 NVMe veya 24x 2,5″ SAS/SATA |
| Ağ oluşturma | Ethernet veya InfiniBand ile 400G’ye kadar 8x PCIe 5.0 yüksek performanslı ağ kartı | 400G’ye kadar 2x AIOM (OCP 3.0) ve ek 4x PCIe 5.0 (x8) yuvaları | 400G’ye kadar 2x AIOM (OCP 3.0) ve ek 4x PCIe 5.0 (x8) yuvaları |
| Ara bağlantı | AMD Infinity Fabric™ Bağlantıları, 896 GB/s’ye kadar eşler arası GPU’lar arası bağlantı | AMD Infinity Fabric Links, 384 GB/sn’ye kadar eşler arası GPU’lar arası bağlantı | AMD Infinity Fabric Links, 384 GB/sn’ye kadar eşler arası GPU’lar arası bağlantı |
| Güç | 6x veya 8x 3000W yedekli Titanyum Seviyesi güç kaynakları | 4x 1600W yedekli Titanyum Seviyesi güç kaynakları | 4x 1600W yedekli Titanyum Seviyesi güç kaynakları |
| Soğutma | Hava Soğutma | Sıvı Soğutma | Hava Soğutma |