Skip to main content
search

Yapay Zeka ve HPC’de Gelişmeyi Güçlendirmek

AMD Instinct MI300 Serisi Hızlandırıcılarla Desteklenen Yeni Optimize Edilmiş Veri Merkezi Çözümleri

Geniş Ölçekte Performans Gösterdiği Kanıtlanmış

Supermicro , büyük ölçekli yapay zeka ve HPC altyapısını geliştirmek için AMD Instinct  MI300 Serisi hızlandırıcılara sahip üç yeni GPU sistemini piyasaya sürüyor . AMD Instinct MI300X tarafından desteklenen yeni 8U 8 GPU sistemi , kanıtlanmış sistem mimarisi ve 1,5 TB HBM3 bellek kapasitesiyle en büyük yapay zeka modellerinin bile dağıtımını kolaylaştırır . 4U ve sıvı soğutmalı 2U Dört APU sistemleri, HPC ve yapay zekanın yakınlaşmasının üstesinden gelmek için ince ayarlı bir sistem için Supermicro’nun çok işlemcili topoloji ve soğutma tasarımındaki uzmanlığından yararlanır .

Yapay zeka ve HPC altyapısının yapı taşları olan dengeli sistem tasarımı, trilyonlara kadar parametreyle günümüzün en büyük dil modellerine uyacak şekilde düğümler ve raflar arasında yüksek bant genişliğine sahip geniş bir bellek havuzu sağlamak üzere GPU’yu 1:1 400G ağ bağlantısıyla ilişkilendirir. paralel hesaplamayı en üst düzeye çıkarmak ve eğitim süresini ve çıkarım gecikmesini en aza indirmek . Modern veri merkezleri, iş verimliliğini en üst düzeye çıkarmak için optimize edilmiş çözümler gerektirir: AMD Instinct MI300 Serisi hızlandırıcılara sahip Supermicro GPU sistemleri, raf ölçeğinde hem saniye başına işlemleri hem de watt başına performansı artırır .

Up to

3.4x

Single/Half Precision Performance

Up to

5.3 TB/s

Memory Bandwidth

Up to

1.5 TB

HBM3 Memory Per System

Supermicro systems with Quad MI300A

4x AMD CDNA ™ 3 GPU + Zen 4 CPU , toplam 512 GB HBM3
24 AMD ‘ Zen 4 ‘ CPU Çekirdeğini 228 AMD CDNA ™ 3 GPU hesaplama ünitesiyle birleştiren AMD Instinct ™ MI300A Hızlandırılmış İşlem Birimi (APU) , tek bir çipte 128 GB birleşik HBM3 belleği içerir .

MI300X’li Supermicro Sistemler

8x AMD CDNA ™ 3 GPU , toplam 1,5 TB HBM3
304 CDNA ™ 3 GPU işlem birimi ve GPU başına 192 GB HBM3 belleğe sahip sekiz adet AMD Instinct ™ MI300X Hızlandırıcı ve çift soketli AMD EPYC ™ 9004 Serisi İşlemciler içerir .

* Önceki nesil AMD Instinct MI250X GPU’lara göre 3,4 kat daha fazla tek duyarlıklı (FP32) ve yarı duyarlıklı (FP16) toplam teorik kayan nokta performansıyla geliştirilmiş HPC işleme

Büyük Ölçekli Yapay Zeka Eğitimi ve Çıkarımı

AMD Instinct MI300X Hızlandırıcılara Sahip 8U 8 GPU Sistemi

Endüstri standardı OCP Hızlandırılmış Modül (OAM) form faktörü için tamamen optimize edilen bu sistem, hızla gelişen yapay zeka altyapı gereksinimleri için benzersiz esneklik sağlar ve uygun ölçekte dağıtımı basitleştirir . Sunucu düğümü başına 1,5 TB’lık devasa bir HBM3 havuzu, fiziksel GPU belleğinde son derece büyük LLM’leri bile barındırarak , eğitim süresini en aza indirerek ve düğüm başına eşzamanlı çıkarım örneklerinin sayısını en üst düzeye çıkararak AI eğitim darboğazlarını siler . Tam ölçeklenebilirlik göz önünde bulundurularak tasarlanan sistem, devasa AI eğitim kümeleri için her bir GPU’ya doğrudan bağlantı sağlayan 8 adet yüksek hızlı 400G ağ kartını destekler .

AS-8125GS-TNMR2

AS-2145GH-TNMR

Kurumsal HPC ve Süper Bilgi İşlem

AMD Instinct MI300A Hızlandırıcılara Sahip Sıvı Soğutmalı 2U Dört APU Sistemi

Hızlandırılmış HPC iş yüklerini hedefleyen, sıvı soğutmalı bu 2U 4 yollu çoklu APU sistemi, 4 AMD Instinct  MI300A hızlandırıcıyı entegre eder. Her APU, yüksek performanslı AMD CPU , GPU ve HBM3 belleği tek bir sistemde toplam 912 AMD CDNA  3 GPU hesaplama birimi ve 96 “Zen 4” çekirdeği için birleştirir . Supermicro’nun doğrudan çipe özel sıvı soğutma teknolojisi, veri merkezi enerji maliyetinde %51’in üzerinde tasarrufla olağanüstü TCO sağlar . Ayrıca hava soğutmalı çözümlerle karşılaştırıldığında fan sayısında %70 oranında azalma vardır. Çift AIOM ve 400G ağ iletişimi ile optimize edilmiş raf ölçeği entegrasyonu, 48U rafta 21 adede kadar 2U sistem içeren yüksek yoğunluklu bir süper bilgi işlem kümesi oluşturur .

Birleşik HPC-AI ve Bilimsel Bilgi İşlem

AMD Instinct MI300A Hızlandırıcılara Sahip Hava Soğutmalı 4U Dört APU Sistemi

Supermicro AS -4145GH-TNMR, esnek dağıtım seçenekleri için hava soğutmalı 4U 4 yollu çoklu APU sistemidir . Yakınsanmış HPC-AI uygulamalarını üstlenmek için dengeli bir CPU- GPU oranına sahiptir ve çeşitli veri türü hassasiyetleri için iyi bir donanıma sahiptir. Ayrıca toplam 912 AMD CDNA  3 GPU bilgi işlem birimi , 96 ” Zen 4 ” çekirdeği ve 512 GB birleşik HBM3 bellek, paralelleştirilebilir iş yükleri için önemli performans sağlar. Bu sistemin mekanik hava akışı tasarımı, 10 adet ağır hizmet tipi 80 mm fana ek olarak termal kısmayı da uzak tutar .

AS-4145GH-TNMR

Yapay Zeka ve HPC için Optimize Edilmiş Çözümler

AMD Instinct ™ MI300 Serisi Hızlandırıcılara Sahip Supermicro Sistemler

 

Close Menu