ASUS RS720A-E11/H100 GPU 90SKS000-M7BAN0 2U serveris 8x NVIDIA H100 GPU, dvigubas AMD EPYC, 24x 2,5 colio karšto keitimo diskų lizdai

Įsivaizduokite serverį, kuris gali apdoroti milžiniškus duomenų kiekius ir mokyti sudėtingiausius dirbtinio intelekto modelius – štai ką siūlo ASUS RS720A-E11/H100. Šis 2U aukščio serveris sukurtas tiems, kuriems reikia didžiausios skaičiavimo galios: jis talpina iki aštuonių NVIDIA H100 Tensor Core GPU, kurie yra tikri dirbtinio intelekto ir didelių duomenų analitikos darbymetiniai. Su dviem AMD EPYC procesoriais ir iki 4TB operatyviosios atminties, šis serveris puikiai tinka moksliniams tyrimams, duomenų centrams ir įmonėms, kurios nori paspartinti savo skaičiavimo užduotis.

Kam jis skirtas

Šis serveris yra idealus pasirinkimas duomenų mokslininkams, AI tyrėjams ir IT infrastruktūros komandoms, kurios diegia GPU reikalaujančias programas: didelių kalbos modelių mokymą, inferenciją, mokslines simuliacijas ar didelio našumo kompiuterijos klasterius. Jis taip pat puikiai tinka įmonėms, ieškančioms tankios, keičiamo dydžio platformos virtualiųjų darbalaukių infrastruktūrai (VDI) ar hibridiniam debesijai.

Pagrindiniai privalumai

• Palaiko iki 8 dviejų lizdų PCIe Gen4 x16 GPU, įskaitant NVIDIA H100 ir A100, užtikrinančius milžinišką lygiagretųjį skaičiavimą.
• Dvigubo lizdo AMD SP3 konstrukcija, suderinama su EPYC 7003 ir 7002 serijų procesoriais, suteikianti iki 128 branduolių ir 256 gijų viename mazge.
• 32 DIMM lizdai, palaikantys iki 4TB DDR4 3200MHz ECC RDIMM/LRDIMM, skirti atminties reikalaujančioms užduotims.
• 24 priekiniai 2,5 colio karšto keitimo diskų lizdai: 12 lizdų palaiko NVMe/SATA/SAS, o 12 – SATA/SAS, užtikrinantys lankstų saugojimą.
• Pertekliniai 2200W 80 PLUS Platinum maitinimo šaltiniai užtikrina aukštą efektyvumą ir nenutrūkstamą veikimą.
• Apgalvota šilumos valdymo sistema su 8 karšto keitimo 60x60mm ventiliatoriais ir optimizuotu oro srautu tankioms GPU konfigūracijoms.
• Integruotas ASMB10-iKVM su IPMI 2.0 nuotolinei priežiūrai bei du 10GbE LAN prievadai didelės spartos tinklui.
• Išplėtimo galimybės: 8 PCIe Gen4 x16 lizdai GPU, 2 papildomi PCIe Gen4 x16 lizdai ir 1 OCP 3.0 Gen4 x16 lizdas.

Pagrindinės specifikacijos

• Forma: 2U stelažinis
• CPU lizdai: 2 x Socket SP3
• Palaikomi CPU: AMD EPYC 7003/7002 serijos procesoriai
• Lustų rinkinys: AMD SP3
• Atmintis: 32 x DIMM lizdai, iki 4TB DDR4 3200MHz ECC RDIMM/LRDIMM
• GPU palaikymas: iki 8 x dviejų lizdų PCIe Gen4 x16 GPU (NVIDIA H100, A100)
• Saugyklos lizdai: 24 x 2,5 colio karšto keitimo (12x NVMe/SATA/SAS, 12x SATA/SAS)
• PCIe išplėtimas: 8 x PCIe Gen4 x16 (GPU), 2 x PCIe Gen4 x16 (kitos kortos)
• OCP lizdas: 1 x OCP 3.0 Gen4 x16
• Tinklas: 2 x 10GbE LAN (Intel X710-AT2 arba atitikmuo)
• Valdymas: ASMB10-iKVM (IPMI 2.0)
• Maitinimas: 2 x 2200W 80 PLUS Platinum pertekliniai
• Aušinimas: 8 x karšto keitimo 60x60mm ventiliatoriai
• Priekinės I/O: 2 x USB 3.2 Gen1
• Galinės I/O: 2 x USB 3.2 Gen1, 1 x VGA, 1 x COM, 2 x 10GbE LAN, 1 x valdymo LAN
• OS palaikymas: Windows Server, Linux (RHEL, SLES, Ubuntu), VMware ESXi

Kaip naudoti ir patarimai

Prieš montuodami H100 GPU, įsitikinkite, kad jūsų patalpos gali užtikrinti pakankamą maitinimą ir aušinimą – kiekvienas GPU gali sunaudoti iki 700W. Naudokite NVMe diskus priekiniuose lizduose, kad užtikrintumėte didelės spartos duomenų prieigą ir GPU nebadytų duomenų. Nuotolinei priežiūrai konfigūruokite atskirą valdymo LAN prievadą, kad IPMI srautas būtų izoliuotas nuo duomenų srauto – tai padidins saugumą.

Patarimas: jei planuojate intensyvų AI mokymą, apsvarstykite galimybę naudoti „InfiniBand“ tinklą duomenų mainams tarp serverių, kad sumažintumėte kliūtis.