PNY NVIDIA H200 NVL PCIe 141GB HBM3e Accelerator

Duomenų centrams ir įmonėms, kurių AI modeliai ar HPC skaičiavimai nuolat atsitrenkia į atminties ribas, PNY NVIDIA H200 NVL PCIe 141GB HBM3e Accelerator yra sprendimas, kuris perkelia didžiausius darbo krūvius į visiškai naują lygį. Vietoj įprastų 80 GB talpos, šis akceleratorius siūlo milžiniškus 141 GB HBM3e atminties ir 6,7 TB/s pralaidumą, todėl didžiausi modeliai ir duomenų rinkiniai telpa tiesiog ant plokštės – nereikia nuolat krauti duomenų iš pagrindinės atminties. Tai NVIDIA Hopper architektūros, 4-os kartos Tensor Core ir PCIe 5.0 x16 sąsajos derinys, sukurtas profesionalams, kuriems reikia maksimalaus našumo be kompromisų.

Privalumai jūsų infrastruktūrai

• NVIDIA Hopper architektūra su 4-os kartos Tensor Core – užtikrina itin spartų AI mokymą ir didelės apimties inferenciją.
• 141 GB HBM3e atmintis su 6,7 TB/s pralaidumu – leidžia apdoroti didelius duomenų rinkinius ir modelius be atminties trūkumo.
• PCI Express 5.0 x16 sąsaja – užtikrina greitą duomenų perdavimą tarp GPU ir pagrindinės sistemos.
• Iki 7 MIG (Multi-Instance GPU) egzempliorių – efektyvus GPU dalijimasis kelioms komandoms ar užduotims, užtikrinant saugų izoliavimą.
• 4-os kartos NVLink palaikymas – galimybė sujungti kelis GPU tilteliais ir taip dar labiau padidinti našumą.
• Pasyvus aušinimas – skirtas sistemoms su geru oro srautu, užtikrina tylų ir patikimą darbą duomenų centruose.

Kam šis akceleratorius tinka

Šis produktas skirtas įmonėms, dirbančioms su dirbtiniu intelektu, mašininiu mokymusi, didelių duomenų analitika ir moksliniais skaičiavimais. Jis puikiai tinka didelių kalbos modelių (LLM) mokymui, rekomendacijų sistemoms, vaizdo analitikai ir sudėtingiems HPC scenarijams. Dėl PCIe formos faktoriaus jis lengvai integruojamas į standartinius serverius, todėl nereikia specializuotos infrastruktūros.

Pagrindinės specifikacijos

• GPU architektūra: NVIDIA Hopper H200
• Atminties talpa: 141 GB HBM3e
• Atminties pralaidumas: 6,7 TB/s
• Atminties sąsaja: 6144 bitų
• Sąsaja: PCI Express 5.0 x16
• Tensor Core: 4-os kartos
• FP8 Tensor Core našumas (sparse): 3958 TFLOPS
• FP16 Tensor Core našumas (sparse): 1979 TFLOPS
• FP64 našumas: 67 TFLOPS
• Šilumos dizaino galia (TDP): iki 700 W
• Formos faktorius: dviejų lizdų, viso aukščio, viso ilgio (FHFL) PCIe kortelė
• Aušinimas: pasyvus (reikalauja sistemos oro srauto)
• MIG: iki 7 GPU egzempliorių
• NVLink: 4-os kartos
• Maitinimo jungtys: 2x 16 kontaktų (12VHPWR)
• Tranzistoriai: 80 milijardų
• Gamybos procesas: TSMC 4N Custom

Kaip naudoti

Įdiekite kortelę į laisvą PCIe 5.0 x16 lizdą standartiniame serveryje, įsitikinkite, kad sistema turi pakankamą oro srautą (pasyviam aušinimui), ir prijunkite maitinimą per 12VHPWR jungtis. Po to įdiekite NVIDIA tvarkykles ir CUDA bibliotekas. MIG funkciją galite sukonfigūruoti per NVIDIA valdymo įrankius, kad padalintumėte GPU į kelis izoliuotus egzempliorius skirtingoms užduotims. NVLink tiltelius galite naudoti kelių GPU sujungimui, jei jūsų serveris tai palaiko.

Pabaigai

Duomenų centrams, kuriems reikia maksimalios atminties talpos ir pralaidumo standartiniame PCIe formate, PNY NVIDIA H200 NVL yra patikimas pasirinkimas. Pasyvus aušinimas reikalauja tinkamo oro srauto serveryje, tačiau atlygis – tylus, didelio tankio skaičiavimo sprendimas, paruoštas sudėtingiausioms AI ir HPC užduotims.