Ekstrem AI-ytelse i ett system. Dell PowerEdge XE9680 kombinerer 8 × NVIDIA H100 80GB SXM GPU-er med NVLink, massive mengder DDR5-minne og enterprise-klasse nettverk for trening og inferens av store AI-modeller.
Dette er bestillingsvare, og noe leveringstid må påregnes.
AI-ytelse i toppklasse
Dell PowerEdge XE9680 er en av de mest kraftige AI-serverne som finnes på markedet. Systemet er utstyrt med 8 × NVIDIA H100 80GB SXM GPU-er montert på et HGX-baseboard med full NVLink-kobling mellom alle GPU-ene. Dette gir ekstrem intern båndbredde og gjør det mulig å trene og kjøre store språkmodeller langt mer effektivt enn på systemer uten NVLink.
Med totalt 640 GB samlet GPU-minne kan systemet håndtere svært store modeller direkte i GPU-minne, noe som reduserer behovet for CPU- eller disk-offloading og gir betydelig høyere ytelse under trening og inferens.
Massiv CPU- og minnekapasitet
Serveren drives av dual Intel Xeon Platinum 8462Y+ prosessorer med 32 kjerner hver, optimalisert for høy minnebåndbredde og tung parallell behandling. Sammen med 2 TB DDR5 ECC-minne gir dette en plattform som enkelt håndterer dataloading, pre-prosessering og CPU-tunge HPC-oppgaver uten å bli en flaskehals for GPU-ene.
DDR5-4800 ECC-minnet er konfigurert i 32 moduler for maksimal båndbredde og stabilitet under lange AI-treningsjobber.
Enterprise nettverk og lagring
Serveren er utstyrt med Mellanox ConnectX-7 nettverkskort, utviklet for ekstrem datagjennomstrømning i AI- og HPC-klynger. Dette gjør systemet godt egnet til distribuerte treningsmiljøer der flere GPU-noder samarbeider over høyhastighetsnettverk.
For lagring leveres systemet med 2 × 7,68 TB NVMe Gen4 SSD samt støtte for opptil 8 NVMe-disker i front. Dette gir høy I/O-ytelse ved håndtering av store datasett, modellvekter og checkpoint-lagring.
Designet for kontinuerlig drift
PowerEdge XE9680 er konstruert for datarom og AI-infrastruktur som kjører kontinuerlig under høy belastning. Serveren har 6 × 2800 W redundant strømforsyning og et avansert kjølesystem utviklet for å holde alle komponenter stabile selv under maksimal GPU-belastning.
Administrasjon skjer via iDRAC9 Enterprise, som gir full fjernstyring av serveren – inkludert strømstyring, BIOS-konfigurasjon, firmwareoppdateringer og KVM-tilgang via dedikert nettverksport.
Stand og levering
Serveren er rekondisjonert og grundig testet før levering. Alle komponenter er verifisert for stabil drift under belastning, og testrapport følger med hver enhet.
Dette er bestillingsvare, og noe leveringstid må påregnes.
Passer godt til: trening av store språkmodeller (LLM), finjustering av AI-modeller, GPU-akselerert HPC, maskinlæring i stor skala, inferens-servere og forskningsmiljøer som krever ekstrem GPU-kapasitet.
