Selezione del server GPU xFusion: confronto tra G530 V5, G560 V5 e G5500 V6 per carichi di lavoro di intelligenza artificiale.

Seguici:
Presa rapida
I modelli xFusion G530 V5, G560 V5 e G5500 V6 non sono direttamente equivalenti. Il G530 V5 è un nodo di calcolo eterogeneo modulare a mezza larghezza, il G560 V5 è una piattaforma di calcolo multi-GPU a larghezza intera e il G5500 V6 è un server AI dual-socket 4U per carichi di lavoro GPU ad alta densità.

Scegliete tra questi server GPU xFusion in base alla topologia GPU, al tipo di carico di lavoro, alla memoria, allo storage, alla rete, all'alimentazione e ai requisiti di raffreddamento, non solo in base al numero di GPU. Un nodo di inferenza modulare, un server HPC a otto GPU e una piattaforma di deep learning ad alta densità potrebbero richiedere configurazioni molto diverse.

1. Questi tre server GPU xFusion non sono la stessa piattaforma
2. G530 V5 vs G560 V5 vs G5500 V6
3. Quando è più conveniente scegliere la G530 V5?
4. Quando è più conveniente scegliere la G560 V5?
5. Quando è più conveniente scegliere la G5500 V6?
6. La topologia della GPU è più importante del numero di GPU
7. Pianificazione di CPU e memoria
8. Requisiti di archiviazione e di rete
9. Alimentazione, raffreddamento e pianificazione del rack
10. Quale modello si adatta al tuo carico di lavoro di intelligenza artificiale?
11. Informazioni da includere in un preventivo per un server GPU
12. Domande frequenti
Hai bisogno della distinta base (BOM) del server GPU xFusion?

Condividi le specifiche della tua GPU, il carico di lavoro, la rete, lo spazio di archiviazione e i requisiti di alimentazione.

Questi tre server GPU xFusion non sono la stessa piattaforma

Un errore comune è quello di confrontare questi modelli solo in base al numero di GPU supportate. La loro progettazione fisica e il modello di implementazione previsto sono differenti.

Il G530 V5 è un nodo di calcolo eterogeneo a mezza larghezza. Supporta diversi rapporti CPU-GPU e fattori di forma della GPU, risultando quindi adatto a implementazioni modulari.

Il G560 V5 è una piattaforma di calcolo GPU a larghezza intera progettata per una configurazione multi-GPU più ampia. Il G5500 V6 è un server AI 4U completo con più spazio per storage, memoria, dispositivi PCIe, alimentatori e raffreddamento.

Per le opzioni di prodotto attuali, confronta Gamma di server GPU xFusion prima di selezionare una configurazione finale.

G530 V5 vs G560 V5 vs G5500 V6

La tabella seguente mostra le principali linee guida di selezione per ciascuna piattaforma. Si tratta di raccomandazioni di pianificazione, non di risultati prestazionali garantiti. La configurazione esatta di GPU, CPU, memoria, storage, rete e alimentazione deve essere confermata prima di richiedere un preventivo.

Modello Tipo di piattaforma Direzione GPU Uso consigliato Considerazione principale
xFusion G530 V5 Nodo di calcolo eterogeneo a mezza larghezza Configurazioni GPU a singolo o doppio slot a seconda del case e della disposizione delle GPU Inferenza AI modulare, nodi HPC ed espansione delle risorse GPU La quantità di GPU dipende in larga misura dal fattore di forma e dalla configurazione della GPU.
xFusion G560 V5 Nodo di calcolo GPU a larghezza intera Fino a otto GPU a doppia larghezza nella configurazione della piattaforma documentata Addestramento all'intelligenza artificiale, calcolo ad alte prestazioni (HPC), calcolo scientifico e rendering. Richiede un'attenta pianificazione per l'alimentazione della GPU, il raffreddamento e la topologia PCIe.
xFusion G5500 V6 Server AI dual-socket 4U Fino a otto GPU FHFL a doppia larghezza nella configurazione della piattaforma documentata Addestramento al deep learning, inferenza, analisi video e HPC Maggiori requisiti in termini di spazio rack, alimentazione e raffreddamento.

La descrizione di un prodotto potrebbe indicare una configurazione specifica dell'A100 con quattro GPU, mentre la documentazione della piattaforma potrebbe indicare una capacità massima di GPU superiore. Si tratta di informazioni diverse e non devono essere considerate intercambiabili.

Quando è più conveniente acquistare la G530 V5?

Il G530 V5 è particolarmente interessante quando il progetto richiede flessibilità piuttosto che un numero massimo fisso di GPU.

Il suo design eterogeneo a mezza larghezza supporta diverse configurazioni di CPU e GPU. A seconda del fattore di forma della GPU, la piattaforma può supportare più GPU a singolo slot o un numero inferiore di GPU a doppio slot di dimensioni maggiori.

Il G530 V5 potrebbe essere adatto alle seguenti implementazioni:

  • Nodi di inferenza AI
  • Cluster HPC modulari
  • Risorse GPU espanse per nodo
  • Equipaggiamento degli attrezzi
  • Implementazioni che richiedono GPUDirect RDMA o comunicazione GPU peer-to-peer
  • Progetti che possono utilizzare diversi fattori di forma della GPU

La questione fondamentale in fase di acquisto non è semplicemente quante GPU può supportare il G530 V5. È necessario verificare il modello della GPU, la larghezza dello slot, il livello di alimentazione, i requisiti di memoria e la topologia di interconnessione per la configurazione finale.

Una configurazione a otto GPU descritta in un elenco non rappresenta necessariamente la massima capacità della piattaforma. Verificare il numero esatto di GPU, il modello, l'alimentazione ausiliaria e il sistema di raffreddamento per il prodotto richiesto.

Quando è più conveniente acquistare la G560 V5?

La G560 V5 è più adatta a un nodo di calcolo GPU standalone a larghezza intera.

È progettato per una configurazione multi-GPU più ampia e supporta fino a otto GPU a doppia larghezza nella configurazione della piattaforma documentata. Rispetto a un nodo modulare a mezza larghezza, è più facile da posizionare come server dedicato all'addestramento AI o all'HPC con una topologia GPU coerente.

Il G560 V5 potrebbe essere adatto ai seguenti carichi di lavoro:

  • Formazione di apprendimento profondo
  • Simulazioni scientifiche
  • Carichi di lavoro HPC
  • Rendering
  • analisi dei dati
  • Nodi di calcolo dedicati multi-GPU

La sola capacità della GPU non determina le prestazioni di un'applicazione. Il progetto dovrebbe considerare anche la generazione della CPU, la capacità della memoria, la distribuzione delle linee PCIe, la comunicazione tra GPU, la larghezza di banda della scheda di rete, la velocità di trasferimento dello storage, l'alimentazione e il raffreddamento.

Quando è più conveniente acquistare la G5500 V6?

Il G5500 V6 è il candidato ideale quando il progetto richiede una piattaforma server AI più ampia ed espandibile.

La documentazione ufficiale del G5500 V6 descrive un server AI dual-socket 4U con processori Intel Xeon Scalable di terza generazione, 32 slot DIMM DDR4, supporto per un massimo di otto GPU FHFL a doppia larghezza, slot PCIe 4.0 x16 multipli e alimentatori ridondanti ad alta capacità.

La piattaforma potrebbe essere adatta per:

  • GPU a doppia larghezza ad alta densità
  • Requisiti di memoria di sistema più elevati
  • Schede di espansione PCIe multiple
  • Molteplici adattatori di rete ad alta velocità
  • Espansione della memoria locale
  • Alimentazione ridondante ad alta capacità
  • Funzionamento continuo di IA o HPC

Il principale compromesso riguarda i costi infrastrutturali. Un server GPU 4U richiede più spazio nel rack, maggiore capacità elettrica, un flusso d'aria più potente e una pianificazione termica più accurata rispetto a un nodo GPU compatto.

Per i limiti dettagliati della piattaforma, consultare il documentazione tecnica ufficiale di xFusion G5500 V6 prima di preparare una distinta base fissa.

La topologia della GPU è più importante del numero di GPU.

Due server con lo stesso numero di GPU possono fornire risultati diversi a causa della loro topologia interna.

Prima di approvare una configurazione, confermare i seguenti elementi:

  • Modello GPU e memoria GPU
  • Design a larghezza singola o doppia
  • Percorso di comunicazione da GPU a GPU
  • Generazione PCIe e allocazione delle corsie
  • Località NUMA CPU-GPU
  • Requisiti di alimentazione ausiliaria della GPU
  • Supporto alla comunicazione peer-to-peer
  • Supporto per GPUDirect RDMA ove necessario
  • Posizionamento e larghezza di banda della scheda di rete
  • Progettazione del sistema di raffreddamento sotto carico prolungato

Per i carichi di lavoro di addestramento, la comunicazione tra GPU e la velocità di trasmissione dei dati possono essere importanti quanto il numero effettivo di GPU. Per l'inferenza, la capacità di memoria della GPU, la concorrenza e la latenza di rete possono essere più importanti della velocità di trasmissione massima per l'addestramento.

Pianificazione di CPU e memoria

La CPU deve essere dimensionata in base al carico di lavoro che alimenta e gestisce le GPU.

  • generazione di CPU
  • Numero di socket CPU
  • Località CPU-GPU
  • Requisiti di preelaborazione lato host
  • Caricamento dei dati ed estrazione delle caratteristiche
  • Requisiti di virtualizzazione o multi-tenant
  • Capacità di memoria e popolazione dei canali di memoria

La pianificazione della memoria dovrebbe includere:

Memoria richiesta = Framework di intelligenza artificiale e memoria di sistema + memoria di preelaborazione dati + memoria di caricamento del modello + cache di archiviazione + spese generali di gestione + crescita futura

Non bisogna dare per scontato che un server GPU con più GPU necessiti automaticamente della configurazione massima di memoria di sistema. La dimensione corretta della memoria dipende dal modello, dal set di dati, dalla pipeline di preelaborazione, dal numero di processi simultanei e dal fatto che il server sia condiviso tra più utenti.

Requisiti di archiviazione e di rete

Pianificazione dello stoccaggio

I server AI spesso creano colli di bottiglia al di fuori del sottosistema GPU. Verificare se il server necessita di NVMe locale per i dataset o lo spazio di lavoro temporaneo, di storage SSD per i checkpoint del modello, di storage HDD o SATA ad alta capacità, di accesso allo storage condiviso o di connettività a file system paralleli.

Un server di addestramento che carica ripetutamente grandi set di dati potrebbe necessitare di un percorso di archiviazione più veloce, anche se le GPU sono sufficientemente potenti.

Pianificazione della rete

I requisiti di rete dipendono dal modello di implementazione:

  • Server di inferenza autonomo: valutare la connessione 10GbE o 25GbE in base al traffico dell'applicazione.
  • Formazione distribuita: valutare reti ad alta velocità e bassa latenza.
  • HPC multi-nodo: verificare i requisiti RDMA, RoCE o InfiniBand.
  • Archiviazione condivisa: dimensionare la rete per gestire il traffico simultaneo di archiviazione e applicazioni.
  • Piattaforma AI multi-tenant: gestione, archiviazione e traffico di produzione separati.

La selezione della scheda di rete deve essere convalidata rispetto al sistema operativo, al driver, al framework di comunicazione della GPU e alla matrice di commutazione a monte.

Alimentazione, raffreddamento e pianificazione dei rack

I server GPU non possono essere selezionati indipendentemente dall'ambiente del data center.

  • Unità rack disponibili
  • Profondità del rack e compatibilità con le guide
  • Distribuzione della tensione di ingresso e della potenza
  • Requisiti di alimentazione ridondanti
  • Assorbimento massimo di potenza
  • Direzione del flusso d'aria
  • Spazio di raffreddamento dalla parte anteriore a quella posteriore
  • Temperatura ambiente
  • progettazione termica della GPU
  • Accesso per manutenzione

Il G5500 V6 offre più spazio per GPU e capacità di espansione, ma ha anche un ingombro maggiore in termini di alimentazione e raffreddamento. Una configurazione più piccola, il G530 V5, potrebbe essere più facile da implementare in ambienti edge o in un cluster modulare, mentre il G560 V5 potrebbe rappresentare una soluzione più diretta per un nodo di calcolo multi-GPU dedicato.

Quale modello si adatta al tuo carico di lavoro di intelligenza artificiale?

Carico di lavoro Direzione consigliata Perché
Inferenza modulare dell'IA G530V5 Progettazione flessibile dei nodi e opzioni di topologia GPU
Risorse GPU espanse per nodo G530V5 Adatto per espansione modulare e a fasi
Nodo HPC a otto GPU G560V5 Piattaforma di calcolo multi-GPU a larghezza intera
Formazione specifica sull'apprendimento profondo G560 V5 o G5500 V6 Dipende dalla topologia della GPU, dalla memoria, dalla rete e dai requisiti di alimentazione.
Carichi di lavoro di intelligenza artificiale che richiedono molta memoria G5500V6 Maggiore capacità di memoria e di espansione PCIe.
Analisi video G5500V6 Adatto per l'elaborazione multi-GPU continuativa quando sono disponibili alimentazione e raffreddamento.
Informatica scientifica G560 V5 o G5500 V6 La selezione dipende dal modello della GPU, dalla memoria e dall'architettura del cluster.
Implementazione multi-GPU ad alta densità G5500V6 Più spazio nello chassis, maggiore capacità PCIe e opzioni di alimentazione.

Questi consigli descrivono la compatibilità con la piattaforma, non garantiscono le prestazioni. La scelta finale dipende dal modello di GPU, dallo stack software, dalle dimensioni del set di dati, dalla progettazione della rete, dall'architettura di archiviazione e dal budget energetico.

Informazioni da includere in un preventivo per un server GPU

Per preparare una distinta base utilizzabile, fornire un numero di GPU superiore a quello richiesto:

  • tipo di carico di lavoro IA
  • Addestramento, inferenza, calcolo ad alte prestazioni o uso misto
  • Modello GPU di destinazione
  • quantità GPU
  • Requisiti di memoria della GPU
  • Modello della CPU o obiettivo di prestazioni della CPU
  • Requisiti di memoria di sistema
  • Capacità e prestazioni di archiviazione locale
  • Velocità di rete e protocollo
  • Requisiti RDMA, RoCE o InfiniBand
  • Limitazioni di potenza e di spazio nel rack
  • Requisiti del sistema operativo e dei driver
  • Piano di espansione previsto
  • Copertura di garanzia e assistenza richiesta

Una richiesta che si limiti ad affermare "servono otto server GPU" non è sufficiente per verificare la configurazione finale.

Domande frequenti

Q1 Il G5500 V6 è sempre migliore del G530 V5 o del G560 V5?
No. Il G5500 V6 offre più spazio nello chassis e maggiori possibilità di espansione, ma richiede anche più potenza, raffreddamento e capacità rack. Un nodo modulare più piccolo potrebbe essere più adatto per l'inferenza o per l'implementazione graduale.
Q2 Il G530 V5 supporta sempre 16 GPU?
No. La capacità della piattaforma dipende dal fattore di forma della GPU. Il valore massimo si applica a determinate configurazioni di GPU a singolo slot, mentre le GPU a doppio slot riducono il numero di schede installabili.
Q3 Il G560 V5 è adatto all'addestramento di sistemi di intelligenza artificiale?
Può essere considerata per l'addestramento di IA e HPC quando il modello di GPU, la topologia della GPU, lo storage e la progettazione della rete soddisfano i requisiti del carico di lavoro. La configurazione finale della GPU deve essere convalidata prima dell'acquisto.
Q4 Perché una pagina prodotto e una scheda tecnica della piattaforma possono mostrare quantità diverse di GPU?
La scheda tecnica di una piattaforma solitamente descrive la configurazione massima supportata, mentre la pagina del prodotto può mostrare una configurazione specifica di fabbrica o di vendita. Il codice SKU richiesto deve essere verificato in entrambe le schede.
Q5 Cosa devo inviare per una revisione della configurazione del server GPU xFusion?
Invia il modello e la quantità di GPU, il tipo di carico di lavoro, i requisiti di memoria, la configurazione dello storage, il protocollo di rete, il limite di potenza, il sistema operativo e il piano di espansione. Il router-switch potrà quindi associare i requisiti a una distinta base (BOM) del server GPU xFusion.

Scegliere la piattaforma in base al carico di lavoro

I modelli G530 V5, G560 V5 e G5500 V6 dovrebbero essere considerati come piattaforme diverse, piuttosto che come una semplice classifica di prestazioni.

Scegli il G530 V5 per la modularità e la flessibilità della topologia GPU. Scegli il G560 V5 per un nodo di calcolo multi-GPU dedicato a larghezza intera. Scegli il G5500 V6 quando il progetto richiede GPU ad alta densità, maggiore memoria, connettività PCIe estesa e alimentazione ridondante per carichi di lavoro AI o HPC prolungati.