Con la rapida evoluzione delle infrastrutture di intelligenza artificiale, le prestazioni di rete sono diventate importanti quanto la potenza di calcolo. I carichi di lavoro moderni, come l'addestramento di modelli linguistici su larga scala (LLM), l'IA generativa e il calcolo ad alte prestazioni (HPC), richiedono latenza estremamente bassa, larghezza di banda elevata e comunicazioni prevedibili tra migliaia di GPU. Di conseguenza, molte organizzazioni stanno sostituendo le tradizionali reti InfiniBand con reti di nuova generazione a 400G. Lo switch NVIDIA Quantum-2 MQM9790-NS2F è stato progettato specificamente per questi ambienti. In quanto switch InfiniBand NDR a 64 porte e 400 Gb/s, offre un throughput eccezionale, funzionalità di calcolo in rete avanzate e la scalabilità necessaria per le AI factory, le implementazioni NVIDIA DGX SuperPOD e i grandi cluster HPC. Questa guida illustra le specifiche dell'MQM9790-NS2F, ne evidenzia i principali vantaggi rispetto agli switch HDR di precedente generazione e delinea le considerazioni tecniche e di acquisto più importanti prima di implementare una rete Quantum-2.
Perché i cluster di intelligenza artificiale stanno migrando a Quantum-2?
Con la continua crescita dei modelli di intelligenza artificiale, la comunicazione tra le GPU è diventata un importante collo di bottiglia per le prestazioni. Durante l'addestramento distribuito, le GPU si scambiano costantemente gradienti e dati di sincronizzazione. Se la rete non riesce a tenere il passo, le costose risorse delle GPU rimangono inattive in attesa del completamento della comunicazione.
Rispetto alla precedente generazione di HDR InfiniBand, Quantum-2 aumenta significativamente la larghezza di banda, riducendo al contempo la latenza e migliorando l'efficienza della comunicazione collettiva. Questi miglioramenti consentono alle organizzazioni di:
- Accelerare l'addestramento distribuito dell'IA
- Migliorare l'utilizzo della GPU
- Ridurre i ritardi di sincronizzazione
- Scalabilità dei cluster da centinaia a migliaia di GPU
- Supportare le future infrastrutture di intelligenza artificiale senza riprogettare la rete
Per le aziende che investono in piattaforme GPU basate su NVIDIA H100, H200 o Blackwell, Quantum-2 fornisce le fondamenta di rete necessarie per la scalabilità a lungo termine.
Specifiche della NVIDIA Quantum-2 MQM9790-NS2F
Il modello MQM9790-NS2F è progettato come interruttore a lamelle o a spina dorsale ad alta densità per tessuti NDR InfiniBand.
Specifiche rapide
| Specificazione | MQM9790-NS2F |
|---|---|
| Architettura | NVIDIAQuantum-2 |
| Velocità InfiniBand | Rapporto di mancato recapito 400 Gb/s |
| Conteggio effettivo delle porte | 64 porte NDR |
| Connettori fisici | 32 gabbie OSFP a doppia porta |
| Capacità di commutazione | 51.2 cucchiaio al secondo |
| Fattore di forma | 1U |
| Management | non gestito |
| Ventilazione | Alimentazione-connettore (P2C) |
| Ruolo di distribuzione | Foglia o spina |
Verifica la disponibilità, confronta le opzioni o parla con il nostro team.
Design ad alta densità a 64 porte
Sebbene comunemente indicato come switch NDR a 64 porte, l'MQM9790-NS2F presenta fisicamente 32 alloggiamenti OSFP (Octal Small Form-factor Pluggable). Ciascun alloggiamento OSFP supporta due connessioni NDR indipendenti da 400 Gb/s tramite il design a doppia porta di NVIDIA, fornendo un totale effettivo di 64 porte NDR all'interno di uno chassis compatto da 1U. Questa architettura offre un'eccezionale densità di porte, riducendo al minimo lo spazio occupato nel rack e semplificando le implementazioni di reti su larga scala.
Capacità di commutazione non bloccante di 51.2 Tbps
L'ASIC Quantum-2 offre una capacità di commutazione aggregata di 51.2 Tbps, consentendo la comunicazione simultanea tra migliaia di GPU senza creare colli di bottiglia nella rete. L'architettura non bloccante è particolarmente vantaggiosa per:
- Formazione sul modello linguistico ampio
- Carichi di lavoro di apprendimento profondo
- Comunicazione GPU distribuita
- Simulazione scientifica
- Applicazioni MPI di grandi dimensioni
Reti a bassissima latenza
Le applicazioni di intelligenza artificiale distribuite si basano sulla sincronizzazione continua tra i nodi GPU. Anche piccoli aumenti di latenza possono ridurre l'efficienza complessiva del cluster. Quantum-2 riduce al minimo i ritardi di comunicazione offrendo un inoltro di pacchetti deterministico a bassissima latenza, consentendo una maggiore efficienza di scalabilità in ambienti GPU di grandi dimensioni.
Calcolo in rete SHARP potenziato
Quantum-2 potenzia la tecnologia SHARP (Scalable Hierarchical Aggregation and Reduction Protocol) di NVIDIA. Invece di instradare le operazioni collettive attraverso CPU o GPU, SHARP esegue le operazioni di riduzione direttamente all'interno della rete, ottenendo i seguenti risultati:
- Comunicazione collettiva più rapida
- Ridotto sovraccarico della CPU
- Maggiore utilizzo della GPU
- Prestazioni MPI migliorate
- Tempi di addestramento dell'IA più brevi
MQM9790-NS2F vs. Quantum HDR: quali sono le novità?
Le organizzazioni che aggiornano i propri ambienti HPC spesso confrontano lo switch MQM9790-NS2F con gli switch Quantum HDR di precedente generazione, come l'MQM8790-HS2F.
| Specificazione | MQM9790-NS2F | Modello MQM8790-HS2F |
|---|---|---|
| Architettura | Quantum-2 | HDR quantistico |
| Velocità massima | Rapporto di mancato recapito a 400 Gb/s | HDR a 200 Gb/s |
| Numero di porte | 64 | 40 |
| Capacità di commutazione | 51.2 cucchiaio al secondo | 16 cucchiaio al secondo |
| Tipo connettore | OSFP | QSFP56 |
| Informatica in rete | Sharp migliorato | Supporto SHARP |
| Distribuzione tipica | Fabbriche di IA, DGX SuperPOD | Cluster HPC tradizionali |
Il passaggio da HDR a Quantum-2 non si limita a un semplice aumento della larghezza di banda. Introduce anche un nuovo standard di connettività fisica, una maggiore densità di porte e una scalabilità notevolmente migliorata per i carichi di lavoro incentrati sull'intelligenza artificiale.
Considerazioni sulla distribuzione
Comprendere l'architettura non gestita
Una caratteristica importante dell'MQM9790-NS2F è che si tratta di uno switch InfiniBand non gestito. A differenza delle piattaforme Quantum-2 gestite, non include una CPU integrata in grado di eseguire il Subnet Manager (OpenSM). La gestione della sottorete deve quindi essere fornita da:
- Un server host dedicato
- Un'istanza OpenSM esterna
- Uno switch Quantum-2 gestito distribuito all'interno della stessa infrastruttura
Questa progettazione riduce la complessità hardware consentendo al contempo allo switch di funzionare come un dispositivo di inoltro altamente efficiente.
Topologia di rete tipica
Il MQM9790-NS2F è comunemente impiegato in cluster di addestramento per l'intelligenza artificiale, ambienti NVIDIA DGX SuperPOD, infrastrutture AI aziendali e centri di ricerca HPC. A seconda dell'architettura di rete, può fungere da switch leaf ad alta densità o da parte di una struttura spine-leaf scalabile.
La sua architettura a 64 porte consente inoltre agli architetti di realizzare ampie topologie Fat-Tree o DragonFly+ non bloccanti con un minor numero di livelli di commutazione, riducendo il numero di hop e la latenza complessiva.
Ecosistema compatibile
La scelta dello switch è solo una parte della creazione di un'infrastruttura di intelligenza artificiale. La compatibilità dell'intero stack di rete è altrettanto importante.
| Componente | Raccomandazione tipica |
|---|---|
| Server GPU | Piattaforme NVIDIA DGX H100, DGX H200, DGX B200, HGX |
| Scheda di rete | NVIDIA ConnectX-7 NDR |
| Modulo ottico | Ricetrasmettitori NDR OSFP |
| Cavo di collegamento diretto | Cavi a doppia porta NDR DAC |
| Cavo ottico attivo | Cavi a doppia porta NDR AOC |
| Software per tessuti | OpenSM / NVIDIA UFM |
La creazione di una rete InfiniBand NDR affidabile richiede molto più della semplice scelta dello switch giusto. La compatibilità tra switch Quantum-2, adattatori ConnectX-7, transceiver OSFP, cavi DAC/AOC a doppia porta e server GPU deve essere verificata prima dell'implementazione per ridurre al minimo i rischi di integrazione.
Per i progetti di IA aziendale, Router-switch.comIl team di ingegneri certificato CCIE di può esaminare la distinta base completa (BOM), verificare la compatibilità end-to-end e contribuire a ottimizzare la progettazione complessiva della rete prima dell'acquisto, riducendo la probabilità di costose modifiche di configurazione durante l'implementazione.
Considerazioni sugli appalti
L'acquisto di uno switch InfiniBand non si limita al confronto delle specifiche hardware. Un'implementazione di successo richiede un'attenta pianificazione che tenga conto della progettazione della rete, della compatibilità e della tempistica del progetto.
Piano per la crescita futura
I cluster di intelligenza artificiale raramente rimangono statici. La scelta di una piattaforma di switching che supporti l'espansione futura riduce la necessità di aggiornamenti infrastrutturali invasivi man mano che aumenta la capacità delle GPU.
Adattare il flusso d'aria al data center
Il modello MQM9790-NS2F utilizza un flusso d'aria Power-to-Connector (P2C). Prima dell'installazione, verificare che la direzione del flusso d'aria sia allineata con la strategia di contenimento dei corridoi caldi e freddi, in particolare nei rack AI ad alta densità.
Convalidare la strategia di cablaggio
Poiché lo switch utilizza 32 alloggiamenti OSFP a doppia porta, le organizzazioni devono pianificare attentamente la selezione dei cavi in base ai requisiti di connettività dei server. A seconda della distanza di installazione, è necessario selezionare soluzioni DAC NDR, AOC o ottiche adeguate per garantire prestazioni ottimali.
Considera la disponibilità del prodotto
I progetti di infrastrutture per l'IA spesso operano con tempistiche di implementazione molto stringenti, in cui i ritardi nelle apparecchiature di rete possono posticipare l'intera implementazione del cluster, anche se i server GPU sono già installati.
Collaborare con un fornitore affidabile che offre hardware di rete aziendale autentico al 100%, inventario di magazzino globale e consegne rapide in tutto il mondo può aiutare a mantenere i tempi di implementazione nei limiti previsti. Per le organizzazioni che creano infrastrutture AI multi-vendor, Router-switch.com Offre inoltre prezzi competitivi per i progetti e un approvvigionamento coordinato di switch, componenti ottici, adattatori di rete e cablaggi per semplificare gli acquisti.
Conclusione
La NVIDIA Quantum-2 MQM9790-NS2F rappresenta un importante passo avanti nel networking InfiniBand per l'intelligenza artificiale e l'HPC. Con 64 porte NDR effettive da 400 Gb/s, 51.2 Tbps di capacità di switching non bloccante, latenza ultra-bassa e funzionalità di elaborazione in rete SHARP avanzate, offre le prestazioni e la scalabilità necessarie per le moderne fabbriche di intelligenza artificiale, le implementazioni DGX SuperPOD e gli ambienti di ricerca su larga scala.
Oltre alle prestazioni degli switch, una rete AI di successo dipende dalla selezione di componenti compatibili per l'intera infrastruttura, dai server GPU e dagli adattatori ConnectX ai moduli ottici, ai cavi e al software di gestione della rete. Un'attenta pianificazione durante le fasi di progettazione e approvvigionamento contribuisce a ridurre i rischi di implementazione, garantendo al contempo che la rete possa scalare in base ai futuri carichi di lavoro AI.
Che si tratti di costruire un nuovo cluster AI o di effettuare l'aggiornamento da Quantum HDR a Quantum-2, la validazione della soluzione completa prima dell'acquisto è una buona prassi che può far risparmiare tempo e costi significativi durante l'intero ciclo di vita del progetto.