Yapay zeka altyapısı hızla gelişirken, ağ performansı da işlem gücü kadar önemli hale geldi. Büyük dil modeli (LLM) eğitimi, üretken yapay zeka ve yüksek performanslı hesaplama (HPC) gibi modern iş yükleri, ultra düşük gecikme süresi, devasa bant genişliği ve binlerce GPU arasında öngörülebilir iletişim gerektiriyor. Sonuç olarak, birçok kuruluş eski InfiniBand ağlarını yeni nesil 400G ağlarla değiştiriyor. NVIDIA Quantum-2 MQM9790-NS2F, bu ortamlar için özel olarak tasarlanmıştır. 64 portlu NDR 400Gb/s InfiniBand anahtarı olarak, olağanüstü verim, gelişmiş ağ içi hesaplama ve yapay zeka fabrikaları, NVIDIA DGX SuperPOD dağıtımları ve büyük HPC kümeleri için gereken ölçeklenebilirliği sunar. Bu kılavuz, MQM9790-NS2F özelliklerini açıklamakta, önceki nesil HDR anahtarlarına göre temel avantajlarını vurgulamakta ve bir Quantum-2 ağı dağıtmadan önce en önemli teknik ve satın alma hususlarını özetlemektedir.
Yapay Zeka Kümeleri Neden Kuantum-2'ye Geçiyor?
Yapay zekâ modelleri büyümeye devam ettikçe, GPU'lar arasındaki iletişim önemli bir performans darboğazı haline geldi. Dağıtılmış eğitim sırasında, GPU'lar sürekli olarak gradyanları ve senkronizasyon verilerini değiş tokuş eder. Ağ bu hıza ayak uyduramazsa, pahalı GPU kaynakları iletişim tamamlanana kadar boşta kalır.
Önceki nesil HDR InfiniBand ile karşılaştırıldığında, Quantum-2 bant genişliğini önemli ölçüde artırırken gecikmeyi azaltır ve toplu iletişim verimliliğini iyileştirir. Bu iyileştirmeler, kuruluşların şunları yapmasını sağlar:
- Dağıtılmış yapay zeka eğitimini hızlandırın
- GPU kullanımını iyileştirin
- Senkronizasyon gecikmelerini azaltın
- GPU sayısını yüzlerceden binlerceye kadar ölçeklendirin.
- Ağı yeniden tasarlamadan gelecekteki yapay zeka altyapısını destekleyin.
NVIDIA H100, H200 veya Blackwell tabanlı GPU platformlarına yatırım yapan işletmeler için Quantum-2, uzun vadeli ölçeklenebilirlik için gerekli ağ altyapısını sağlar.
NVIDIA Quantum-2 MQM9790-NS2F Teknik Özellikleri
MQM9790-NS2F NDR InfiniBand ağları için yüksek yoğunluklu yaprak veya omurga anahtarı olarak tasarlanmıştır.
Hızlı Özellikler
| Özellikler | MQM9790-NS2F |
|---|---|
| mimari | NVIDIA Kuantum-2 |
| InfiniBand Hızı | NDR 400 Gb/sn |
| Etkin Bağlantı Noktası Sayısı | 64 × NDR Bağlantı Noktası |
| Fiziksel Konektörler | 32 × OSFP İkili Portlu Kafes |
| Anahtarlama Kapasitesi | 51.2 Tb / sn |
| Form Faktörü | 1U |
| Yönetim | Yönetilmeyen |
| Hava akışı | Güç-Bağlantı (P2C) |
| Dağıtım Rolü | Yaprak veya Omurga |
Stok durumunu kontrol edin, seçenekleri karşılaştırın veya ekibimizle iletişime geçin.
Yüksek Yoğunluklu 64 Portlu Tasarım
Genellikle 64 portlu bir NDR anahtarı olarak anılsa da, MQM9790-NS2F fiziksel olarak 32 adet OSFP (Sekizli Küçük Form Faktörlü Takılabilir) yuvasına sahiptir. Her bir OSFP yuvası, NVIDIA'nın çift portlu tasarımı sayesinde iki bağımsız 400 Gb/s NDR bağlantısını destekleyerek, kompakt 1U kasa içinde toplam 64 NDR portu sağlar. Bu mimari, raf alanını en aza indirirken ve büyük ölçekli ağ kurulumlarını basitleştirirken olağanüstü port yoğunluğu sunar.
51.2 Tbps Engellemesiz Anahtarlama Kapasitesi
Quantum-2 ASIC, 51.2 Tbps'lik toplam anahtarlama kapasitesi sağlayarak, ağ darboğazları oluşturmadan binlerce GPU arasında eş zamanlı iletişime olanak tanır. Engellemeyen mimari özellikle şu durumlar için faydalıdır:
- Büyük Dil Modeli eğitimi
- Derin öğrenme iş yükleri
- Dağıtılmış GPU iletişimi
- Bilimsel simülasyon
- Büyük ölçekli MPI uygulamaları
Ultra Düşük Gecikmeli Ağ İletişimi
Dağıtılmış yapay zeka uygulamaları, GPU düğümleri arasında sürekli senkronizasyona dayanır. Gecikmedeki küçük artışlar bile genel küme verimliliğini düşürebilir. Quantum-2, belirleyici, ultra düşük gecikmeli paket iletimi sağlayarak iletişim gecikmelerini en aza indirir ve büyük GPU ortamlarında daha iyi ölçeklendirme verimliliği sağlar.
Geliştirilmiş SHARP Ağ İçi Hesaplama
Quantum-2, NVIDIA'nın Ölçeklenebilir Hiyerarşik Toplama ve İndirgeme Protokolü (SHARP) teknolojisini geliştiriyor. Toplu işlemleri CPU'lar veya GPU'lar üzerinden yönlendirmek yerine, SHARP indirgeme işlemlerini doğrudan ağ içinde gerçekleştiriyor ve bu da şu sonuçları doğuruyor:
- Daha hızlı toplu iletişim
- Azaltılmış CPU yükü
- Daha yüksek GPU kullanımı
- Geliştirilmiş MPI performansı
- Daha kısa yapay zeka eğitim süreleri
MQM9790-NS2F ve Quantum HDR: Yenilikler Neler?
Mevcut yüksek performanslı bilgi işlem (HPC) ortamlarını yükselten kuruluşlar, MQM9790-NS2F'yi genellikle MQM8790-HS2F gibi önceki nesil Quantum HDR anahtarlarıyla karşılaştırır.
| Özellikler | MQM9790-NS2F | MQM8790-HS2F |
|---|---|---|
| mimari | Kuantum-2 | Kuantum HDR |
| Azami hız | 400 Gb/sn NDR | 200 Gb/sn HDR |
| Bağlantı Noktası Sayısı | 64 | 40 |
| Anahtarlama Kapasitesi | 51.2 Tb / sn | 16 Tb / sn |
| Bağlayıcı Tipi | OSFP | QSFP56 |
| Ağ İçi Hesaplama | Geliştirilmiş SHARP | SHARP Destekli |
| Tipik Dağıtım | Yapay Zeka Fabrikaları, DGX SuperPOD | Geleneksel Yüksek Performanslı Hesaplama Kümeleri |
HDR'den Quantum-2'ye geçiş, yalnızca bant genişliği yükseltmesinden daha fazlasıdır. Aynı zamanda yeni bir fiziksel bağlantı standardı, daha yüksek port yoğunluğu ve yapay zeka merkezli iş yükleri için önemli ölçüde geliştirilmiş ölçeklenebilirlik de sunmaktadır.
Dağıtımla İlgili Hususlar
Yönetilmeyen Mimariyi Anlamak
MQM9790-NS2F'nin önemli bir özelliği, yönetilmeyen bir InfiniBand anahtarı olmasıdır. Yönetilen Quantum-2 platformlarının aksine, Alt Ağ Yöneticisi'ni (OpenSM) çalıştırabilen yerleşik bir CPU içermez. Bunun yerine, alt ağ yönetimi şu şekilde sağlanmalıdır:
- Özel bir sunucu
- Harici bir OpenSM örneği
- Aynı ağ yapısı içinde konuşlandırılmış, yönetilebilir bir Quantum-2 anahtarı.
Bu tasarım, donanım karmaşıklığını azaltırken anahtarın son derece verimli bir yönlendirme cihazı olarak çalışmasına olanak tanır.
Tipik Ağ Topolojisi
MQM9790-NS2F, genellikle yapay zeka eğitim kümelerinde, NVIDIA DGX SuperPOD ortamlarında, kurumsal yapay zeka altyapılarında ve yüksek performanslı bilgi işlem (HPC) araştırma merkezlerinde kullanılır. Ağ mimarisine bağlı olarak, yüksek yoğunluklu bir uç anahtar veya ölçeklenebilir bir omurga-yaprak yapısının parçası olarak görev yapabilir.
64 portlu yapısı, mimarların daha az anahtarlama katmanıyla büyük, engellemeyen Fat-Tree veya DragonFly+ topolojileri oluşturmasına olanak tanıyarak atlama sayısını ve genel gecikmeyi azaltır.
Uyumlu Ekosistem
Anahtar seçimi, bir yapay zeka altyapısı oluşturmanın yalnızca bir parçasıdır. Tüm ağ yığını genelinde uyumluluk da aynı derecede önemlidir.
| Bileşen | Tipik Öneri |
|---|---|
| GPU Sunucuları | NVIDIA DGX H100, DGX H200, DGX B200, HGX Platformları |
| Ağ Adaptörü | NVIDIA ConnectX-7 NDR |
| Optik Modül | NDR OSFP Alıcı-Vericiler |
| Doğrudan Bağlantı Kablosu | NDR DAC Çift Portlu Kablolar |
| Aktif Optik Kablo | NDR AOC Çift Portlu Kablolar |
| Kumaş Yazılımı | OpenSM / NVIDIA UFM |
Güvenilir bir NDR InfiniBand ağı oluşturmak, doğru anahtarı seçmekten çok daha fazlasını gerektirir. Entegrasyon risklerini en aza indirmek için, Quantum-2 anahtarları, ConnectX-7 adaptörleri, OSFP alıcı-vericileri, çift portlu DAC/AOC kabloları ve GPU sunucuları arasındaki uyumluluk, dağıtımdan önce doğrulanmalıdır.
Kurumsal yapay zeka projeleri için, Router-switch.comCCIE sertifikalı mühendislik ekibimiz, malzeme listenizin (BOM) tamamını inceleyebilir, uçtan uca uyumluluğu doğrulayabilir ve satın alma işleminden önce genel ağ tasarımını optimize etmenize yardımcı olarak, dağıtım sırasında maliyetli yapılandırma değişiklikleri olasılığını azaltabilir.
Tedarik Hususları
Bir InfiniBand switch satın almak, donanım özelliklerini karşılaştırmaktan daha fazlasını gerektirir. Başarılı bir kurulum, ağ tasarımı, uyumluluk ve proje zamanlaması genelinde dikkatli bir planlama gerektirir.
Gelecekteki Büyüme Planı
Yapay zeka kümeleri nadiren durağan kalır. Gelecekteki genişlemeyi destekleyen bir geçiş platformu seçmek, GPU kapasitesi arttıkça altyapıda yıkıcı yükseltmelere olan ihtiyacı azaltır.
Hava akışını veri merkezine uyarlayın
MQM9790-NS2F, Güçten Konektöre (P2C) hava akışı kullanır. Kurulumdan önce, özellikle yüksek yoğunluklu AI raflarında, hava akışı yönünün sıcak koridor ve soğuk koridor izolasyon stratejinizle uyumlu olduğundan emin olun.
Kablolama Stratejisini Doğrulayın
Anahtarlama cihazı 32 adet çift portlu OSFP yuvası kullandığı için, kuruluşlar sunucu bağlantı gereksinimlerine uygun kablo seçimini dikkatlice planlamalıdır. Dağıtım mesafesine bağlı olarak, optimum performans sağlamak için uygun NDR DAC, AOC veya optik çözümler seçilmelidir.
Ürün bulunabilirliğini göz önünde bulundurun.
Yapay zeka altyapı projeleri genellikle agresif dağıtım takvimleri altında yürütülür; bu durumda ağ ekipmanındaki gecikmeler, GPU sunucuları zaten kurulmuş olsa bile, tüm küme kurulumunu geciktirebilir.
%100 orijinal kurumsal ağ donanımı, küresel depo stoğu ve hızlı dünya çapında teslimat sunan güvenilir bir tedarikçiyle çalışmak, dağıtım zaman çizelgelerinin yolunda gitmesine yardımcı olabilir. Çoklu tedarikçi yapay zeka altyapıları kuran kuruluşlar için, Router-switch.com Ayrıca, tedarik sürecini basitleştirmek için anahtarlar, optik bileşenler, ağ adaptörleri ve kablolama için rekabetçi proje fiyatlandırması ve koordineli tedarik hizmeti sunmaktadır.
Sonuç
NVIDIA Quantum-2 MQM9790-NS2F, yapay zeka ve yüksek performanslı bilgi işlem (HPC) için InfiniBand ağında önemli bir ilerlemeyi temsil ediyor. 64 etkili NDR 400 Gb/s portu, 51.2 Tbps engelsiz anahtarlama kapasitesi, ultra düşük gecikme süresi ve gelişmiş SHARP ağ içi bilgi işlem özelliğiyle, modern yapay zeka fabrikaları, DGX SuperPOD dağıtımları ve büyük ölçekli araştırma ortamları için gereken performansı ve ölçeklenebilirliği sağlıyor.
Başarılı bir yapay zeka ağının oluşturulması, anahtarlama performansının ötesinde, GPU sunucularından ConnectX adaptörlerine, optik modüllerden kablolara ve ağ yönetim yazılımlarına kadar tüm altyapı genelinde uyumlu bileşenlerin seçilmesine bağlıdır. Tasarım ve tedarik aşamalarında dikkatli planlama, dağıtım risklerini azaltırken, ağın gelecekteki yapay zeka iş yükleriyle ölçeklenebilmesini de sağlar.
İster yeni bir yapay zeka kümesi kuruyor olun, ister Quantum HDR'den Quantum-2'ye yükseltme yapıyor olun, satın almadan önce tüm çözümü doğrulamak, proje yaşam döngüsü boyunca önemli ölçüde zaman ve maliyet tasarrufu sağlayabilecek en iyi uygulamalardan biridir.