Yapay zekâ eğitim iş yükleri milyarlarca ve trilyonlarca parametreli modellere ulaştıkça, altta yatan InfiniBand altyapısı, modern veri merkezi mimarisinde en kritik tasarım kısıtlamalarından biri haline geliyor. Günümüzde birçok kuruluş, 200G HDR InfiniBand kümelerine (Quantum / MQM8790 tabanlı sistemler) yoğun yatırım yaparken, aynı zamanda 400G NDR'ye (Quantum-2 / MQM9790 tabanlı sistemler) yükseltme planları yapıyor. Bu durum doğal olarak pratik bir mühendislik sorusuna yol açıyor: HDR ve NDR InfiniBand anahtarları aynı yapay zekâ kümesinde birlikte kullanılabilir mi, yoksa NDR'ye yükseltme tam bir altyapı yeniden tasarımını mı gerektiriyor? Cevap ikili değil. Topolojiye, iş yükü bağlantısına ve "tek küme"yi ne kadar kesin tanımladığınıza bağlıdır. Bu makale, ekiplerin mevcut 200G yatırımlarını korurken 400G ölçeklendirmeye hazırlanmalarına yardımcı olmak için gerçek dünya mühendislik kısıtlamalarını, uyumluluk sınırlarını ve geçiş stratejilerini ayrıntılı olarak ele almaktadır.
HDR ve NDR InfiniBand: Gerçekte Neler Değişiyor?
HDR'den NDR'ye geçiş sadece bant genişliği yükseltmesi değil. Bu, InfiniBand ağ yapısı tasarım varsayımlarında nesiller arası bir değişimi temsil ediyor.
HDR (MQM8790 – Kuantum)
- Port başına 200G InfiniBand
- QSFP56 optik ekosistemi
- Güncel nesil GPU kümeleri (A100 / erken H100 sürümleri) için optimize edilmiştir.
- 2 veya 3 katmanlı topolojiye sahip olgun yaprak-omurga tasarımları
NDR (MQM9790 – Kuantum-2)
- Port başına 400G InfiniBand
- QSFP112 / OSFP optik ekosistemi
- Yeni nesil yapay zeka ölçeklendirmesi için tasarlanmıştır (H100/H200/B200 sınıf kümeleri)
- Daha yüksek radix anahtarlama ve geliştirilmiş bant genişliği yoğunluğu
Özetle: HDR ve NDR sadece "hızlı ve daha hızlı" olmakla kalmıyor. Özellikle optik, port eşleme ve topoloji yoğunluğu açısından farklı nesillere ait tasarım kısıtlamalarına bağlılar.
MQM8790 ve MQM9790 Karşılaştırması: Mimari Konumlandırma
Sistem düzeyinde bir bakış açısıyla: MQM8790, HDR nesline (Quantum platformu), MQM9790 ise NDR nesline (Quantum-2 platformu) aittir. Her ikisi de NVIDIA'nın InfiniBand ekosisteminin bir parçasıdır, ancak farklı küme ölçeklendirme dönemleri için optimize edilmişlerdir. En önemli ayrım ham verim değil, ağ simetrisi beklentileridir: HDR, katmanlar arasında 200G homojenliği varsayarken, NDR 400G homojenliği ve daha yüksek radix fan-out verimliliğini varsayar. Bu, karma dağıtımın öngörülebilir şekilde davranıp davranmayacağını doğrudan etkiler.
HDR ve NDR aynı kümede birlikte kullanılabilir mi?
Kısa cevap: Geçiş mimarilerinde bir arada bulunabilirler, ancak tamamen simetrik tek bir yapı oluşturmazlar. Pratikte, üç seviyede "karışım" söz konusudur:
1. Mantıksal Birlikte Varoluş (Gerçek uygulamalarda yaygın)
HDR ve NDR kümeleri aynı işletim ortamında ancak ayrı ağ yapılarında bulunur. HDR ağ yapısı (MQM8790) mevcut iş yüklerine ayrılmışken, NDR ağ yapısı (MQM9790) yeni GPU nesillerini yönetir. Bu, en istikrarlı ve yaygın olarak kullanılan modeldir.
2. Geçişsel Ara Bağlantı (Sınırlı bağlantı)
Bazı aşamalı geçişlerde, HDR ve NDR alanları sınır katmanlarında birbirine bağlanabilir. Ancak: Trafik genellikle bölümlere ayrılır, çapraz ağ iletişimi HPC'nin tüm azaltılmış iş yükleri için optimize edilmemiştir ve iş yükleri her iki alanı da kapsarsa performans asimetrik hale gelir.
3. Tamamen Birleştirilmiş Karışık Kumaş (Çoğu durumda önerilmez)
HDR ve NDR'yi eşit düzeyde birleştiren tek bir birleşik yapı, bant genişliği dengesizliğine, yönlendirme verimsizliğine, tıkanıklığın öngörülemezliğine ve Alt Ağ Yöneticisi davranışında operasyonel karmaşıklığa yol açar. Bu durum genellikle üretim aşamasındaki yapay zeka eğitim kümelerinde kaçınılır.
Hız Anlaşması: InfiniBand'de Gerçekte Ne Anlama Geliyor?
InfiniBand uyarlanabilir bağlantı davranışını desteklese de, yaygın bir yanılgıyı açıklığa kavuşturmak önemlidir: HDR (200G) ve NDR (400G), serbestçe birlikte çalışabilen aynı PHY'nin iki hız kademesi değildir. Gerçekte: Hız müzakeresi uyumlu sinyal alanları içinde gerçekleşir, nesiller arası ara bağlantı davranışı büyük ölçüde optiklere, bellenime ve platform doğrulamasına bağlıdır ve NDR-HDR birlikte çalışabilirliği genellikle tüm ağ genelinde değil, sınır kontrollüdür. Bu nedenle, sınırlı ara bağlantı senaryoları mevcut olsa da, bunlar tam "tak ve çalıştır" eşdeğerliği anlamına gelmez.
Yapay Zeka Kümeleri için Pratik Dağıtım Modelleri
Tek tip bir yapı oluşturmaya zorlamak yerine, gerçek dünyadaki yapay zeka altyapılarının çoğu aşağıdaki modellerden birini benimser:
Model 1: Çift Kumaşlı Mimari (Önerilen)
HDR kümesi (MQM8790), çıkarım iş yüklerine, küçük ölçekli eğitime ve depolama/veri işlem hatlarına hizmet vermeye devam ediyor. Bu arada, NDR kümesi (MQM9790) büyük ölçekli dağıtılmış eğitimi, sıkıca bağlı GPU iş yüklerini ve yeni nesil model ölçeklendirmesini yönetiyor. Bu, riski en aza indiren ve performans bağımlılığını önleyen en istikrarlı ve operasyonel olarak temiz yaklaşımdır.
Model 2: Aşamalı Göç Stratejisi
Aşama 1 — HDR Kumaşını Stabilize Etme: MQM8790 kümesinin üretim iş yüklerini çalıştırmaya devam etmesini sağlarken, topolojiyi ve tıkanıklık kontrolünü optimize edin.
2. Aşama — NDR Fabric'in Tanıtılması: Yeni nesil GPU'lar için MQM9790 tabanlı pod'lar dağıtın ve ağ yapılarını mantıksal olarak ayrı tutun.
3. Aşama — İş Yükü Bölümlendirmesi: Büyük ölçekli eğitim işlerini NDR'ye taşıyın, HDR'yi ise maliyet açısından verimli iş yükleri için saklayın.
4. Aşama — Uzun Vadeli Rasyonelleştirme: HDR altyapısını kademeli olarak devre dışı bırakın veya yeniden amaçlandırın. Bu, mevcut yatırımı korur ve aksamaya yol açacak forklift yükseltmelerinden kaçınmanızı sağlar.
Model 3: Hibrit Geçiş Mimarisi (Gelişmiş)
Bazı işletmeler, NDR'nin yüksek performanslı çekirdek altyapı görevi gördüğü, HDR'nin ikincil bir bilgi işlem veya hizmet katmanı olarak kaldığı ve bağlantının kontrollü sınır yönlendirmesi yoluyla sağlandığı katmanlı bir model tasarlar. Bu, dikkatli bir tasarım gerektirir ve genellikle yalnızca büyük ölçekli kurumsal yapay zeka uygulamalarında kullanılır.
HDR ve NDR'nin Karıştırılmasının Başlıca Mühendislik Riskleri
Birlikte yaşamanın mümkün olduğu durumlarda bile, mühendisler yapısal riskleri hesaba katmalıdır:
- Performans Asimetrisi: Dağıtılmış bir iş hem HDR hem de NDR düğümlerini kapsıyorsa, iletişim en düşük ortak bant genişliğine kadar yavaşlar ve yüksek hızlı NDR bağlantıları yetersiz kullanılır hale gelir.
- Kumaş Karmaşıklığı: Karma nesiller, birden fazla tıkanıklık alanı, farklı gecikme davranışları ve artan ayarlama yükü getirir.
- Topoloji Kısıtlamaları: Tüm yaprak-omurga tasarımları, 200G QSFP56 kumaşları ile 400G QSFP112/OSFP kumaşları arasında sorunsuz birlikte çalışmayı desteklemez.
- İşletme Giderleri: Ürün yazılımı hizalaması daha karmaşık hale gelir ve çok nesilli ağlarda hata ayıklama, operasyonel yükü artırır.
200G HDR Yatırımınızı Nasıl Koruyabilirsiniz?
Altyapı ekiplerinin sıkça dile getirdiği bir endişe şudur: “NDR'ye geçersek, HDR altyapımız eskimiş hale gelir mi?” Gerçekte, doğru tasarlanmış geçiş stratejileri, HDR altyapısının değerli kalmasını sağlar. Tipik uzun vadeli kullanım modelleri arasında, çıkarım iş yükleri için HDR kümelerinin konuşlandırılması, HDR'nin ani kapasite artışı veya bir hazırlık ortamı olarak tutulması veya HDR'nin maliyet açısından optimize edilmiş bir eğitim katmanı olarak kullanılması yer alır. Bu aşamalı yaşam döngüsü yaklaşımı, gereksiz sermaye israfını önler ve NDR'nin kademeli olarak benimsenmesine olanak tanır.
Pratikte, birçok işletme aynı zamanda çoklu tedarikçi kaynak bulma stratejilerine ve envanter planlama platformlarına da güvenmektedir; bunlar arasında şunlar yer almaktadır: router-switch.comBu özellikler, ekiplerin küme genişletmesi için MQM8790 HDR ekipmanını tedarik etmelerine, aşamalı dağıtımlarda MQM9790 NDR yükseltmelerini planlamalarına, nesiller arası tedarik döngülerini optimize etmelerine ve hızlı ölçeklenen yapay zeka ortamlarında aşırı kaynak tahsisi riskini azaltmalarına yardımcı olur. Değer, yalnızca donanım kullanılabilirliğiyle sınırlı değildir; aynı zamanda zorunlu yeniden tasarım döngüleri olmadan InfiniBand nesilleri arasında esnek geçiş planlamasına olanak sağlamasıdır.
Sonuç
MQM8790 (HDR) ve MQM9790 (NDR) aynı InfiniBand ekosistemi içinde yer alsa da, temelde farklı nesil yapay zeka ağ mimarileridir. Daha geniş bir altyapı stratejisinde birlikte var olabilirler, ancak: Çoğu üretim yapay zeka eğitim ortamında tamamen birleşik tek bir yapı olarak ele alınmamalıdırlar. En istikrarlı yaklaşım, doğrudan karıştırma yerine parçalı veya aşamalı geçiştir, çünkü gerçek performans ölçeklendirmesi heterojen yapı birleştirmesiyle değil, iş yükü ayrımıyla elde edilir. Yapay zeka kümelerini 200G'den 400G'ye ölçeklendiren kuruluşlar için asıl zorluk uyumluluk değil, mevcut yatırımı korurken yeni nesil işlem yoğunluğunu mümkün kılan bir geçiş yolu tasarlamaktır.