"InfiniBand" etiketiyle yayınlanan makaleler

1. Yapay Zeka Çıkarım Kümelerinin Optimizasyonu: MCX7 AAS-NEAT Adaptörleri
   Selen Gong

   25
   Singapur ve Asya-Pasifik genelinde Büyük Dil Modelleri (LLM) ve üretken yapay zekâya olan talep artarken, GPU-as-a-Service (GPUaaS) sağlayıcıları ve yapay zekâ mühendisleri kritik bir zorlukla karşı karşıya: çıkarım kümenizin hızı, ağınızın hızıyla doğru orantılıdır. KV önbelleklerinin aktarılmasında veya senkronizasyonunda mikrosaniyelik gecikmeler...
2. Yapay Zeka Altyapısı Dağıtımı İçin NVIDIA InfiniBand ve Ethernet Arasında Nasıl Seçim Yapılır?
   Selen Gong

   33
   Yapay zeka altyapı projeleri kavram aşamasından uygulama aşamasına geçtiğinde, en önemli tasarım kararlarından biri ağın InfiniBand yolunu mu yoksa Ethernet yolunu mu izlemesi gerektiğidir. Bu sadece bir donanım tercihi değildir. Ortamın nasıl ölçekleneceğini, mimarinin nasıl planlanacağını etkiler...
3. Tek Noktadan Yüksek Performanslı Ağ Tedarik Zinciri ile Küresel Yapay Zeka Altyapısı Tedarikini Nasıl Basitleştirebilirsiniz?
   Selen Gong

   18
   Kendi ID’n ile mağazalarını oluştur
4. InfiniBand Alt Ağ Yöneticisi Yük Devretme Yüksek Kullanılabilirlik OpenSM Mimarisi MQM8790 Yönetilmeyen Kümeler için Sorun Giderme
   Selen Gong

   18
   Özetle, yönetilmeyen MQM8790 anahtarlarına dayalı dağıtımlarda, tüm InfiniBand fabric kontrol düzlemi harici bir Alt Ağ Yöneticisine (SM) bağlıdır. Farklı sm_priority değerlerine sahip yüksek kullanılabilirlik sağlayan aktif/yedek OpenSM mimarisinin uygulanması, ... sırasında kümenin tamamen kesintiye uğramasını önler.
5. Sunucular için PCIe Ağ Kartı: PCIe Şeritleri, Hız, Form Faktörü ve Uyumluluk
   Selen Gong

   18
   Özetle, bir PCIe ağ kartı seçmek, yalnızca reklamı yapılan ağ hızını mevcut bir PCIe yuvasıyla eşleştirmekten ibaret değildir. Güvenilir bir seçim aynı zamanda PCIe nesli ve şerit genişliği, sunucu yuvası kablolaması, port tipi, Ethernet veya InfiniBand gereksinimleri gibi faktörlerle de uyumlu olmalıdır...