Artikel berdasarkan tag "InfiniBand"

1. Mengoptimalkan Klaster Inferensi AI: Adaptor MCX7 AAS-NEAT
   Selene Gong

   25
   Seiring meningkatnya permintaan akan Large Language Models (LLM) dan AI generatif di Singapura dan APAC, penyedia GPU-as-a-Service (GPUaaS) dan insinyur AI menghadapi tantangan kritis: kecepatan klaster inferensi Anda hanya secepat kecepatan jaringannya. Penundaan mikrodetik dalam mentransfer cache KV atau sinkronisasi...
2. Cara Memilih Antara NVIDIA InfiniBand dan Ethernet untuk Penerapan Infrastruktur AI
   Selene Gong

   33
   Ketika proyek infrastruktur AI beralih dari konsep ke implementasi, salah satu keputusan desain terpenting adalah apakah jaringan harus mengikuti jalur InfiniBand atau jalur Ethernet. Ini bukan hanya preferensi perangkat keras. Hal ini memengaruhi bagaimana lingkungan tersebut diskalakan, bagaimana arsitektur direncanakan, ...
3. Cara Menyederhanakan Pengadaan Infrastruktur AI Global dengan Rantai Pasokan Jaringan Berkinerja Tinggi Terpadu
   Selene Gong

   18
   ...
4. Panduan Pemecahan Masalah InfiniBand Subnet Manager Failover High-Availability OpenSM Architecture untuk Klaster Tak Terkelola MQM8790
   Selene Gong

   18
   Ringkasan Singkat: Dalam penerapan berbasis switch MQM8790 yang tidak terkelola, seluruh bidang kontrol fabric InfiniBand bergantung pada Subnet Manager (SM) eksternal. Menerapkan arsitektur OpenSM aktif/siaga ketersediaan tinggi dengan nilai sm_priority yang berbeda mencegah pemadaman klaster penuh selama...
5. Kartu Jaringan PCIe untuk Server: Jalur PCIe, Kecepatan, Faktor Bentuk, dan Kompatibilitas
   Selene Gong

   18
   Ringkasan Singkat: Memilih kartu jaringan PCIe bukan hanya soal mencocokkan kecepatan jaringan yang diiklankan dengan slot PCIe yang tersedia. Pilihan yang andal juga harus sesuai dengan generasi PCIe dan lebar jalur, pengkabelan slot server, jenis port, persyaratan Ethernet atau InfiniBand, ...