Články podľa značky „InfiniBand“

1. Optimalizácia klastrov inferencie AI: adaptéry MCX7 AAS-NEAT
   Selene Gong

   25
   Keďže dopyt po modeloch veľkých jazykov (LLM) a generatívnej umelej inteligencii v Singapure a ázijsko-pacifickom regióne prudko rastie, poskytovatelia GPU ako služba (GPUaaS) a inžinieri umelej inteligencie čelia kritickej výzve: váš inferenčný klaster je len taký rýchly, ako jeho sieť. Mikrosekundové oneskorenia pri prenose vyrovnávacích pamätí KV alebo synchronizácii...
2. Ako si vybrať medzi NVIDIA InfiniBand a Ethernetom pre nasadenie infraštruktúry umelej inteligencie
   Selene Gong

   33
   Keď sa projekty infraštruktúry umelej inteligencie presúvajú od konceptu k nasadeniu, jedným z najdôležitejších rozhodnutí o návrhu je, či by sieť mala sledovať cestu InfiniBand alebo ethernetovú cestu. Nejde len o hardvérovú preferenciu. Ovplyvňuje to, ako sa prostredie škáluje, ako sa plánuje architektúra, ...
3. Ako zjednodušiť globálne obstarávanie infraštruktúry umelej inteligencie pomocou komplexného dodávateľského reťazca pre vysokovýkonné siete
   Selene Gong

   18
   ...
4. Riešenie problémov s architektúrou OpenSM s vysokou dostupnosťou a prepínaním medzi záložnými sieťami InfiniBand Subnet Manager pre nespravované klastre MQM8790
   Selene Gong

   18
   Rýchle nasadenia založené na nespravovaných prepínačoch MQM8790, celá riadiaca rovina siete InfiniBand sa spolieha na externý správcu podsiete (SM). Implementácia vysoko dostupnej aktívnej/pohotovostnej architektúry OpenSM s odlišnými hodnotami sm_priority zabraňuje úplným výpadkom klastra počas...
5. Sieťová karta PCIe pre servery: PCIe linky, rýchlosť, tvarový faktor a kompatibilita
   Selene Gong

   18
   Stručný prehľad Výber sieťovej karty PCIe nie je len otázkou zhody inzerovanej rýchlosti siete s dostupným slotom PCIe. Spoľahlivá voľba musí tiež zodpovedať generácii PCIe a šírke kanála, zapojeniu slotu servera, typu portu, požiadavkám na Ethernet alebo InfiniBand, ...