Cikkek "LLM infrastruktúra" címke alapján

1. InfiniBand vs RoCE v2 a 100B LLM képzéshez: 2026-os architektúra útmutató
   Szeléné Gong

   18
   Gyors áttekintés A 100 milliárd paraméteres LLM betanítás során a 200G InfiniBand következetesen felülmúlja a 400G RoCE v2-t a modell FLOP-ok kihasználtságában (MFU). Míg a RoCE v2 nagyobb nyers sávszélességet biztosít alacsonyabb kezdeti költséggel, a PFC-re és ECN-re való támaszkodása késleltetési időbeli ingadozást és szüneteltető kereteket okoz...