Articoli con il tag "Formazione modello 100B"

1. InfiniBand vs RoCE v2 per la formazione LLM da 100 miliardi di partecipanti: Guida all'architettura 2026
   Selene Gong

   18
   In breve: per l'addestramento di un LLM con 100 miliardi di parametri, InfiniBand 200G supera costantemente RoCE v2 400G in termini di utilizzo dei FLOP del modello (MFU). Sebbene RoCE v2 offra una larghezza di banda grezza maggiore a un costo iniziale inferiore, la sua dipendenza da PFC ed ECN introduce jitter di latenza e frame di pausa in coda...