• Intro
  • Mwongozo wa Kubuni
  • Bidhaa Iliyopendekezwa
  • kulinganisha
  • Inatumia Kesi

Usanifu wa Mitandao ya Kundi la GPU ni Nini?

Nini
  • Usanifu wa mitandao ya makundi ya GPU ni kitambaa cha kipimo data cha juu na cha muda mfupi kinachounganisha seva za GPU, hifadhi, na huduma kwa ajili ya mafunzo ya akili bandia, utabiri, na mzigo wa kazi wa HPC. Imejengwa kwenye swichi za kituo cha data cha Cisco Nexus/Catalyst 9000 na Juniper QFX/EX, hutumia miundo isiyozuia uti wa mgongo ili kuweka mabomba ya GPU yakitumika kikamilifu na kupunguza vikwazo vya mawasiliano wakati wa kazi kubwa zilizosambazwa.

    Uwezo muhimu ni pamoja na EVPN VXLAN kwa vitambaa vya safu 2/3 vinavyoweza kupanuliwa, underlay iliyoboreshwa ya RoCE yenye QoS na PFC, na vipitishi vya macho vya msongamano wa juu wa 40G/100G/400G pamoja na kebo ya QSFP+/QSFP28/QSFP‑DD DAC/AOC. Mchanganyiko huu hutoa ucheleweshaji wa kuamua, upitishaji unaotabirika, na upanuaji unaonyumbulika, kuwezesha wasanifu na wahandisi kubuni makundi ya GPU ambayo yanaharakisha mafunzo ya modeli, kufupisha muda wa matokeo, na kusaidia upanuzi wa kituo cha data cha AI/HPC kinachonyumbulika.

Kubuni Vitambaa vya Ethaneti kwa Makundi ya GPU

Chunguza jinsi ya kubuni vitambaa vya Ethernet vyenye kipimo data cha juu na latency ya chini kwa makundi ya GPU, kuanzia usanifu wa leaf-spinal na RoCE underlays hadi chaguo za optics na kebo kwa ajili ya mzigo wa kazi unaoweza kupanuliwa wa AI na HPC.

Kubuni
  • Mahitaji ya Kitambaa cha GPU kwa Mizigo ya Kazi ya AI na HPC

    Makundi ya kisasa ya GPU yanayoendesha mafunzo ya AI, utabiri, na mzigo wa kazi wa HPC yanahitaji kipimo data kisichozuia, ucheleweshaji wa kiwango cha microsecond, na tabia ya msongamano inayoweza kutabirika. Wasanifu majengo lazima wazingatie mifumo ya trafiki ya mashariki-magharibi, ubadilishanaji mkubwa wa kubadilishana kwa wote, na usafiri unaotegemea RoCE. Sehemu hii inafafanua vipimo lengwa vya usajili kupita kiasi, tabia ya ECN na PFC, vikoa vya kushindwa, na nafasi ya upanuzi ili uweze kutafsiri SLA za programu kuwa mahitaji halisi ya kitambaa cha Ethernet kabla ya kuchagua swichi, optiki, na kebo.

    Jadili Mahitaji Yako
Kubuni
  • Ubunifu wa Leaf–Spine, EVPN‑VXLAN, na RoCE‑Ready Underlay

    Mara tu mahitaji ya kitambaa yanapofafanuliwa, hatua inayofuata ni kuchagua topolojia inayofaa na ndege ya udhibiti. Usanifu wa jani-mgongo wenye EVPN-VXLAN hutoa muunganisho wa safu-2/3 unaoweza kupanuliwa na utenganishaji wa mpangaji, huku sehemu ya chini iliyorekebishwa kwa uangalifu ikiwezesha trafiki ya RoCE nyeti kwa hasara. Hapa tunaelezea mifumo bora ya usanifu wa milango ya 25G/100G/400G, ECMP, MTU, QoS, na upangaji wa bafa ili kitambaa chako cha Ethernet kitoe utendaji maalum kwa upangaji wa kazi wa GPU na makundi ya wapangaji wengi.

    Pata Mwongozo wa Ubunifu wa Vitambaa

Vivutio vya GPU Fabric Switch & Optics

Cisco na Juniper 25G/100G/400G Swichi za Ethernet spine-leaf, optiki, na kebo kwa makundi ya AI na HPC GPU yenye muda mfupi wa kusubiri, usiozuia.

Kitambaa cha 100G/400G Kinachoweza Kupanuliwa

Jenga jani-mgongo usioziba ukiwa na milango ya 25G hadi 400G na hadi 12.8T.

Ethaneti Iliyoboreshwa kwa GPU

Underground iliyo tayari kwa RoCE yenye ECN, PFC, na telemetry iliyorekebishwa kwa ajili ya upotevu wa kitambaa cha mafunzo cha AI.

Kiotomatiki cha EVPN-VXLAN

EVPN-VXLAN inayotegemea viwango kwa makundi ya AI ya wapangaji wengi na upimaji wa kitambaa cha GPU usio na mshono.

Vitambaa vya GPU vya Ethernet dhidi ya InfiniBand: Ulinganisho wa AI na HPC

Linganisha InfiniBand na vitambaa vya kisasa vya 100G/400G Ethernet GPU ili kusawazisha muda wa kuchelewa, uwezo wa kupanuka, na gharama ya makundi ya AI na HPC.

MtazamoVitambaa vya Jadi vya InfiniBand
Kitambaa cha Kundi la GPU cha Ethaneti (100G/400G)
Matokeo Kwako
Ucheleweshaji na MsisimkoMuda wa kuchelewa wa chini sana, unaodhibitiwa vizuri lakini kwenye rafu ya kipekee.Muda wa kusubiri wa Near–InfiniBand wenye Ethernet ya Cisco/Juniper ya 100G/400G iliyoboreshwa na RoCE.Muda wa kukamilika kwa kazi ya GPU unaotabirika bila kuingiliana na muuzaji mmoja wa kitambaa.
Kasi za Upitishaji na LangoKipimo data cha juu lakini mfumo ikolojia mdogo kwa 400G na uboreshaji wa siku zijazo.Ramani ya barabara yenye 25G/100G/400G kwa kutumia optiki za kawaida za QSFP na kebo za DAC/AOC.Kipimo cha kipimo data cha mafunzo ya AI kwa kutumia swichi na optiki za 400G zinazopatikana kwa wingi na zenye gharama nafuu.
Uwezo wa Kupanuka na Ubunifu wa VitambaaMizani vizuri, lakini vitambaa vikubwa vya Clos ni changamano na vimeunganishwa vizuri na muuzaji mmoja.Vitambaa vya EVPN-VXLAN vya jani-mgongo hupanuka kwa usawa katika maganda na maeneo.Ongeza raki na miiba ya GPU hatua kwa hatua bila kubuni upya muunganisho mzima.
Mfumo Ekolojia na UwaziUundaji wa zana za umiliki na ujumuishaji mdogo na mitandao mikuu ya DC.Ethernet inayotegemea viwango inayoshirikiana na Cisco Nexus, Catalyst, na Juniper QFX/EX zilizopo.Unganisha AI, hifadhi, na trafiki ya biashara kwenye mfumo mmoja, kurahisisha shughuli na utumiaji tena wa ujuzi.
Vifaa na Ujuzi wa UendeshajiUsimamizi maalum; wahandisi wachache wenye uzoefu wa kina wa InfiniBand.Hutumia mifumo ya DC inayojulikana, telemetry, na otomatiki kwa ajili ya Ethernet.Utekelezaji wa haraka na utatuzi wa matatizo kwa kutumia zana ambazo timu yako tayari inazijua.
TCO na UnunuziGharama kubwa kwa kila bandari, upatikanaji mdogo wa bidhaa, na kufungwa kwa muuzaji mmoja mkuu.Bei shindani kwa swichi, optiki, na nyaya kutoka kwa wachuuzi wengi wa Ethernet.Punguza hatari ya capex na mnyororo wa usambazaji huku ukiweka makundi ya GPU yakifanya kazi vizuri.
Ufaa wa Mzigo wa Kazi (AI na HPC)Bora kwa MPI iliyounganishwa kwa ukaribu na mzigo wa kazi unaoweza kuathiriwa sana na ucheleweshaji.Imeboreshwa kwa ajili ya mafunzo makubwa ya akili bandia, uhakiki, na HPC mchanganyiko kwenye vitambaa vilivyoshirikiwa.Saidia mahitaji ya mafunzo ya GPU ya leo na huduma za AI za wapangaji wengi wa siku zijazo kwenye usanifu mmoja.

Je, unahitaji Msaada? Wataalamu wa Ufundi Wanapatikana Sasa.

  • + 1-626-655-0998 (USA)
    UTC 15:00-00:00
  • +852-2592-5389 (HK)
    UTC 00:00-09:00
  • +852-2592-5411 (HK)
    UTC 06:00-15:00
Je, unahitaji Msaada? Wataalamu wa Ufundi Wanapatikana Sasa.

Kesi za Matumizi ya Mitandao ya Kundi la GPU

Gundua mahali ambapo swichi, optiki, na kebo za Cisco na Juniper 25G/100G/400G huwezesha makundi ya GPU yenye muda mfupi na yanayoweza kupanuliwa kwa ajili ya mzigo wa kazi wa AI, ML, na HPC.

Vitambaa vya Mafunzo ya AI

Vitambaa vya Mafunzo ya AI

  • Buni makundi ya GPU yasiyozuia kwa ajili ya mafunzo ya modeli kubwa kwa kutumia Cisco Nexus/Catalyst 9000 na Juniper QFX/EX katika vitambaa vya EVPN-VXLAN spine-leaf. Milango ya 100G/400G yenye msongamano mkubwa, sehemu za chini zilizoboreshwa za RoCE, na udhibiti wa msongamano usio na hasara huhakikisha ukamilishaji wa kazi unaoamua na matumizi bora ya GPU katika hyperscale.
Ukadiriaji wa Wakati Halisi

Ukadiriaji wa Wakati Halisi

  • Husaidia huduma muhimu za utabiri wa muda kwa ajili ya mifumo ya fintech, ad tech, na ubinafsishaji kwa kutumia 25G ToR na mkusanyiko wa 100G/400G. Vibadilishaji vya kituo cha data cha Cisco na Juniper vyenye QoS, PFC, na ECN sahihi hutoa muda wa muda wa muda wa maikrosekondi, upitishaji thabiti, na utendaji unaotabirika katika nodi za GPU na viwango vya programu vya mbele.
Simulizi za HPC

Simulizi za HPC

  • Jenga miunganisho ya kiwango cha juu cha upitishaji data kwa ajili ya CFD, usindikaji wa mitetemeko ya ardhi, jenomu, na mzigo wa kazi wa uhandisi. Miundo ya 100G/400G ya spine-leaf yenye optiki za QSFP+/QSFP28/QSFP‑DD na kebo za DAC/AOC hutoa kipimo data kizito cha mashariki-magharibi, kuwezesha kazi za MPI na GPU kuharakisha HPC kufanya kazi kwa ufanisi katika makundi makubwa yenye ukubwa unaoweza kutabirika na ushindani mdogo wa mtandao.
Mawingu ya AI ya Biashara

Mawingu ya AI ya Biashara

  • Hutoa mifumo ya kibinafsi ya AI na MLOps kwa biashara kubwa kwa kutumia ubadilishaji wa Cisco na Juniper 25G/100G/400G. Vitambaa vya EVPN‑VXLAN huunganisha mabwawa ya GPU, hifadhi, na mitandao ya wapangaji kwa mgawanyiko imara, otomatiki, na mwonekano, kuwezesha huduma salama za AI za wapangaji wengi na utendaji unaotabirika kwa ajili ya mafunzo na mifumo mbalimbali ya hitimisho.

maswali yanayoulizwa mara kwa mara

Ninawezaje kuchagua kati ya swichi za Cisco na Juniper kwa usanifu wangu wa mitandao ya nguzo ya GPU?

Cisco (Nexus, Catalyst 9000) na Juniper (QFX, EX) zote hutoa ucheleweshaji mdogo na vitambaa vya Ethernet vya ubora wa juu kwa AI/ML na HPC. Chaguo sahihi kwa kawaida hutegemea kiwango chako cha kituo cha data kilichopo, NOS inayopendelewa (NX OS, IOS XE, Junos), mrundikano wa otomatiki (Ansible, Terraform, Python), na utaalamu wa uendeshaji. Kutoka kwa mtazamo wa mitandao ya nguzo ya GPU, zingatia msongamano thabiti wa lango la 100G/400G, usanifu wa bafa ulio tayari wa RoCE, usaidizi wa EVPN VXLAN, na miundo isiyozuia uti wa mgongo-jani. Router-switch.com inaweza kukusaidia kulinganisha mifumo halisi, optiki, na chaguo za kebo ili kuendana na malengo yako ya utendaji na bajeti.

Ni kipimo data gani cha mtandao na topolojia ninayohitaji kwa ajili ya mafunzo ya GPU za AI - 25G/100G/400G na spine-leaf?

  • Makundi mengi ya kisasa ya mafunzo ya GPU hutumia kiunganishi cha 100G kwa kila seva ya GPU hadi swichi ya ToR na viungo vya 100G/400G kutoka ToR hadi mgongoni ili kujenga kitambaa kisichozuia au cha chini cha usajili wa jani-mgongo kwa trafiki ya AI ya mashariki-magharibi.
  • Kwa mazingira makubwa ya AI/ML na HPC, swichi za mgongo za 400G zenye chaguo za 4×100G au 8×50G hutoa kipimo data cha juu cha sehemu mbili, kipimo data bora, na utendaji thabiti zaidi kwa mawasiliano ya GPU yanayotegemea RoCE katika vitambaa vya EVPNVXLAN.

Ni nyaya zipi za optiki, DAC, na AOC ambazo ninapaswa kutumia kati ya seva za GPU, ToR, na swichi za spine?

Kwa muunganisho wa seva ya GPU inayofikia kwa ufupi hadi ToR ndani ya raki, DAC tulivu (QSFP+/QSFP28/QSFP‑DD) kwa kawaida hupendelewa kwa 40G/100G/400G kwa sababu ya muda wake mdogo wa kusubiri, nguvu ndogo, na gharama ya chini. Kwa miunganisho kati ya raki au safu-kwa-mstari kati ya ToR na swichi za mgongo, wateja kwa kawaida huchanganya DAC/AOC inayofanya kazi kwa umbali wa kati na transceivers za macho za 40G/100G/400G na nyuzi za multimode au singlemode kwa muda mrefu, kulingana na mpangilio wa kituo cha data na mipango ya uwezo wa siku zijazo.
    Chaguo za kebo zinazopendekezwa kwa makundi ya GPU
  • Ndani: 25G/100G DAC au AOC kutoka kwa GPU NICs hadi milango ya ToR kwa ajili ya ucheleweshaji mdogo na usimamizi rahisi.
  • Mwisho wa safu/mkusanyiko: 100G/400G AOC au vipitishi vya macho (km, QSFP28 SR4/DR, QSFP‑DD DR4/FR4) kwa miunganisho ya uti wa mgongo na jani inayoweza kupanuliwa.
    Mambo ya kuzingatia kuhusu utangamano na ushirikiano
  • Linganisha kipengele cha umbo la kipitishia na msimbo (QSFP+/QSFP28/QSFP‑DD) na kila lango la Cisco Nexus/Catalyst au Juniper QFX/EX, na uhakikishe kuwa optiki zimesimbwa au kupimwa kwa muuzaji huyo ili kuepuka matatizo ya kiungo au usaidizi.
  • Unapochanganya wachuuzi katika mfumo mmoja, thibitisha utendakazi shirikishi wa kiwango cha kiungo (hali ya FEC, mazungumzo ya kiotomatiki, ramani za kuzuka) katika maabara au PoC kabla ya kusambaza kwenye nodi za GPU za uzalishaji.

Je, Ethernet yenye EVPN‑VXLAN na RoCE inaweza kuchukua nafasi ya InfiniBand kwa makundi ya AI na HPC GPU?

Vitambaa vya kisasa vya Ethernet vya kituo cha data cha 100G/400G vinavyotumia Cisco Nexus/Catalyst 9000 au Juniper QFX vyenye EVPN VXLAN na RoCE (RDMA over Converged Ethernet) iliyorekebishwa vizuri vinaweza kufikia ucheleweshaji wa kiwango cha microsecond na upitishaji wa juu ambao unashindana na usanidi mwingi wa InfiniBand. Kwa mafunzo mengi ya AI, utabiri, na mzigo wa kazi mchanganyiko wa HPC, mbinu hii ya Ethernet iliyounganishwa hurahisisha shughuli, hupunguza gharama, na inatoa ushirikiano bora na mitandao iliyopo ya IP huku bado ikitoa utendaji mzuri kwa makundi ya GPU.

Je, usanifu huu wa mitandao ya GPU ya Cisco na Juniper unaweza kupanuliwa vipi, na je, ninaweza kupanua kutoka 100G hadi 400G baadaye?

Usanifu wa nguzo ya GPU uliopendekezwa umejengwa kuzunguka vitambaa vya mgongo-jani kwa kutumia swichi za moduli au zisizobadilika za 100G/400G zinazounga mkono usanidi wa mlango kwa mlango, milipuko, na optiki zinazonyumbulika. Unaweza kuanza na ufikiaji wa seva ya 25G/100G kwenye viungo vya juu vya ToR na 100G kwenye mgongo, kisha kuanzisha swichi za mgongo za 400G au kadi za mstari wa mgongo na kuhamisha vigogo muhimu hadi 400G kadri ukubwa wa nguzo na kazi za mafunzo zinavyokua. Kutumia kebo ya EVPN‑VXLAN na optiki sanifu/DAC/AOC hulinda uwekezaji wako wa awali huku ukiwezesha upimaji wa mstari kutoka kwa seva za GPU, hifadhi, na uwezo wa kitambaa.

Vipi kuhusu udhamini, usaidizi, na mzunguko wa maisha unaponunua swichi na optiki za Cisco au Juniper kwa vitambaa vya GPU?

Wakati wa kubuni kitambaa cha GPU kwa kutumia Cisco Nexus/Catalyst na Juniper QFX/EX, ni muhimu kuoanisha chaguo za vifaa na optiki na sera rasmi za mzunguko wa maisha wa wachuuzi, ramani za programu, na mikataba inayopatikana ya usaidizi, haswa kwa mafunzo muhimu ya AI na makundi ya HPC. Wateja wengi huchanganya usaidizi wa wachuuzi na huduma zilizoongezwa thamani kutoka kwa washirika kama vile router-switch.com kwa uthibitisho wa muundo, uboreshaji wa BOM, na upangaji wa uhamiaji. Tafadhali kumbuka: Masharti maalum ya udhamini na huduma za usaidizi zinaweza kutofautiana kulingana na bidhaa na eneo. Kwa maelezo sahihi, tafadhali rejelea taarifa rasmi. Kwa maswali zaidi, tafadhali wasiliana na: router-switch.com.

Uhakiki Ulioangaziwa

David Henderson

Tulihitaji kitambaa chenye ucheleweshaji mdogo kwa ajili ya mafunzo ya GPU bila kulipua capex yetu. Router-switch.com Ilitoa mchanganyiko wa Cisco-Juniper wa swichi, optiki, na DAC za 100G/400G ambazo ziliangukia moja kwa moja katika muundo wetu wa EVPN-VXLAN. Bei zao, uaminifu wa hisa, na mwongozo wa muundo ulitusaidia kuongeza kasi huku tukiweka hatari za ushirikiano chini.

Aiko Tanaka

Timu yetu ya AI ilihitaji utendaji wa RoCE unaoweza kutabirika na njia iliyo wazi ya uhamiaji kutoka 100G hadi 400G. Router-switch.com Ilipendekeza mfumo wa QFX unaotumia spine-leaf wenye optiki zinazolingana za Cisco na Juniper unaofanya kazi vizuri. Maagizo yalifika haraka, yanaendana kikamilifu, na wahandisi wao wa mauzo ya awali walisaidia kurekebisha mipangilio ya bafa na QoS kwa mzigo wa kazi thabiti wa GPU.

Markus Vogel

Tukibuni kundi jipya la GPU, tulijitahidi kusawazisha upitishaji, ucheleweshaji, na uwezo wa kupanuka wa muda mrefu. Router-switch.com Imetolewa swichi za Nexus na QFX zenye optiki za 100G/400G na DAC kama kifurushi kilichothibitishwa. Kitambaa hakizuii, kiko tayari kwa RoCE, na usaidizi wao baada ya mauzo kuhusu utangamano wa optiki na utunzaji wa RMA umekuwa bora.

Masuluhisho Zaidi

Ethernet vs InfiniBand for AI & HPC Networks

Ethernet dhidi ya InfiniBand kwa Mitandao ya AI na HPC

Ulinganisho uliolenga wa Ethernet na InfiniBand kwa vitambaa vya AI/HPC—ucheleweshaji, upimaji, RDMA, na mabadiliko ya gharama.

Mitandao ya AI na HPC
Beyond Bandwidth: The 100G+ Data Center Architecture

Zaidi ya Bandwidth: Usanifu wa Kituo cha Data cha 100G+

Msingi wa lazima wa 100G - ukuaji tayari wa AI, utendakazi wa kutochelewa

data Center
Copper vs Fiber vs DAC/AOC Interconnects Guide

Mwongozo wa Viunganishi vya Copper vs Fiber vs DAC/AOC

Ulinganisho kamili wa shaba, nyuzi, DAC, na AOC-latency, kufikia, gharama, na 10G/25G/100G/400G ufaafu wa utumiaji.

Cabling & Transceivers