Expresná doprava do
Kontaktujte nás
Sledovať objednávku
Hľadať
Populárne vyhľadávanie
dotaz
Nákupný vozík
Login

Kupón
Citujte teraz,
ušetrite až 8 %.

dotaz
Kontakt

spätná väzba
Tvoja spätná väzba
Ako by ste nás ohodnotili?
Jednoduchosť použitia:
Spätná väzba k nákupu:
Podrobnosti o produkte:

Klastre umelej inteligencie založené na Ethernete bez InfiniBandu

Klastre umelej inteligencie založené na Ethernete bez InfiniBandu
  • Úvod
  • Výzvy
  • Odporúčané produkty
  • POROVNAŤ
  • Prípady použitia
Získajte odbornú pomoc

Navrhovanie ethernetových AI tkanín

Navrhovanie ethernetových AI tkanín

  • Mnohé tímy umelej inteligencie teraz presahujú rámec pilotných projektov a idú do oblasti školení v produkčnom meradle, len aby zistili, že InfiniBand nie je vždy dostupný, cenovo dostupný alebo operačne zosúladený s ich existujúcim dátovým centrom. S rastúcim počtom GPU sa architekti musia rozhodnúť, kedy moderné klastre umelej inteligencie založené na Ethernete dokážu splniť požiadavky na latenciu, priepustnosť a konvergenciu a zároveň sa prispôsobiť návrhom brownfieldových sietí a rozpočtovým obmedzeniam.

    Táto časť rámuje kľúčové body rozhodovania o výbere ethernetových sietí pre úlohy umelej inteligencie: ktoré trénovacie a inferenčné profily sú vhodné, ako môžu návrhy sietí typu leaf-spine s využitím 25/100/200/400/800GbE nahradiť alebo doplniť InfiniBand a kde sa do architektúry hodia vysokorýchlostné siete, prepínače a sieťové karty. Nasledujúci obsah pomáha preložiť priority pracovného zaťaženia, škálovania a prevádzky do konkrétneho návrhu siete Ethernet a výberu skladových jednotiek (SKU).

Navrhovanie životaschopných ethernetových AI tkanín

Budovanie klastrov umelej inteligencie založených na Ethernete si vyžaduje starostlivé kompromisy v oblasti latencie, nadmerného predplatného, ​​škálovania a životného cyklu, nie jednoduchú výmenu za InfiniBand.

Navrhovanie životaschopných ethernetových AI tkanín

  • Dosiahnutie latencie a priepustnosti AI na Ethernete

    Zabezpečenie splnenia trénovacích SLA klastrov GPU cez Ethernet, vyváženie počtu skokov, ECMP a nadmerného predplatného bez nákladného prebudovania.

  • Škálovanie chrbtice a listu bez nadmerných celkových nákladov na vlastníctvo (TCO)

    Výber rýchlostí portov a úrovní prepínačov, ktoré sa dajú škálovať na tisíce GPU bez zbytočného zvyšovania rozpočtu na optiku, kabeláž a napájanie.

  • Integrácia rôznych sieťových kariet a budúce aktualizácie

    Zosúladenie serverových sieťových kariet, starších uzlov a budúcich 400/800GbE sietí bez nutnosti uzamknutia a rušivých prestavieb siete s umelou inteligenciou.

Navrhovanie ethernetových tkanín pre umelú inteligenciu

Objasnite, kedy sa klastre GPU s ethernetovým prvkom vyrovnajú alebo prekonajú InfiniBand v nákladoch, rozsahu a prevádzke.

Keď Ethernet porazí IB

Identifikujte pracovné zaťaženia umelej inteligencie, kde je latencia 100 – 800 GbE plne prijateľná.

Výber tkaniny a topológie

Možnosti prepojenia listov mapy s chrbticami Arista/NVIDIA a sieťovými kartami Mellanox.

Kontrola nákladov a životného cyklu

Znížte kapitálové náklady a zjednodušte modernizácie v porovnaní s tkaninami založenými na InfiniBand.

Porovnanie Ethernet AI Fabrics a InfiniBand

Porovnajte InfiniBand s klastrami umelej inteligencie založenými na Ethernete a zistite, kedy je prepínanie Ethernetu rýchlejšou a efektívnejšou voľbou pre vašu GPU infraštruktúru.

Vlastnosti Klaster umelej inteligencie zameraný na InfiniBand Klaster umelej inteligencie založený na Ethernete (všeobecné)
Optimalizovaný ethernetový klaster umelej inteligencie (Leaf-Spine, hot)
 Výsledok pre vás
Vhodnosť nasadenia Vyvinuté na mieru pre veľmi rozsiahle, úzko prepojené úlohy HPC/AI; často zbytočné pre zmiešanú podnikovú AI. Vhodné pre väčšinu tréningov a inferencií umelej inteligencie, kde nie je povinná ultranízka latencia chvosta. Navrhnuté pre vysokorýchlostný ethernetový systém leaf-spine s prepínačmi a sieťovými kartami optimalizovanými pre umelú inteligenciu zo sady SKU. Prispôsobte zložitosť štruktúry skutočným pracovným záťažiam umelej inteligencie namiesto predvoleného predimenzovania na úrovni HPC.
Výkon a latencia Vynikajúca kontrola latencie a preťaženia, ale vyžaduje si špecializované zručnosti na ladenie. Konkurenčná priepustnosť; latencia je dostatočná pre mnohé pracovné zaťaženia GPU, ale môže sa líšiť v závislosti od dizajnu. Používa 100/200/400/800GbE leaf-spine plus ladenie RoCE na minimalizáciu chvenia a latencie chvosta pre GPU. Získajte výkon blízky IB pre bežnú umelú inteligenciu a zároveň si zachovajte známe nástroje a zručnosti v oblasti Ethernetu.
Škálovateľnosť a dizajn tkaniny Dobre škálovateľné, ale často vyžaduje proprietárne nástroje a prísnejšie topologické obmedzenia. Váhy používajú štandardný Ethernet ECMP; návrhy od rôznych dodávateľov môžu viesť k nekonzistentnostiam. Používa štandardný systém typu leaf-spine s overenými kombináciami prepínačov/sieťových kariet, čo zjednodušuje horizontálne rozširovanie a aktualizácie. Škálujte klastre GPU predvídateľne bez obmedzení exotických topológií alebo jedného dodávateľa.
Profil nákladov (kapitálové/prevádzkové náklady) Vyššie náklady na linky, prepínače a adaptéry; prevádzkové náklady rastú vďaka odborným znalostiam a nástrojom. Lacnejšie prepínače a sieťové karty, ale môžu vyžadovať ladenie metódou pokus-omyl vo veľkom rozsahu. Ethernetový stack s upravenými SKU znižuje dohady, optimalizuje rýchlosti portov a nadmerné predplatné pre umelú inteligenciu. Znížte celkové náklady na grafický procesor a zároveň dosiahnite spoľahlivý výkon siete Fabric od prvého dňa.
Ekosystém a interoperabilita Silný v HPC; obmedzená interoperabilita so štandardným podnikovým sieťovým vybavením. Široký ekosystém, ale heterogénne komponenty môžu komplikovať správanie RoCE a QoS. Používa podnikové ethernetové prepínače, chrbticové siete a sieťové karty s umelou inteligenciou, ktoré sú navrhnuté tak, aby spolupracovali. Zjednodušte integráciu s existujúcim DC Ethernetom a zároveň zachovajte deterministický charakter štruktúry umelej inteligencie.
Prevádzková zložitosť Vyžaduje si monitorovanie špecifické pre IB, správu infraštruktúry a vysoko kvalifikovaných operátorov. Známe ethernetové operácie, ale prevádzka GPU môže byť nepredvídateľná bez starostlivého QoS. Využíva štandardné ethernetové operácie plus QoS, PFC/ECN a referenčné návrhy zamerané na umelú inteligenciu. Prevádzkujte infraštruktúru umelej inteligencie s existujúcimi tímami NetOps a vyhnite sa tak paralelnému súboru zručností a nástrojov pre IB.
Ideálna ponuka pre prípad použitia Masívne, na latenciu citlivé superpočítače a trénovacie klastre umelej inteligencie na hraničnej úrovni. Univerzálna podniková umelá inteligencia, analytika a MLOps, kde je kľúčová flexibilita. Podnikové a cloudové klastre s umelou inteligenciou uprednostňujú celkové náklady na vlastníctvo, jednoduchosť a rýchly čas dosiahnutia hodnoty pred absolútnou latenciou IB. Vyberte si, keď potrebujete silný výkon umelej inteligencie v súlade s rozpočtom, zručnosťami a obchodnou agilitou.
Flexibilita budúcnosti Migrácia alebo konvergencia s Ethernetom si vyžaduje ďalšie brány alebo redizajn. Konvergované s existujúcimi DC sieťami, ale môže vyžadovať refaktoring s rastúcim rozsahom. Začína sa na Ethernete s jasným plánom na škálovanie rýchlosti pripojenia a pridávanie úrovní bez zmeny technologickej rodiny. Pri budovaní štruktúry umelej inteligencie, ktorá sa môže vyvíjať s pracovnými zaťaženiami a hardvérom, si nechajte otvorené budúce možnosti.

Potrebujete pomoc? Technickí experti sú k dispozícii.

  • +1-626-655-0998 (USA)
    UTC 15:00-00:00
  • +852-2592-5389 (Hoongkong)
    UTC 00:00-09:00
  • +852-2592-5411 (Hoongkong)
    UTC 06:00-15:00
Získajte ponuku
Chat
Potrebujete pomoc? Technickí experti sú k dispozícii.

Prípady použitia ethernetového klastra s umelou inteligenciou

Kde sú klastre GPU založené na Ethernete a tréningové štruktúry AI uprednostňované pred InfiniBandom kvôli škálovateľnému výkonu a nákladovej efektívnosti.

Tréningové klastre pre podnikovú umelú inteligenciu bez InfiniBandu

Tréningové klastre pre podnikovú umelú inteligenciu bez InfiniBandu

  • Vytvorte trénovacie klastre GPU založené na Ethernete pre počítačové videnie, NLP a modely odporúčaní, kde latencia a priepustnosť 100 – 400 GbE spĺňajú projektové SLA.
  • Konsolidujte rôzne pracovné zaťaženia umelej inteligencie do zdieľanej ethernetovej infraštruktúry, aby tímy pre dátovú vedu, analytiku a MLOps mohli koexistovať bez samostatného ostrova InfiniBand.
  • Na prepojenie GPU serverov v podnikových dátových centrách, ktoré štandardizujú IP siete, použite prepínače typu leaf-spine 100/200/400GbE a ethernetové sieťové karty.
Cloudové natívne a multi-tenant služby umelej inteligencie na Ethernete

Cloudové natívne a multi-tenant služby umelej inteligencie na Ethernete

  • Poskytujte viacerým nájomníkom služby AI ako službu a segmenty GPU cez siete Ethernet, kde smerovanie IP, siete VLAN a QoS zjednodušujú viacero nájomníkov.
  • Spúšťajte platformy umelej inteligencie založené na Kubernetes alebo OpenShift na prepínačoch ToR 25/100GbE, ktoré spájajú uzly GPU, úložiská a servisné siete v cloudových prostrediach.
  • Využite vysokorýchlostné ethernetové siete na prepojenie viacerých AI podov a zón dostupnosti naprieč regionálnymi dátovými centrami pre elastické zdieľanie kapacity GPU.
Analýza dát, úložiská funkcií a kanály predspracovania

Analýza dát, úložiská funkcií a kanály predspracovania

  • Spúšťajte rozsiahle ETL, inžinierstvo funkcií a kanály označovania dát cez 25/100GbE Ethernet, kde klastre úložísk a GPU zdieľajú spoločnú IP infraštruktúru.
  • Prepojte objektové úložisko, dátové sklady a akcelerátory GPU prostredníctvom ethernetových prepínačov, aby trénovacie dáta prúdili efektívne bez paralelnej siete InfiniBand.
  • Použite 200/400GbE spinálne prepínače na agregáciu dátových kanálov umelej inteligencie z viacerých domén, ako sú protokoly, transakcie a streamy senzorov, do centrálnych trénovacích klastrov.
Laboratóriá umelej inteligencie s vysokou hustotou a testovacie platformy pre výskum a vývoj

Laboratóriá umelej inteligencie s vysokou hustotou a testovacie platformy pre výskum a vývoj

  • Nasaďte flexibilné laboratóriá umelej inteligencie založené na Ethernete, kde môžu výskumníci rýchlo prekonfigurovať uzly GPU, úložisko a testovať siete bez špecializovaných znalostí InfiniBand.
  • Na overenie nových rámcov umelej inteligencie, distribuovaných trénovacích knižníc a zmiešaných generácií GPU pred ich zavedením do produkčného prostredia použite ethernetové klastre typu leaf-spine.
  • Nastavte zdieľané laboratórne siete so 100–400GbE prepínačmi, aby viaceré tímy mohli izolovať experimenty pomocou VLAN a VRF namiesto samostatných fyzických sietí.
Inferencia citlivá na latenciu a agregácia hrán cez Ethernet

Inferencia citlivá na latenciu a agregácia hrán cez Ethernet

  • Poskytujte inferenciu v reálnom čase pre odporúčania, detekciu podvodov a konverzačnú umelú inteligenciu pomocou nízkolatenciového 25/100GbE Ethernetu na jadrovej a agregačnej vrstve.
  • Prenášajte dáta z okrajových brán umelej inteligencie a mikro dátových centier do centrálnych klastrov GPU cez 100/200/400GbE Ethernet namiesto špecializovaných fabric.
  • Vytvorte horizontálne škálovateľné inferenčné vrstvy, kde ethernetové prepínače a sieťové karty spracovávajú prevádzku mikroslužieb východ-západ a toky API sever-juh v jednej zjednotenej sieti.

Často kladené otázky

Kedy má zmysel zvoliť Ethernet namiesto InfiniBandu pre klastre s umelou inteligenciou?

  • Klastre umelej inteligencie založené na Ethernete sú skvelou voľbou, keď sú vaše školiace úlohy stredne veľké až veľké, ale nie hyperškálovateľné, uprednostňujete interoperabilitu s existujúcim Ethernetom dátového centra a chcete využívať nástroje vyspelej ekosystémovej siete namiesto budovania vyhradeného ostrova InfiniBand.
  • V scenároch, kde je dôležitá úplná redukcia latencie, ale nie je jediným dominantným úzkym hrdlom – napríklad v zmiešaných tréningových/inferenčných prostrediach, farmách GPU s viacerými nájomníkmi alebo v podnikoch konsolidujúcich HPC a všeobecné pracovné zaťaženie na jednej infraštruktúre, použite prepínače 100/200/400/800GbE typu leaf-spine, ako sú napríklad balíky Arista DCS-7050SX3, DCS-7280CR3, DCS-7388X5 alebo platformy založené na NVIDIA/Mellanox Spectrum.

Ako si môžem vybrať medzi prepínačmi 100GbE, 200GbE, 400GbE a 800GbE pre môj klaster GPU?

  • Začnite na strane servera: skontrolujte rýchlosť sieťovej karty pre každý GPU server (napr. 2×100GbE alebo 1×400GbE). Potom prispôsobte veľkosť koncových prepínačov (napríklad série DCS-7050SX3-48YC12-F alebo NVIDIA 920-9N42F-00RI) tak, aby zodpovedali rýchlosti prístupových portov a cieľovému prekročeniu počtu predplatených zariadení, a vyberte chrbticové prepínače (napr. DCS-7260CX3-64E#, DCS-7800R3 alebo Spectrum-4 SPC4-E0256E*) na nasledujúcej rýchlostnej úrovni, aby ste udržali nízku latenciu medzi východom a západom.
  • Pre husté tréningové pody alebo budúce zavedenie 800GbE sieťových kariet zvážte najprv siete s podporou 400/800GbE a potom na úrovni koncových vrstiev zmiešajte 100/200GbE. Ak poskytnete stručnú topológiu a počty GPU/NIC, náš tím môže overiť počet portov, pomery uplinku a rastovú kapacitu prostredníctvom... bezplatná podpora dizajnu CCIEUpozornenie: Konkrétne záručné podmienky a podporné služby sa môžu líšiť v závislosti od produktu a regiónu. Presné podrobnosti nájdete v oficiálnych informáciách. V prípade ďalších otázok kontaktujte: router-switch.com.

Sú tieto ethernetové prepínače a sieťové karty s umelou inteligenciou interoperabilné s mojou existujúcou sieťou Cisco alebo sieťou od rôznych dodávateľov?

  • Série Arista 7050/7260/7280/7388 a 7800R3, ako aj prepojovacie siete NVIDIA Spectrum a Cisco (napr. HCI-FI-6454-M6), sú navrhnuté na prevádzku štandardného Ethernetu/IP, vďaka čomu sú interoperabilné na úrovni L2/L3 s väčšinou podnikových prepínačov Cisco, HPE, Juniper a ďalších, ak sú nakonfigurované so štandardnými protokolmi (BGP, OSPF, EVPN-VXLAN, MLAG atď.).
  • Pre klastre umelej inteligencie je bežným postupom prevádzkovať vyhradenú neblokujúcu štruktúru leaf-spine pre GPU pomocou týchto vysokorýchlostných prepínačov a sieťových kariet (MCX4621A-ACAB, MBF2H532C-AECOT, Intel X550/I350) a potom túto štruktúru smerovať alebo prepojiť s vaším existujúcim jadrom. Pred nákupom je vhodné overiť softvérové ​​obrazy, optiku a kompatibilitu funkcií; naši inžinieri vám môžu pomôcť skontrolovať verzie operačných systémov a podrobnosti o interoperabilite pomocou vášho aktuálneho zoznamu hardvéru.

Na aké úskalia nasadenia si mám dávať pozor pri budovaní ethernetovej štruktúry umelej inteligencie?

  • Kľúčovými rizikami sú úrovne nadmerného predplatného, ​​ktoré sú príliš vysoké pre kolektívne operácie, nekonzistentné ladenie ECN/RED pre RDMA cez konvergovaný Ethernet (ak je povolený) a miešanie prevádzky GPU citlivej na latenciu s hlučnými tokmi úložiska alebo zálohovania na rovnakých VLAN bez oddelenia QoS.
  • Pri nasadzovaní prepínačov, ako sú DCS-7280CR3, zväzky 7388X5, chrbtice 7800R3 alebo Spectrum-4, včas definujte, či používate RoCE, obyčajný TCP alebo hybridnú politiku, a potom zarovnajte vyrovnávacie pamäte, PFC/ECN a prioritné fronty medzi sieťovými kartami a prepínačmi. Taktiež včas naplánujte štruktúrovanú kabeláž a optiku (DAC vs. AOC vs. optika), aby ste sa vyhli neskorším nezhodám rýchlosti portov a neočakávaným nákladom. Naše bezplatná podpora CCIE si môžete pred spustením skontrolovať šablóny konfigurácie. Upozornenie: Konkrétne záručné podmienky a podporné služby sa môžu líšiť v závislosti od produktu a regiónu. Presné podrobnosti nájdete v oficiálnych informáciách. V prípade ďalších otázok kontaktujte: router-switch.com.

Ako sa riešia dodacie lehoty, doprava, dane a clo pre tieto ethernetové prepínače a sieťové karty s umelou inteligenciou?

  • Dodacia lehota a možnosti dopravy pre produkty ako Arista DCS-7050/7260/7280/7388, 7800R3, NVIDIA Spectrum, prepojovacie siete Cisco Fabric a sieťové karty Mellanox/Intel budú závisieť od aktuálnej úrovne zásob, konfigurácie (zdrojové zdroje, optika, balíky) a cieľovej krajiny. V prípade položiek na sklade je možné prepravnú lehotu často optimalizovať na základe zvoleného dopravcu a regiónu, ale nie je možné ju zaručiť. Typické možnosti a podmienky dopravy si môžete pozrieť na naša stránka so spôsobmi dopravy.
  • Dane, DPH a dovozné clá sa v jednotlivých krajinách a podľa Incoterms značne líšia. Aby ste sa vyhli oneskoreniam pri colnom konaní alebo neočakávaným poplatkom, odporúčame vám overiť si miestne daňové pravidlá s vaším finančným tímom a používať náš sprievodca daňami a clami ako referenčný bod plánovania pred dokončením objednávky.

A čo záruka, vrátenie tovaru a riziko životného cyklu (EOL/EOSL) pre klastrové zariadenia s umelou inteligenciou na báze Ethernetu?

  • Rôzni dodávatelia a skladové jednotky – ako napríklad séria Arista DCS, prepínače a sieťové karty NVIDIA/Mellanox SPC4, prepojovacie siete Cisco Fabric a sieťové karty založené na procesoroch Intel – môžu mať rôzne záručné schémy a úrovne služieb. Prehľad nášho štandardného krytia nájdete tu. naše záručné podmienkya použitie kontrola EOL/EOSL pochopiť stav životného cyklu a vyhnúť sa investovaniu do platforiem, ktoré sa blížia k dôchodku.
  • Ak sa zariadenie vo vašej ethernetovej AI infraštruktúre dostane chybné alebo zlyhá pri prvom použití, mali by ste postupovať podľa krokov popísaných v naše pokyny na vrátenie tovaru minimalizovať prestoje a zdokumentovať RMA. Upozornenie: Konkrétne záručné podmienky a podporné služby sa môžu líšiť v závislosti od produktu a regiónu. Presné podrobnosti nájdete v oficiálnych informáciách. V prípade ďalších otázok kontaktujte: router-switch.com.

Viac riešení

Ethernet vs InfiniBand for AI & HPC Networks

Ethernet vs. InfiniBand pre siete AI a HPC

Zamerané porovnanie Ethernetu a InfiniBandu pre AI/HPC siete – latencia, škálovanie, RDMA a kompromisy v oblasti nákladov.

Siete umelej inteligencie a vysokovýkonných výpočtov
GPU Cluster Networking Solutions for AI Scale-Out

Riešenia sieťových klastrov GPU pre škálovanie AI

Navrhnite vysokovýkonné ethernetové štruktúry pre klastre AI GPU so škálovateľnou topológiou, prepínaním s nízkou latenciou a architektúrou pripravenou na nasadenie.

Sieť klastrov AI GPU
Lossless Ethernet for AI & HPC Networks

Bezstratový Ethernet pre siete AI a HPC

Vytvárajte bezstratové ethernetové štruktúry pre umelú inteligenciu a vysokovýkonné výpočty s návrhom pripraveným na RoCE, pokynmi pre riadenie preťaženia a škálovateľným plánovaním siete s nízkou latenciou.

Bezstratový Ethernet
Prihlásiť sa
Registrácia