Expressversand nach
Kontakt
Bestellung verfolgen
Suche
Beliebte Suche
Anfrage
Warenkorb
Login

Gutschein
Jetzt zitieren,
bis zu 8% sparen.

Anfrage
Kontakt

Rückmeldung
Ihre Rückmeldung
Wie würden Sie uns bewerten?
Einfache Anwendung:
Kauffeedback:
Produktdetails:

Ethernet-basierte KI-Cluster ohne InfiniBand

Ethernet-basierte KI-Cluster ohne InfiniBand
  • Einleitung / Intro
  • Challenges
  • Empfohlene Produkte
  • Vergleichen
  • Anwendungen
Bekomme Hilfe von einem Experten

Entwurf von Ethernet-KI-Fabrics

Entwurf von Ethernet-KI-Fabrics

  • Viele KI-Teams gehen mittlerweile über Pilotprojekte hinaus und setzen auf produktionsreifes Training. Dabei stellen sie fest, dass InfiniBand nicht immer verfügbar, kostengünstig oder mit ihren bestehenden Rechenzentren kompatibel ist. Mit steigender Anzahl an GPUs müssen Architekten entscheiden, wann moderne Ethernet-basierte KI-Cluster die Anforderungen an Latenz, Durchsatz und Konvergenz erfüllen und gleichzeitig in bestehende Netzwerkarchitekturen und Budgetvorgaben passen.

    Dieser Abschnitt beschreibt die wichtigsten Entscheidungskriterien für die Auswahl von Ethernet-Fabrics für KI-Workloads: Welche Trainings- und Inferenzprofile eignen sich? Wie können Leaf-Spine-Architekturen mit 25/100/200/400/800GbE InfiniBand ersetzen oder ergänzen? Und wo werden Hochgeschwindigkeits-Spines, Switches und Netzwerkkarten in die Architektur integriert? Die folgenden Inhalte helfen dabei, Workload-, Skalierungs- und Betriebsprioritäten in konkrete Ethernet-Design- und SKU-Auswahlen zu übersetzen.

Entwicklung praktikabler Ethernet-KI-Architekturen

Der Aufbau von Ethernet-basierten KI-Clustern erfordert sorgfältige Abwägungen hinsichtlich Latenz, Überbelegung, Skalierbarkeit und Lebenszyklus – es geht nicht einfach um einen Austausch gegen InfiniBand.

Entwicklung praktikabler Ethernet-KI-Architekturen

  • Latenz und Durchsatz von KI-Systemen über Ethernet

    Sicherstellen, dass GPU-Cluster die Trainings-SLAs über Ethernet erfüllen, indem die Hop-Anzahl, ECMP und Überbuchung ohne kostspielige Überdimensionierung ausgeglichen werden.

  • Skalierung von Dornenblättern ohne unkontrollierten TCO-Anstieg

    Die Auswahl von Portgeschwindigkeiten und Switch-Tiers, die auf Tausende von GPUs skalieren, ohne dass Optik, Verkabelung und Energiebudget explodieren.

  • Integration verschiedener Netzwerkkarten und zukünftiger Upgrades

    Die Server-NICs, Legacy-Knoten und zukünftige 400/800GbE-Fabrics aufeinander abzustimmen und gleichzeitig eine Abhängigkeit von bestimmten Anbietern sowie aufwändige Umstrukturierungen des KI-Netzwerks zu vermeiden.

Entwicklung von Ethernet-Fabrics für KI

Klären Sie, wann Ethernet-basierte GPU-Cluster hinsichtlich Kosten, Skalierbarkeit und Betrieb mit InfiniBand gleichziehen oder diese übertreffen.

Wenn Ethernet IB schlägt

Identifizieren Sie KI-Workloads, bei denen eine Latenz von 100–800 GbE völlig akzeptabel ist.

Stoff- und Topologieauswahl

Map leaf–dornen-Optionen mit Arista/NVIDIA-Dornen und Mellanox-NICs.

Kosten- und Lebenszykluskontrolle

Reduzierung der Investitionskosten und Vereinfachung von Upgrades im Vergleich zu InfiniBand-zentrierten Systemen.

Ethernet AI Fabrics vs. InfiniBand Vergleich

Vergleichen Sie InfiniBand mit Ethernet-basierten KI-Clustern, um zu sehen, wann Ethernet-Switching die schnellere und schlankere Wahl für Ihre GPU-Infrastruktur ist.

Funktion InfiniBand-zentrierter KI-Cluster Ethernet-basierter KI-Cluster (Allgemein)
Optimierter Ethernet-KI-Cluster (Leaf–Spine, Hot)
 Ergebnis für Sie
Einsatzpassung Speziell entwickelt für sehr große, eng gekoppelte HPC/KI-Aufgaben; oft überdimensioniert für gemischte KI-Anwendungen in Unternehmen. Gut geeignet für die meisten KI-Trainings- und Inferenzanwendungen, bei denen extrem niedrige Latenzzeiten nicht zwingend erforderlich sind. Konzipiert für eine Hochgeschwindigkeits-Ethernet-Leaf-Spine-Architektur mit KI-optimierten Switches und NICs aus dem SKU-Set. Die Komplexität der Architektur sollte an die tatsächlichen KI-Workloads angepasst werden, anstatt standardmäßig eine Überdimensionierung auf HPC-Niveau vorzunehmen.
Leistung und Latenz Ausgezeichnete Rohlatenz und Staukontrolle, erfordert jedoch spezielle Kenntnisse für die Feinabstimmung. Wettbewerbsfähiger Durchsatz; die Latenz ist für viele GPU-Workloads ausreichend, kann aber je nach Design variieren. Nutzt 100/200/400/800GbE Leaf-Spine plus RoCE-Tuning, um Jitter und Tail-Latenz für GPUs zu minimieren. Erreichen Sie nahezu IB-Performance für gängige KI-Anwendungen und bleiben Sie dabei bei Ihren gewohnten Ethernet-Tools und -Kenntnissen.
Skalierbarkeit und Stoffdesign Lässt sich gut skalieren, erfordert aber oft proprietäre Tools und strengere Topologiebeschränkungen. Skaliert mit Standard-Ethernet-ECMP; gemischte Herstellerdesigns können zu Inkonsistenzen führen. Nutzt eine Standard-Leaf-Spine-Architektur mit validierten Switch/NIC-Kombinationen, was die Skalierung und Upgrades vereinfacht. Skalieren Sie GPU-Cluster vorhersagbar, ohne sich auf exotische Topologien oder die Beschränkung auf einen einzigen Hersteller festzulegen.
Kostenprofil (Investitionskosten/Betriebskosten) Höhere Kosten für Verbindungen, Switches und Adapter; die Betriebskosten steigen mit spezialisiertem Fachwissen und Werkzeugen. Kostengünstigere Switches und Netzwerkkarten, aber bei größerem Umfang kann es zu einer Optimierung nach dem Trial-and-Error-Prinzip kommen. Der SKU-basierte Ethernet-Stack reduziert das Rätselraten, optimiert die Portgeschwindigkeiten und vermeidet Überbelegung für KI. Senken Sie die Gesamtkosten pro GPU und erzielen Sie gleichzeitig von Anfang an eine zuverlässige Fabric-Performance.
Ökosystem und Interoperabilität Starke Stärken im HPC-Bereich; eingeschränkte Interoperabilität mit Standard-Netzwerkgeräten für Unternehmen. Ein breites Ökosystem mit heterogenen Komponenten kann das RoCE- und QoS-Verhalten verkomplizieren. Verwendet Ethernet-KI-Switches, Spines und NICs der Enterprise-Klasse, die für die Zusammenarbeit entwickelt wurden. Vereinfachung der Integration mit bestehendem DC-Ethernet bei gleichzeitiger Beibehaltung der Deterministik der KI-Architektur.
Operative Komplexität Erfordert IB-spezifische Überwachung, Stoffmanagement und hochqualifizierte Bediener. Vertraute Ethernet-Operationen, aber der GPU-Datenverkehr kann ohne sorgfältige QoS unvorhersehbar sein. Nutzt Standard-Ethernet-Operationen sowie KI-orientiertes QoS, PFC/ECN und Referenzdesigns. Betreiben Sie eine KI-Infrastruktur mit bestehenden NetOps-Teams, um einen parallelen IB-Kompetenz- und Werkzeugkasten zu vermeiden.
Anwendungsfall optimal Massive, latenzempfindliche Supercomputer und KI-Trainingscluster der Spitzenklasse. Allgemeine KI-, Analyse- und MLO-Lösungen für Unternehmen, bei denen Flexibilität im Vordergrund steht. KI-Cluster für Unternehmen und die Cloud, bei denen die Gesamtbetriebskosten, Einfachheit und eine schnelle Wertschöpfung Vorrang vor der absoluten IB-Latenz haben. Wählen Sie den Zeitpunkt, an dem Sie eine hohe KI-Performance benötigen, die mit Ihrem Budget, Ihren Fähigkeiten und der Agilität Ihres Unternehmens übereinstimmt.
Zukunftsflexibilität Die Migration oder Konvergenz mit Ethernet erfordert zusätzliche Gateways oder eine Neugestaltung. Mit bestehenden DC-Netzwerken kompatibel, muss aber bei zunehmender Skalierung möglicherweise überarbeitet werden. Beginnt mit Ethernet, mit einem klaren Fahrplan zur Skalierung der Verbindungsgeschwindigkeiten und zum Hinzufügen von Ebenen, ohne die Technologiefamilie zu wechseln. Halten Sie sich zukünftige Optionen offen und bauen Sie gleichzeitig eine KI-Infrastruktur auf, die sich mit den Arbeitslasten und der Hardware weiterentwickeln kann.

Benötigen Sie Hilfe? Technische Experten stehen Ihnen jetzt zur Verfügung.

  • +1-626-655-0998 (USA)
    UTC 15:00-00:00
  • +852-2592-5389 (HK)
    UTC 00:00-09:00
  • +852-2592-5411 (HK)
    UTC 06:00-15:00
Angebot Anfordern
Live-Chat
Benötigen Sie Hilfe? Technische Experten stehen Ihnen jetzt zur Verfügung.

Anwendungsfälle für Ethernet-KI-Cluster

Wo Ethernet-basierte GPU-Cluster und KI-Trainingsnetzwerke gegenüber InfiniBand für skalierbare Leistung und Kosteneffizienz bevorzugt werden.

KI-Trainingscluster für Unternehmen ohne InfiniBand

KI-Trainingscluster für Unternehmen ohne InfiniBand

  • Aufbau von Ethernet-basierten GPU-Trainingsclustern für Computer Vision, NLP und Empfehlungsmodelle, bei denen Latenz und Durchsatz von 100–400GbE den Projekt-SLAs entsprechen.
  • Durch die Konsolidierung verschiedener KI-Workloads auf einem gemeinsamen Ethernet-Fabric können Data-Science-, Analytics- und MLOps-Teams ohne separate InfiniBand-Insel koexistieren.
  • Verwenden Sie Leaf-Spine 100/200/400GbE-Switches und Ethernet-NICs zur Verbindung von GPU-Servern in Unternehmensrechenzentren, die auf IP-Netzwerke standardisieren.
Cloud-native und mandantenfähige KI-Dienste über Ethernet

Cloud-native und mandantenfähige KI-Dienste über Ethernet

  • Bereitstellung von KI-als-Dienstleistung und GPU-Slices für mehrere Mandanten über Ethernet-basierte Netzwerke, wobei IP-Routing, VLANs und QoS die Mandantenfähigkeit vereinfachen.
  • Betreiben Sie Kubernetes- oder OpenShift-basierte KI-Plattformen auf 25/100GbE ToR-Switches, die GPU-Knoten, Speicher und Service-Meshes in Cloud-nativen Umgebungen verbinden.
  • Nutzen Sie Hochgeschwindigkeits-Ethernet-Spines, um mehrere KI-Pods und Verfügbarkeitszonen über regionale Rechenzentren hinweg zu verbinden und so eine flexible GPU-Kapazitätsverteilung zu ermöglichen.
Datenanalyse, Feature Stores und Vorverarbeitungspipelines

Datenanalyse, Feature Stores und Vorverarbeitungspipelines

  • Führen Sie umfangreiche ETL-, Feature-Engineering- und Datenkennzeichnungs-Pipelines über 25/100GbE-Ethernet aus, wobei Speicher- und GPU-Cluster ein gemeinsames IP-Fabric nutzen.
  • Verbinden Sie Objektspeicher, Data Warehouses und GPU-Beschleuniger über Ethernet-Switches, damit Trainingsdaten effizient fließen können, ohne dass ein paralleles InfiniBand-Netzwerk erforderlich ist.
  • Nutzen Sie 200/400GbE Spine-Switches, um KI-Datenpipelines aus verschiedenen Domänen, wie z. B. Protokolle, Transaktionen und Sensordatenströme, in zentralen Trainingsclustern zu aggregieren.
Hochdichte KI-Labore und F&E-Testumgebungen

Hochdichte KI-Labore und F&E-Testumgebungen

  • Es werden flexible, Ethernet-basierte KI-Labore eingerichtet, in denen Forscher GPU-Knoten, Speicher und Testumgebungen schnell und ohne spezielle InfiniBand-Kenntnisse neu konfigurieren können.
  • Nutzen Sie Leaf-Spine-Ethernet-Cluster, um neue KI-Frameworks, verteilte Trainingsbibliotheken und GPU-Generationen unterschiedlicher Bauart zu validieren, bevor Sie diese in die Produktion einführen.
  • Richten Sie gemeinsam genutzte Labor-Backbones mit 100–400GbE-Switches ein, damit mehrere Teams Experimente mithilfe von VLANs und VRFs anstelle separater physischer Fabrics isolieren können.
Latenzsensitive Inferenz und Edge-Aggregation über Ethernet

Latenzsensitive Inferenz und Edge-Aggregation über Ethernet

  • Bereitstellung von Echtzeit-Inferenz für Empfehlungssysteme, Betrugserkennung und dialogbasierte KI unter Verwendung von latenzarmem 25/100GbE-Ethernet auf der Kern- und Aggregationsschicht.
  • Backhaul-Datenverkehr von Edge-KI-Gateways und Mikro-Rechenzentren zu zentralen GPU-Clustern über 100/200/400GbE-Ethernet anstelle von spezialisierten Fabrics.
  • Aufbau horizontal skalierbarer Inferenzebenen, in denen Ethernet-Switches und NICs den Ost-West-Microservices-Datenverkehr und die Nord-Süd-API-Flüsse in einem einheitlichen Netzwerk verarbeiten.

Häufig gestellte Fragen

Wann ist es sinnvoll, Ethernet anstelle von InfiniBand für KI-Cluster zu wählen?

  • Ethernet-basierte KI-Cluster eignen sich hervorragend, wenn Ihre Trainingsaufträge mittelgroß bis groß, aber nicht hyperskalierbar sind, Sie Wert auf Interoperabilität mit dem bestehenden Ethernet des Rechenzentrums legen und Sie auf ausgereifte Ökosystem-Tools zurückgreifen möchten, anstatt eine dedizierte InfiniBand-Insel aufzubauen.
  • Verwenden Sie 100/200/400/800GbE Leaf-Spine-Switches wie Arista DCS-7050SX3, DCS-7280CR3, DCS-7388X5 Bundles oder NVIDIA/Mellanox Spectrum-basierte Plattformen in Szenarien, in denen eine reduzierte Gesamtlatenz wichtig ist, aber nicht der alleinige dominierende Flaschenhals – zum Beispiel in gemischten Trainings-/Inferenzumgebungen, Multi-Tenant-GPU-Farmen oder Unternehmen, die HPC- und allgemeine Workloads auf einem Fabric konsolidieren.

Wie wähle ich zwischen 100GbE-, 200GbE-, 400GbE- und 800GbE-Switches für meinen GPU-Cluster aus?

  • Beginnen Sie serverseitig: Prüfen Sie die Netzwerkkartengeschwindigkeit pro GPU-Server (z. B. 2 × 100 Gbit/s oder 1 × 400 Gbit/s). Dimensionieren Sie anschließend Ihre Leaf-Switches (z. B. DCS-7050SX3-48YC12-F oder NVIDIA 920-9N42F-00RI-Serie) passend zur Geschwindigkeit der Zugriffsports und den Überbuchungszielen. Wählen Sie Spine-Switches (z. B. DCS-7260CX3-64E#, DCS-7800R3 oder Spectrum-4 SPC4-E0256E*) mit der nächsthöheren Geschwindigkeit, um die Ost-West-Latenz gering zu halten.
  • Für dichte Trainingsnetzwerke oder die zukünftige Einführung von 800-GbE-Netzwerkkarten empfiehlt es sich, zunächst 400/800-GbE-fähige Spine-Netzwerke zu verwenden und anschließend 100/200-GbE-Netzwerkkarten auf der Leaf-Ebene zu integrieren. Wenn Sie uns eine kurze Topologiebeschreibung und die Anzahl der GPUs/Netzwerkkarten mitteilen, kann unser Team die Anzahl der Ports, die Uplink-Verhältnisse und das Erweiterungspotenzial überprüfen. kostenlose CCIE-DesignunterstützungBitte beachten Sie: Die genauen Garantiebedingungen und Supportleistungen können je nach Produkt und Region variieren. Genaue Informationen finden Sie in den offiziellen Produktinformationen. Bei weiteren Fragen wenden Sie sich bitte an: router-switch.com.

Sind diese Ethernet-AI-Switches und NICs mit meinem bestehenden Cisco- oder gemischten Herstellernetzwerk kompatibel?

  • Die Arista-Serien 7050/7260/7280/7388 und 7800R3 sowie NVIDIA Spectrum und Cisco Fabric Interconnects (z. B. HCI-FI-6454-M6) sind für den Betrieb von Standard-Ethernet/IP ausgelegt und daher auf L2/L3 mit den meisten Cisco-, HPE-, Juniper- und anderen Enterprise-Switches interoperabel, wenn sie mit Standardprotokollen (BGP, OSPF, EVPN-VXLAN, MLAG usw.) konfiguriert sind.
  • Für KI-Cluster ist es üblich, ein dediziertes, nicht-blockierendes Leaf-Spine-Fabric für GPUs mit diesen Hochgeschwindigkeits-Switches und Netzwerkkarten (MCX4621A-ACAB, MBF2H532C-AECOT, Intel X550/I350) zu betreiben und dieses Fabric anschließend in Ihren bestehenden Kern einzubinden. Vor dem Kauf empfehlen wir, die Kompatibilität von Software-Images, Optiken und Funktionen zu überprüfen. Unsere Ingenieure unterstützen Sie gerne bei der Prüfung der Betriebssystemversionen und der Interoperabilität anhand Ihrer aktuellen Hardware.

Welche Fallstricke bei der Implementierung sollte ich beim Aufbau einer Ethernet-basierten KI-Infrastruktur beachten?

  • Wesentliche Risiken sind Überbuchungsniveaus, die für den kollektiven Betrieb zu hoch sind, inkonsistente ECN/RED-Abstimmung für RDMA über Converged Ethernet (falls aktiviert) und die Vermischung von latenzempfindlichem GPU-Datenverkehr mit störungsanfälligen Speicher- oder Backup-Datenströmen auf denselben VLANs ohne QoS-Trennung.
  • Bei der Bereitstellung von Switches wie DCS-7280CR3, 7388X5-Bundles, 7800R3-Spine-Switches oder Spectrum-4 sollte frühzeitig festgelegt werden, ob RoCE, reines TCP oder eine Hybridrichtlinie verwendet wird. Anschließend sollten Puffer, PFC/ECN und Prioritätswarteschlangen über die Netzwerkkarten und Switches hinweg aufeinander abgestimmt werden. Auch die strukturierte Verkabelung und die optische Infrastruktur (DAC vs. AOC vs. optische Verbindungen) sollten frühzeitig geplant werden, um spätere Geschwindigkeitsunterschiede und unerwartete Kosten zu vermeiden. kostenloser CCIE-Support Wir können Ihre Konfigurationsvorlagen vor der Bereitstellung prüfen. Bitte beachten Sie: Die genauen Garantiebedingungen und Supportleistungen können je nach Produkt und Region variieren. Genaue Informationen finden Sie in den offiziellen Unterlagen. Bei weiteren Fragen wenden Sie sich bitte an: router-switch.com.

Wie werden Lieferzeiten, Versand, Steuern und Zollabwicklung für diese Ethernet-AI-Switches und NICs gehandhabt?

  • Lieferzeiten und Versandoptionen für Produkte wie Arista DCS-7050/7260/7280/7388, 7800R3, NVIDIA Spectrum, Cisco Fabric Interconnects und Mellanox/Intel-Netzwerkkarten hängen vom aktuellen Lagerbestand, der Konfiguration (Netzteile, Optiken, Bundles) und Ihrem Zielland ab. Bei Lagerware lässt sich die Lieferzeit oft durch die Wahl des Versanddienstleisters und der Region optimieren, jedoch nicht garantieren. Typische Versandoptionen und -bedingungen finden Sie unter [Link einfügen]. Seite zu unseren Versandmethoden.
  • Steuern, Mehrwertsteuer und Einfuhrzölle variieren stark je nach Land und Incoterms. Um Verzögerungen bei der Zollabfertigung oder unerwartete Gebühren zu vermeiden, empfehlen wir Ihnen, die lokalen Steuerbestimmungen mit Ihrem Finanzteam abzuklären und die entsprechenden Incoterms zu nutzen. Unser Leitfaden zu Steuern und Zöllen als Planungsgrundlage vor der endgültigen Bestellung.

Wie sieht es mit Garantie, Rückgabe und Lebenszyklusrisiken (EOL/EOSL) für Ethernet-basierte KI-Cluster-Geräte aus?

  • Verschiedene Hersteller und Produktvarianten – wie beispielsweise Arista DCS-Serien, NVIDIA/Mellanox SPC4-Switches und -Netzwerkkarten, Cisco Fabric Interconnects und Intel-basierte Netzwerkkarten – können unterschiedliche Garantiebedingungen und Serviceleistungen bieten. Eine Übersicht unserer Standardabdeckung finden Sie hier: unsere Garantiebestimmungenund verwenden der EOL/EOSL-Prüfer den Lebenszyklusstatus zu verstehen und Investitionen in Plattformen, die sich dem Ende ihrer Nutzungsdauer nähern, zu vermeiden.
  • Wenn ein Gerät in Ihrem Ethernet-AI-Netzwerk defekt ankommt oder beim ersten Einsatz ausfällt, sollten Sie die in folgendem Abschnitt beschriebenen Schritte befolgen: unsere Rücksendeanweisungen Um Ausfallzeiten zu minimieren und die RMA zu dokumentieren. Bitte beachten Sie: Die spezifischen Garantiebedingungen und Supportleistungen können je nach Produkt und Region variieren. Genaue Informationen finden Sie in den offiziellen Unterlagen. Bei weiteren Fragen wenden Sie sich bitte an: router-switch.com.

Weitere Lösungen

Ethernet vs InfiniBand for AI & HPC Networks

Ethernet vs. InfiniBand für KI- und HPC-Netzwerke

Ein fokussierter Vergleich von Ethernet und InfiniBand für KI/HPC-Fabrics – Latenz, Skalierung, RDMA und Kosten-Kompromisse.

KI- und HPC-Netzwerke
GPU Cluster Networking Solutions for AI Scale-Out

GPU-Cluster-Netzwerklösungen für die KI-Skalierung

Entwicklung von leistungsstarken Ethernet-Fabrics für KI-GPU-Cluster mit skalierbarer Topologieführung, latenzarmer Umschaltung und sofort einsatzbereiter Architektur.

KI-GPU-Cluster-Netzwerk
Lossless Ethernet for AI & HPC Networks

Verlustfreies Ethernet für KI- und HPC-Netzwerke

Entwickeln Sie verlustfreie Ethernet-Fabrics für KI und HPC mit RoCE-fähigem Design, Unterstützung bei der Staukontrolle und skalierbarer Netzwerkplanung mit niedriger Latenz.

Verlustfreies Ethernet
Anmelden
Registrieren