KI-Cluster wachsen selten linear. GPU-Dichten, Modellgrößen und Ost-West-Datenverkehrsmuster entwickeln sich schneller als die meisten Aktualisierungszyklen von Rechenzentren. Viele Teams verfügen daher über Spine-Leaf-Architekturen, die genau dann an ihre Grenzen stoßen, wenn der Trainingsbedarf seinen Höhepunkt erreicht. Die Herausforderung besteht darin, die KI-Netzwerkkapazität zu erweitern, ohne den Cluster zu fragmentieren, im ersten Jahr zu viel zu dimensionieren oder sich auf eine Topologie festzulegen, die später keine schnelleren Verbindungen zulässt.

Dieser Abschnitt beschreibt, wie eine Architektur entworfen wird, die Spine- und Leaf-Layer schrittweise skalieren kann und gleichzeitig für 100G- und 400G-Geschwindigkeiten gerüstet ist. Der Fokus liegt auf praktischen Entscheidungspunkten: Wo werden hochdichte Spine-Switches platziert? Wie erfolgt die Leaf-Erweiterung um GPU-Server herum? Und wann werden 400G-Module und -Verbindungen eingeführt, damit die heutigen Cluster-Upgrades mit den langfristigen Zielen hinsichtlich KI-Kapazität und Latenz übereinstimmen?