Wie man AI-Rechenzentrumsnetzwerke testet

+ 800GE Verkehrsemulator

Reproduktion des realistischen Netzwerkverhaltens von KI-Workloads

Das Benchmarking von KI-/ML-Netzwerken mit realistischen Arbeitslasten erfordert typischerweise Investitionen in Rechensysteme mit GPUs und RDMA-Netzwerkschnittstellen (NICs), deren Aufbau kostspielig und deren Betrieb zeitaufwändig ist. Die Bereitstellung und der Betrieb dieser Systeme für Validierungs- und Experimentierzwecke im Terabit-Bereich im Labor sind notwendig, um die KI-Netzwerke vollständig zu optimieren. Für ein aussagekräftiges Benchmarking und Testen von KI-Netzwerken müssen verschiedene Parameter wie die Netzwerktopologie, Algorithmen zur Staukontrolle, Lastverteilungsmechanismen und die Möglichkeiten zur erneuten Übertragung analysiert werden.

Um realistischen, hochskalierten KI-Workload-Traffic für Netzwerk-Benchmarking zu generieren, werden RDMA over Converged Ethernet (RoCEv2)-Endpunktemulatoren und Software mit vorkonfigurierten Methoden benötigt, die kollektive Kommunikationsmuster (wie All-to-All, All-Reduce, All-Gather usw.) unterstützen. Die Software stellt KI-Netzwerk-spezifische Workloads bereit, mit denen sich wichtige Kennzahlen wie Job-Abschlusszeit und Busbandbreite messen lassen. Zu den erweiterten Validierungsmethoden gehören die Emulation mehrerer Mandanten mit gemischten parallelen Kollektiven sowie die Wiedergabe vordefinierter KI-Workload-Traces.

KI-Rechenzentrumsnetzwerktestlösung

Das Testen eines KI-Rechenzentrumsnetzwerks erfordert Netzwerkverkehrsemulatoren und Software mit vorkonfigurierten Methoden, die KI-Workloads unterstützen. Die Testlösung für KI-Rechenzentrumsnetzwerke umfasst die Keysight AresONE 1600GE RoCEv2 Endpunktemulation in Kombination mit der Keysight AI Data Center Builder Software. Diese Lösung ermöglicht die reproduzierbare Erstellung von Szenarien mit unterschiedlichen Datengrößen, die aus der kollektiven Kommunikation in einem KI-Cluster resultieren. Jeder Port des AresONE emuliert GPUs und RDMA-Netzwerkkarten. Der simulierte Datenverkehr beinhaltet die Emulation von Queue-Pair-Verbindungen (QP) und -Flows, die Generierung von Staubenachrichtigungen, die Durchführung einer dynamischen Ratensteuerung basierend auf Data Center Quantized Congestion Notification (DCQCN) sowie die flexible Prüfung von Durchsatz, Pufferverwaltung und ECMP-Hashing (Equal Cost Multi-Path). Mit dieser Lösung können Ingenieure verschiedene Designexperimente durchführen, die Leistungsverbesserungen im Labor messen und die Ergebnisse anschließend in einer Produktionsumgebung anwenden, ohne dass dedizierte KI-Rechenknoten und Netzwerkkarten im Labor erforderlich sind.

Angebot anfordern

Sehen Sie sich die Demo unserer KI-Rechenzentrumstestlösung an

Entdecken Sie Produkte in unseren Netzwerktestlösungen

941-0134 AresONE 1600GE-C, OSFP1600 IHS

Mehr erfahren Datenblatt ansehen
950-2001 KAI Data Center Builder Start Bundle mit Collective Benchmarks Anwendung

Mehr erfahren Datenblatt ansehen
930-2208 IxNetwork RoCEv2 Lossless Ethernet Testpaket

Mehr erfahren Datenblatt ansehen