Wie man die Leistung von KI-Workloads bei Isolation misst

+ Keysight AI Data Center Builder

Quantifizierung der Interferenzen durch gleichzeitige Arbeitslast

Die Isolationstests der KI-Leistung beginnen mit zwei definierten Workload-Profilen und einer gemeinsamen Netzwerktopologie für deren Datenverkehrspfade. Konfigurieren Sie einen Basis-Workload mit einer festgelegten Anzahl emulierter Endpunkte, Nachrichtengrößen, angebotener Last und Kommunikationsmuster. Führen Sie diesen allein aus und erfassen Sie die Job-Abschlusszeit, den Durchsatz und die Latenzstatistiken der verfügbaren Testkonfiguration. Belassen Sie die Fabric-Parameter und die Einstellungen zur Datenverkehrsgenerierung für den ersten Vergleich unverändert. Starten Sie den Basis-Workload erneut und fügen Sie gleichzeitig einen zweiten Workload mit einem separaten Satz emulierter Endpunkte hinzu. Konfigurieren Sie dessen Startzeit und Datenverkehrsintensität so, dass der Überlappungszeitraum in den Messdaten erkennbar ist. Erfassen Sie die Ergebnisse für beide Workloads separat.

Vergleichen Sie Basis- und Parallelmessungen, um die Auswirkungen von Workload-Interferenzen zu quantifizieren. Berechnen Sie für jedes Verkehrsprofil die Veränderung der Job-Abschlusszeit, der bereitgestellten Bandbreite und der Latenzverteilung zwischen isoliertem und gemeinsam genutztem Fabric-Betrieb. Wiederholen Sie den Vorgang mit unterschiedlichen Überlappungsdauern oder Aggressorlasten, während die primäre Workload-Konfiguration konstant bleibt. Überwachen Sie relevante Netzwerkindikatoren wie Warteschlangenverhalten, Überlastungssignale und Statistiken zu Paketverlusten oder -wiederholungen, sofern diese Messwerte von der Plattform verfügbar sind. Speichern Sie das Lastmodell und die getestete Fabric-Konfiguration zusammen mit den Ergebnissen. KI-Fabric-Tests können dann dieselbe Workload-Paarung nach einer kontrollierten Änderung der Scheduling-, Topologie- oder Überlastungsmanagement-Einstellungen wiederholen. Das Ergebnis ist ein Vergleich der Auswirkungen der Ressourcenteilung auf die gemessene Leistung pro Workload.

Lösung für Leistungsisolationstests von KI-Workloads

Für Tests zur Leistungsisolation sind unabhängig voneinander gesteuerte Workload-Streams, eine gemeinsame Netzwerkinfrastruktur und Messwerte für jeden Workload erforderlich. Keysight AI Data Center Builder kann Kommunikationsmuster von KI-Workloads emulieren und kontrollierte Testkonfigurationen für die Netzwerkinfrastruktur unterstützen. Mithilfe repräsentativer Profile des gleichzeitigen Datenverkehrs können Ingenieure isolierte Referenzmessungen erstellen und diese anschließend mit überlappenden Workload-Läufen vergleichen. Die Testmethodik für die KI-Netzwerkinfrastruktur beschreibt die Leistungsisolation zusammen mit Stauvermeidung, Lastverteilung und Jobabschlusszeit als Bewertungskriterien. Der vorgeschlagene Workflow erfasst die gleichzeitigen Lastbedingungen, das Verhalten der Abschlusszeit pro Workload sowie relevante Durchsatz- oder Netzwerkstatistiken. Die Wiederholung der Messungen nach einer kontrollierten Konfigurationsänderung liefert vergleichende Leistungsdaten. Die genaue Verfügbarkeit der Jobstatistiken und der Hardwarekonfiguration sollte anhand der Softwareversion und des ausgewählten PDFs überprüft werden, bevor die Beschreibung als produktspezifische Leistungsangabe veröffentlicht wird.

Angebot anfordern