Come misurare l'isolamento delle prestazioni del carico di lavoro dell'IA

Preventivo
Costruttore di centri dati AI di Keysight
+ Keysight AI Data Center Builder
Costruttore di centri dati AI di Keysight
+ Keysight AI Data Center Builder

Quantificare l'interferenza tra i carichi di lavoro concorrenti

I test di isolamento delle prestazioni dell’IA iniziano con due profili di carico di lavoro definiti e una topologia di rete condivisa dai rispettivi percorsi di traffico. Configurare un carico di lavoro di riferimento con un numero specificato di endpoint emulati, dimensioni dei messaggi, carico offerto e modello di comunicazione. Eseguirlo da solo e registrare il tempo di completamento del processo, la velocità effettiva e le statistiche di latenza fornite dalla configurazione di test disponibile. Mantenere invariati i parametri del fabric e le impostazioni di generazione del traffico per il confronto iniziale. Avviare nuovamente il carico di lavoro di riferimento introducendo al contempo un secondo carico di lavoro che utilizzi un insieme separato di endpoint emulati. Configurarne l’ora di inizio e l’intensità del traffico in modo che il periodo di sovrapposizione possa essere identificato nel registro delle misurazioni. Raccogliere i risultati separatamente per entrambi i carichi di lavoro.

Confrontare le misurazioni di riferimento con quelle effettuate in esecuzione simultanea per quantificare l’interferenza tra i carichi di lavoro. Per ciascun profilo di traffico, calcolare la variazione nel tempo di completamento dei lavori, nella larghezza di banda erogata e nella distribuzione della latenza tra il funzionamento in fabric isolato e quello in fabric condiviso. Ripetere l’operazione con diverse durate di sovrapposizione o carichi aggressori, mantenendo costante la configurazione del carico di lavoro primario. Monitorare gli indicatori di rete pertinenti, quali il comportamento delle code, i segnali di congestione e le statistiche relative alle perdite o alle ritrasmissioni, qualora tali misurazioni siano disponibili sulla piattaforma. Conservare il modello di carico e la configurazione del fabric testata insieme ai risultati. I test del fabric basati sull’intelligenza artificiale possono quindi ripetere lo stesso abbinamento di carichi di lavoro dopo una modifica controllata alle impostazioni di schedulazione, topologia o gestione della congestione. Il risultato è un confronto, per ciascun carico di lavoro, di come la condivisione delle risorse modifichi le prestazioni misurate.

Soluzione per il test dell'isolamento delle prestazioni dei carichi di lavoro basati sull'intelligenza artificiale

I test di isolamento delle prestazioni richiedono flussi di carico di lavoro controllati in modo indipendente, un fabric di rete condiviso e misurazioni attribuibili a ciascun carico di lavoro. Keysight AI Data Center Builder è in grado di emulare i modelli di comunicazione dei carichi di lavoro di intelligenza artificiale e supporta configurazioni di test controllate del fabric. Utilizzando profili di traffico concorrente rappresentativi, gli ingegneri possono stabilire misurazioni di riferimento isolate e poi confrontarle con esecuzioni di carichi di lavoro sovrapposte. La metodologia di test del fabric AI descrive l’isolamento delle prestazioni insieme alla gestione della congestione, al bilanciamento del carico e al tempo di completamento dei lavori come argomenti di valutazione. Il flusso di lavoro proposto registra le condizioni di carico simultaneo, il comportamento dei tempi di completamento per singolo carico di lavoro e le statistiche rilevanti relative alla larghezza di banda o alla rete. La ripetizione delle misurazioni dopo una modifica controllata della configurazione fornisce dati comparativi sulle prestazioni. L’esatta disponibilità delle statistiche per singolo lavoro e della configurazione hardware deve essere verificata in base alla versione del software e al PDF selezionato prima che la descrizione venga pubblicata come dichiarazione di funzionalità specifica del prodotto.
Preventivo

Guarda il video dimostrativo della soluzione per i test di isolamento delle prestazioni dei carichi di lavoro basati sull'intelligenza artificiale

Scopri i prodotti della nostra soluzione per i test di isolamento delle prestazioni dei carichi di lavoro basati sull'intelligenza artificiale

Scoprire risorse e approfondimenti

Risorse aggiuntive per i test di isolamento delle prestazioni dei carichi di lavoro basati sull'intelligenza artificiale

Casi d'uso correlati

Come convalidare le reti a fiducia zero

La convalida delle reti a fiducia zero richiede una soluzione che ricrei le condizioni di traffico, il comportamento degli utenti e i cyberattacchi del mondo reale. Scoprite come convalidare i controlli di accesso e i criteri di sicurezza individualmente e come parte di un'implementazione end-to-end.

Per saperne di più

Come testare le reti di data center AI

L'emulazione di carichi di lavoro AI/ML in un ambiente di laboratorio per eseguire benchmark e misurare le prestazioni del tessuto di rete con risultati ripetibili richiede generatori di traffico ad alta densità e software specializzato. Scoprite come identificare la causa principale dei colli di bottiglia della rete che incidono sui tempi di formazione dell'AI/Machine Learning.

Per saperne di più

Come convalidare le interconnessioni Ethernet nei data center

La convalida delle interconnessioni Ethernet nei data center richiede test precisi su affidabilità e prestazioni. Scoprite come garantire una trasmissione dei dati e una correzione degli errori di alta qualità.

Per saperne di più

contattaci logo

Mettetevi in contatto con uno dei nostri esperti

Avete bisogno di aiuto per trovare la soluzione giusta per voi?

Contattaci