Come testare le reti di data center AI

Piattaforma di test per centri dati AI
+ Emulatore di traffico 800GE

Riproduzione di un comportamento di rete realistico dei carichi di lavoro basati sull'intelligenza artificiale

Il benchmarking delle reti di intelligenza artificiale / apprendimento automatico (AI / ML) con carichi di lavoro realistici richiede in genere investimenti in sistemi di elaborazione dotati di GPU e controller di interfaccia di rete (NIC) con accesso diretto alla memoria remota (RDMA), la cui realizzazione è costosa e la cui gestione richiede molto tempo. L’implementazione e la gestione di questi sistemi per la validazione e la sperimentazione su scala terabit in laboratorio sono necessarie per ottimizzare appieno le reti di intelligenza artificiale. Un corretto benchmarking e collaudo delle reti di IA richiede l’analisi di vari parametri quali la topologia del fabric, gli algoritmi di controllo della congestione, i meccanismi di bilanciamento del carico o le capacità di ritrasmissione.

La generazione di traffico realistico e su larga scala di carichi di lavoro di IA per il benchmarking di rete richiede emulatori di endpoint RDMA over Converged Ethernet (RoCEv2) e software dotato di metodologie predefinite che supportino modelli di comunicazione collettiva (tra cui all-to-all, all-reduce, all-gather e altri). Il software fornisce carichi di lavoro specifici per le reti di IA che aiutano a misurare metriche chiave quali il tempo di completamento dei lavori e la larghezza di banda del bus. Metodologie di validazione più avanzate includono l’emulazione di più tenant con collettivi paralleli misti, nonché la riproduzione di tracce predefinite di carichi di lavoro di IA.

Soluzione per il collaudo delle reti dei data center basate sull'intelligenza artificiale

Per testare la rete di un data center dedicato all’intelligenza artificiale sono necessari emulatori di traffico di rete e software dotati di metodologie predefinite che supportino i carichi di lavoro di intelligenza artificiale. La soluzione di test per la rete di un data center dedicato all’intelligenza artificiale comprende l’emulatore di endpoint Keysight AresONE 1600GE RoCEv2 abbinato al software Keysight AI Data Center Builder. Questa soluzione è in grado di creare in modo ripetibile scenari con diverse dimensioni di dati derivanti dalle comunicazioni collettive all’interno di un cluster di intelligenza artificiale. Ogni porta dell’AresONE emula GPU e schede di rete RDMA. Il traffico comprende l’emulazione di connessioni e flussi di tipo Queue Pair (QP), la generazione di notifiche di congestione, l’esecuzione del controllo dinamico della velocità basato su Data Center Quantized Congestion Notification (DCQCN) e offre la flessibilità necessaria per testare la velocità effettiva, la gestione del buffer e l’hashing Equal Cost Multi-Path (ECMP). Grazie a questa soluzione, gli ingegneri possono eseguire molteplici esperimenti di progettazione, misurare i miglioramenti delle prestazioni in laboratorio e quindi applicare i risultati a un ambiente di produzione senza la necessità di nodi di calcolo dedicati all’IA e schede di rete (NIC) in laboratorio.

Guarda la demo della nostra soluzione di test per data center basata sull'intelligenza artificiale

Scopri i prodotti della nostra gamma di soluzioni per il collaudo delle reti

Casi d'uso correlati

contattaci logo

Mettetevi in contatto con uno dei nostri esperti

Avete bisogno di aiuto per trovare la soluzione giusta per voi?