Cosa rende le reti dei data center AI diverse dai data center tradizionali?

Le reti dei data center AI sono progettate per l'elaborazione massivamente parallela e il trasferimento di dati tra GPU strettamente accoppiate. A differenza delle tradizionali reti aziendali o cloud, che in genere sono ottimizzate per il traffico nord-sud e i modelli client-server, le reti AI devono supportare un traffico est-ovest ad alta velocità e bassa latenza attraverso switch fabric ad alta radice. I carichi di lavoro di addestramento dell'AI comportano comunicazioni all-to-all e many-to-many, che richiedono una sincronizzazione precisa tra migliaia di nodi. Ciò si traduce in modelli di traffico burstosi, non uniformi e altamente sensibili alla congestione. Gli strumenti di validazione standard spesso non sono all'altezza perché non sono in grado di simulare i carichi di lavoro complessi e su larga scala tipici degli ambienti AI/ML. Keysight AI Data Center Builder è stato appositamente progettato per questo spazio perché modella la topologia fisica e logica, emula carichi di lavoro AI realistici ed espone i colli di bottiglia delle prestazioni a livello di sistema prima dell'implementazione dell'hardware.

Come posso simulare i carichi di lavoro dell'IA per la convalida dei data center?

Per simulare accuratamente i carichi di lavoro dell'IA è necessaria un'emulazione del traffico che rispecchi il comportamento comunicativo dei lavori di addestramento e inferenza. L'addestramento dell'IA genera un traffico sincronizzato, intermittente e ad alto volume. Questi flussi sollecitano la rete in modo diverso rispetto ai carichi di lavoro tradizionali e possono sovraccaricare i buffer degli switch, innescare il blocco dell'inizio della linea o saturare collegamenti specifici. Keysight AI Data Center Builder consente di generare questi esatti modelli di traffico su larga scala, attraverso endpoint GPU sintetici, switch programmabili e interconnessioni di fabric. Consente di modellare i tassi di arrivo dei lavori in modo da simulare l'arrivo di un numero elevato di lavori in un breve lasso di tempo. Keysight AI Data Center Builder consente di generare questi esatti modelli di traffico su larga scala, su endpoint GPU sintetici, switch programmabili e interconnessioni di fabric. Consente di modellare le frequenze di arrivo dei lavori, le dimensioni delle raffiche e i tempi di sincronizzazione per fornire un modo realistico e ripetibile di misurare il comportamento del sistema in condizioni rappresentative di AI/ML. Questa emulazione del carico di lavoro è essenziale per la convalida iniziale della topologia, del routing e delle strategie di scheduling in ambienti di data center ad alte prestazioni. Questa emulazione del carico di lavoro è essenziale per la convalida nella fase iniziale delle strategie di topologia, routing e scheduling in ambienti di data center ad alte prestazioni.

Perché i test di congestione sono importanti nella progettazione dei data center AI?

I carichi di lavoro dell'IA richiedono un elevato utilizzo dei collegamenti e una stretta sincronizzazione tra i cluster GPU. Qualsiasi congestione a livello di fabric (latenza di coda) può causare ritardi di accodamento o perdita di pacchetti, che a loro volta provocano blocchi della GPU e un calo delle prestazioni di addestramento. Poiché molti framework di IA si basano sulla comunicazione collettiva, il nodo più lento della rete può creare un collo di bottiglia per l'intero lavoro. I test delle prestazioni tradizionali spesso non rilevano queste interazioni. L'analisi della congestione basata sull'emulazione di Keysight offre una visibilità end-to-end sul flusso di traffico, sui punti caldi e sulla propagazione della congestione. È possibile testare diverse topologie, simulare contese in tempo reale e valutare come la congestione si propaga. L'analisi della congestione basata sull'emulazione di Keysight fornisce una visibilità end-to-end sul flusso di traffico, sui punti caldi e sulla propagazione della congestione. È possibile testare diverse topologie, simulare la contesa in tempo reale e valutare come l'accumulo di code influisca sulla latenza e sul throughput. Il risultato è una comprensione più approfondita di come la progettazione della topologia, gli algoritmi di routing e le strategie di buffer influiscano sull'efficienza complessiva del sistema prima di impegnarsi nell'hardware o nell'implementazione dei carichi di lavoro.

Come posso valutare le prestazioni dei data center AI durante lo sviluppo?

Un benchmarking efficace dell'infrastruttura dei data center AI richiede test a livello di sistema che rispecchino i modelli di comunicazione AI reali. Ciò include la valutazione della latenza end-to-end, del throughput e del comportamento di congestione tra i nodi di calcolo, gli switch fabric e i collegamenti di interconnessione. Con Keysight AI Data Center Builder, è possibile eseguire benchmark delle prestazioni controllati e ripetibili utilizzando l'emulazione del traffico a livello di applicazione. La piattaforma supporta il test del comportamento di scalabilità (ad esempio, come cambiano le prestazioni con un numero maggiore di GPU), lo stress test con più lavori simultanei e la misurazione di KPI critici quali il tempo di completamento dei lavori, la perdita di pacchetti e i punti caldi di congestione. Confrontando diversi fornitori di switch, tecnologie di collegamento o topologie, i team possono prendere decisioni architetturali basate sui dati. Queste informazioni aiutano a ottimizzare la progettazione del fabric per l'efficienza della formazione, ridurre al minimo il sottoutilizzo e accelerare l'implementazione di un'infrastruttura AI scalabile.

Qual è il vantaggio dell'utilizzo di strumenti di emulazione per la pianificazione dei data center AI?

Strumenti di emulazione come Keysight AI Data Center Builder consentono la pianificazione proattiva e la convalida dell'infrastruttura di rete AI senza la necessità di GPU o switch fisici. Consentono di creare gemelli digitali della topologia del data center, simulare carichi di lavoro AI realistici e analizzare le prestazioni del sistema in condizioni di traffico variabili. Questo approccio virtualizzato consente di identificare i difetti di progettazione, valutare architetture alternative e ottimizzare le strategie di routing e scheduling prima dell'implementazione dell'hardware. Esponendo tempestivamente i colli di bottiglia delle prestazioni e i rischi di congestione, l'emulazione riduce le costose iterazioni di progettazione e minimizza il rischio di inefficienze negli ambienti live. Per i team che pianificano l'espansione dei cluster GPU, la migrazione della topologia o l'implementazione di switch di nuova generazione, l'emulazione offre un modo scalabile e a basso rischio per garantire la prontezza e le prestazioni su larga scala.

Costruttore di data center AI

Ecco la pagina che pensavamo cercaste. Visualizza invece i risultati della ricerca:

Configurazioni popolari

Crea il mio prodotto

Panoramica
Tutti i modelli
Accessori
Software
Supporto

Avanti

Emula i carichi di lavoro dell'IA per ottimizzare le prestazioni e l'affidabilità dei data center

Keysight AI (KAI) Data Center Builder è una soluzione di emulazione che consente di pianificare e convalidare l’infrastruttura di intelligenza artificiale prima della sua implementazione. È possibile modellare architetture di rete, simulare carichi di lavoro realistici, verificare l’isolamento delle prestazioni tra tenant e testare scenari di throughput e gestione della congestione su nodi di calcolo, switch e interconnessioni. KAI Data Center Builder offre visibilità sulle prestazioni a livello di sistema, consentendo scelte progettuali più oculate per massimizzare l’efficienza e l’affidabilità. Sia che si tratti di convalidare nuove topologie o di valutare aggiornamenti di rete, KAI Data Center Builder consente di farlo più rapidamente, con minori rischi e con una maggiore comprensione. Scegli un modello in bundle con un acceleratore hardware oppure opta per una soluzione esclusivamente software. Richiedi oggi stesso un preventivo per una delle nostre configurazioni più richieste. Hai bisogno di aiuto nella scelta? Consulta le risorse riportate di seguito.

Emulazione del carico di lavoro

Simula i modelli di traffico relativi all'addestramento e all'inferenza dell'IA per valutare come la tua rete gestisce carichi di lavoro realistici e a picchi su server, switch e interconnessioni.

Benchmarking delle prestazioni

Eseguire test prestazionali a livello di sistema per valutare l'impatto dei parametri dei modelli di IA, della configurazione di rete, dell'isolamento multi-tenant e di tutte le loro interazioni su larga scala.

Visualizzazione del flusso di dati

Analizzare la latenza di coda, individuare i colli di bottiglia e comprendere in che modo la topologia di rete e le scelte relative ai componenti influiscano sulle prestazioni dell'intero sistema.

Ottimizzazione della rete

Estendere la validazione a più tenant con gruppi eterogenei e verificare la stabilità a lungo termine della rete per individuare tempestivamente eventuali difetti di progettazione ed evitare costosi problemi in produzione.

Protocol support

RDMA, RoCEv2
Collective operations supported

All reduce, All gather, Reduce scatter, All to all, Broadcast, Gather, Unidirectional ring, Bidirectional ring, Halving-doubling all reduce, Parallel, PXN all to all, All gather (unidirectional ring), All reduce (bidirectional ring; halving doubling; unidirectional ring), All to all (parallel; PXN), Broadcast (parallel), Gather (parallel), Reduce scatter (unidirectional ring)
Compatible hardware

AresONE-M, AresONE-S, AresONE 1600, RDMA NIC
Applications

IxNetwork, Collective Benchmarks, Workload Emulation
License types

Perpetual, Hardware Bundle, Software Bundle, Transport Endpoint, Application
Ports

4 to 16
Interface

QSFP-DD, OSFP, QSFP-DD800

Configurazioni più popolari

Pacchetto iniziale KAI Data Center Builder con applicazione Collective Benchmarks

Modello

950-2001

Il pacchetto iniziale per la creazione di data center KAI include l'applicazione Collective Benchmarks con una licenza illimitata.

Immagine di KAI Data Center Builder con l'applicazione Collective Benchmarks

KAI Data Center Builder con applicazione Collective Benchmarks

Modello

950-2101

Il costruttore di data center KAI include l'applicazione Collective Benchmarks con una licenza illimitata.

Immagine di KAI Data Center Builder con il plugin di emulazione del flusso di dati

KAI Data Center Builder con plug-in di emulazione del flusso di dati

Modello

950-2201

Il generatore di data center KAI include il plug-in Data Flow Emulation con 16 endpoint di trasporto universali.

Scegli il KAI Data Center Builder più adatto alle tue esigenze

Le risorse riportate di seguito ti aiuteranno a determinare la piattaforma di test di cui hai bisogno.

Esplorare le risorse

Scheda tecnica: Keysight AI Data Center Builder
Panoramica della soluzione: Keysight AI Data Center Builder
Esplora il nostro catalogo di emulatori di traffico Ethernet
Come le reti AI/ML si differenziano dalle reti tradizionali
Come testare le reti di data center AI

Servizi e assistenza

KeysightCare

Innova rapidamente grazie a piani di assistenza personalizzati e tempi di risposta e risoluzione prioritari.

Alternative finanziarie

Ottieni abbonamenti prevedibili basati su leasing e soluzioni complete per la gestione dell'intero ciclo di vita, in modo da raggiungere più rapidamente i tuoi obiettivi aziendali.

Portale di assistenza Keysight

Beneficia di un servizio di alto livello come abbonato KeysightCare per ottenere assistenza tecnica dedicata e molto altro ancora.

Calibrazione

Assicurati che il tuo sistema di test funzioni secondo le specifiche e soddisfi gli standard locali e globali.

Istruzione

Effettua misurazioni rapidamente grazie alla formazione interna con istruttore e all'e-learning.

Centro di download del software

Scarica il software Keysight o aggiorna il tuo software alla versione più recente.

Domande frequenti

Torna all'inizio

Iniziate il vostro preventivo scegliendo un prodotto Selezionate una configurazione di seguito

Keysight AI Data Center Builder Accelerare la progettazione e l'implementazione dell'infrastruttura di rete per l'intelligenza artificiale

Emula i carichi di lavoro dell'IA per ottimizzare le prestazioni e l'affidabilità dei data center

Emulazione del carico di lavoro

Benchmarking delle prestazioni

Visualizzazione del flusso di dati

Ottimizzazione della rete

Configurazioni più popolari

Pacchetto iniziale KAI Data Center Builder con applicazione Collective Benchmarks

KAI Data Center Builder con applicazione Collective Benchmarks

KAI Data Center Builder con plug-in di emulazione del flusso di dati

Servizi e assistenza

Domande frequenti

Cosa rende le reti dei data center AI diverse dai data center tradizionali?

Come posso simulare i carichi di lavoro dell'IA per la convalida dei data center?

Perché i test di congestione sono importanti nella progettazione dei data center AI?

Come posso valutare le prestazioni dei data center AI durante lo sviluppo?

Qual è il vantaggio dell'utilizzo di strumenti di emulazione per la pianificazione dei data center AI?