Corso

Lezione 1 - Introduzione alle reti dei data center per l'IA e l'apprendimento automatico

Questo bootcamp dedicato al networking AI esplora le differenze tra machine learning e inferenza nei data center, mettendo in evidenza le prestazioni delle GPU, i colli di bottiglia della rete, i guasti del flusso di lavoro e le sfide legate alla scalabilità. Si concentra sull'ottimizzazione della latenza, dell'affidabilità e dell'infrastruttura per supportare in modo efficace i carichi di lavoro AI ad alte prestazioni.

White Paper

Lezione 2 - In che modo le reti di IA/ML differiscono dalle reti tradizionali

L'intelligenza artificiale (AI) e l'apprendimento automatico (ML) stanno determinando grandi cambiamenti nelle reti di data center, compresi nuovi requisiti, modelli di traffico e tecnologie. Scoprite come le soluzioni Keysight aiutano a ottimizzare le reti AI.

Lezione 3 - Ottimizzazione delle prestazioni del back-end di IA/ML

Il KAI Data Center Builder di Keysight ottimizza la progettazione dei data center per l'intelligenza artificiale emulando i carichi di lavoro delle GPU, valutando le prestazioni della rete di backend e individuando i colli di bottiglia. Consente di eseguire test scalabili ed economici sull'infrastruttura di addestramento e inferenza dell'intelligenza artificiale senza la necessità di disporre di GPU fisiche in laboratorio.

White Paper

Lezione 4 - Analisi comparativa delle operazioni collettive

Il benchmarking delle prestazioni di rete svolge un ruolo fondamentale nell'identificare le opportunità per migliorare la produttività complessiva senza costi aggiuntivi per l'hardware. Il benchmarking delle operazioni collettive è una metodologia fondamentale per comprendere i limiti prestazionali dell'infrastruttura AI distribuita. Questo white paper il funzionamento dei collettivi AI, definisce la terminologia e passa in rassegna le metriche più comuni associate al benchmarking delle reti AI.

White Paper

Lezione 5 - Miglioramento della scalabilità nei cluster di data center dedicati all'intelligenza artificiale

Con l'aumento della complessità e delle dimensioni dei modelli di intelligenza artificiale, l'efficace scalabilità dei cluster di data center è diventata una priorità fondamentale per le aziende che vogliono rimanere competitive. Questo white paper esplora l'ascesa dei cluster di IA, evidenzia le principali sfide di scalabilità, in particolare nell'ambito dell'infrastruttura di rete, e dimostra come le soluzioni di emulazione avanzate possano aiutarvi a superare questi ostacoli.

Lezioni

Lezione 6 - Presentazione della metodologia di test AI Fabric di Keysight

Questa sessione illustra la metodologia di test dell'infrastruttura AI di Keysight utilizzando KAI Data Center Builder. Tratta concetti chiave quali la progettazione della topologia, il controllo della congestione e le metriche delle prestazioni, dimostrando come i test automatizzati e la messa a punto della configurazione ottimizzino le prestazioni della rete AI. Una demo dal vivo evidenzia i vantaggi del controllo della congestione nel massimizzare la larghezza di banda e l'efficienza.

Note applicative

Lezione 7 - Metodologia di test di AI Fabric

Nel contesto dei sistemi di Intelligenza Artificiale (IA), in particolare dei Large Language Models (LLM), un tessuto di rete si riferisce all'infrastruttura sottostante che collega e consente la comunicazione tra i vari componenti o nodi del sistema. Il tessuto di rete è fondamentale per facilitare il funzionamento efficiente ed efficace dei sistemi di intelligenza artificiale, compreso l'addestramento degli LLM.

Lezione 8 - Introduzione alla convalida delle reti front-end dei data center basati sull'intelligenza artificiale

Cyperf di Keysight consente di eseguire test sicuri e a bassa latenza sulle reti front-end dei data center basati sull'intelligenza artificiale, garantendo un’acquisizione efficiente dei dati e comunicazioni ad alta velocità. Verifica la larghezza di banda, la latenza e la sicurezza, ottimizzando l’infrastruttura per supportare l’addestramento scalabile e ad alte prestazioni di modelli linguistici di grandi dimensioni.

Lezioni

Lezione 9 - Verifica delle reti di intelligenza artificiale front-end

Formazione su LM, con particolare attenzione a CyPerf di Keysight per la verifica delle prestazioni, della scalabilità e della sicurezza nelle reti dei data center basati sull’intelligenza artificiale.

Note applicative

Lezione 10 - Offload di rete ad alte prestazioni per piattaforme cloud incentrate sull’IA e sull’apprendimento automatico

Un approccio per convalidare e testare le prestazioni di SmartNIC, dell'infrastruttura LLM sottostante e di vari componenti di rete.

Lezione 11 - Casi di studio e strategie relative alle reti dei data center per l'intelligenza artificiale

In questa sessione finale, i clienti condividono casi d'uso reali degli strumenti Keysight trattati durante il bootcamp. Il programma si conclude con una panoramica completa delle soluzioni AI Data Center di Keysight che abbracciano infrastrutture di calcolo, interconnessione, networking e alimentazione, presentata dal dirigente Ram Periakaruppan.

Casi di studio

Lezione 12 - Storia di successo: la creazione di reti di intelligenza artificiale di nuova generazione

Keysight aiuta Juniper a convalidare il tessuto di rete di prossima generazione emulando il carico di lavoro delle comunicazioni collettive provenienti da una vasta scala di acceleratori AI.

Rapporti

Lezione 13 - Rapporto di prova Tolly: benchmark delle prestazioni AI di Dell PowerEdge e Broadcom

L'intelligenza artificiale (AI) pone nuove e inedite esigenze ai server e al tessuto di rete. Durante il processo di formazione dell'intelligenza artificiale, è necessario scambiare enormi quantità di dati tra i server. Dell ha commissionato a Tolly un benchmark delle prestazioni di offload IPv6 RDMA del controller Broadcom 57508 Dual-Port 100 Gb/s Ethernet (adattatore LAN) in esecuzione nei server rack Dell PowerEdge R760xa mediante test con i benchmark AI di Keysight.

eBook

Lezione 14 - 5 strategie chiave per ottimizzare e scalare i data center basati sull’intelligenza artificiale

L'eBook esplora la scalabilità dei data center AI, l'ottimizzazione delle GPU, le interconnessioni ad alta velocità, l'efficienza energetica e l'affidabilità della rete. Evidenzia le soluzioni Keysight AI (KAI) per la validazione, il benchmarking e l'ottimizzazione.

Prodotto correlato

Caso d'uso correlato