Cours

Leçon 1 - Introduction aux réseaux de centres de données pour l'IA et l'apprentissage automatique

Ce bootcamp sur la mise en réseau de l'IA explore les différences entre l'apprentissage automatique et l'inférence dans les centres de données, en mettant l'accent sur les performances des GPU, les goulets d'étranglement du réseau, les échecs du flux de travail et les défis de mise à l'échelle. Il met l'accent sur l'optimisation de la latence, de la fiabilité et de l'infrastructure pour prendre en charge efficacement les charges de travail d'IA à haute performance.

Livres blancs

Leçon 2 - En quoi les réseaux d'IA et d'apprentissage automatique diffèrent-ils des réseaux traditionnels ?

L'intelligence artificielle (IA) et l'apprentissage automatique (ML) entraînent de grands changements dans les réseaux de centres de données - notamment de nouvelles exigences, de nouveaux modèles de trafic et de nouvelles technologies. Découvrez comment les solutions Keysight contribuent à optimiser les réseaux d'IA.

Leçon 3 - Optimisation des performances du back-end IA/ML

Le KAI Data Center Builder de Keysight optimise la conception des centres de données dédiés à l’IA en émulant les charges de travail des GPU, en évaluant les performances du réseau backend et en identifiant les goulots d’étranglement. Il permet de tester de manière évolutive et économique les infrastructures d’entraînement et d’inférence de l’IA sans avoir besoin de GPU physiques en laboratoire.

Livres blancs

Leçon 4 - Analyse comparative des opérations collectives

L'analyse comparative des performances des réseaux joue un rôle essentiel dans l'identification des possibilités d'amélioration du débit global sans coûts matériels supplémentaires. L'analyse comparative des opérations collectives est une méthodologie fondamentale pour comprendre les limites de performance de l'infrastructure d'IA distribuée. Ce livre blanc explique le fonctionnement des collectifs d'IA, définit la terminologie et passe en revue les mesures les plus courantes associées à l'analyse comparative des réseaux d'IA.

Livres blancs

Leçon 5 - Améliorer l'évolutivité des clusters de centres de données dédiés à l'IA

Les modèles d'IA devenant de plus en plus complexes et volumineux, la mise à l'échelle efficace des clusters de centres de données est devenue une priorité essentielle pour les organisations qui souhaitent rester compétitives. Ce livre blanc explore l'essor des clusters d'IA, met en évidence les principaux défis de mise à l'échelle - en particulier au sein de l'infrastructure réseau - et démontre comment les solutions d'émulation avancées peuvent vous aider à surmonter ces obstacles.

Leçons

Leçon 6 - Présentation de la méthodologie de test « AI Fabric » de Keysight

Cette session présente la méthodologie de test de structure IA de Keysight à l'aide de KAI Data Center Builder. Elle aborde des concepts clés tels que la conception topologique, le contrôle de la congestion et les indicateurs de performance, et montre comment les tests automatisés et le réglage de la configuration optimisent les performances des réseaux IA. Une démonstration en direct met en évidence les avantages du contrôle de la congestion pour maximiser la bande passante et l'efficacité.

Notes d'application

Leçon 7 - Méthodologie de test des tissus AI

Dans le contexte des systèmes d'intelligence artificielle (IA), en particulier des grands modèles de langage (LLM), un réseau fait référence à l'infrastructure sous-jacente qui relie et permet la communication entre divers composants ou nœuds au sein du système. La structure du réseau est cruciale pour faciliter le fonctionnement efficace et effectif du système d'IA, y compris la formation au LLM.

Leçon 8 - Introduction à la validation des réseaux frontaux des centres de données d'IA

La solution Cyperf de Keysight permet de réaliser des tests sécurisés et à faible latence sur les réseaux frontaux des centres de données basés sur l'IA, garantissant ainsi une ingestion efficace des données et une communication à haut débit. Elle valide la bande passante, la latence et la sécurité, optimisant ainsi l'infrastructure pour prendre en charge l'entraînement évolutif et hautement performant de grands modèles linguistiques.

Leçons

Leçon 9 - Validation des réseaux d'IA côté client

Formation LM, mettant en avant la solution CyPerf de Keysight pour tester les performances, l'évolutivité et la sécurité des réseaux de centres de données dédiés à l'IA.

Notes d'application

Leçon 10 - Délestages réseau haute performance pour les plateformes cloud axées sur l'IA et l'apprentissage automatique

Une approche pour valider et tester la performance du SmartNIC, de l'infrastructure LLM sous-jacente et de divers composants de réseau.

Leçon 11 - Études de cas et stratégies relatives aux réseaux des centres de données dédiés à l'IA

Dans cette dernière session, les clients partagent des cas d'utilisation réels des outils Keysight couverts tout au long du bootcamp. Le programme s'achève avec la présentation par Ram Periakaruppan d'une vue d'ensemble des solutions AI Data Center de Keysight couvrant l'infrastructure de calcul, d'interconnexion, de mise en réseau et d'alimentation.

Études de cas

Leçon 12 - Exemple de réussite : la mise en place de réseaux d’IA de nouvelle génération

Keysight aide Juniper à valider le réseau de nouvelle génération en émulant la charge de travail collective des communications provenant d'un grand nombre d'accélérateurs d'IA.

Rapports

Leçon 13 - Rapport de test Tolly : analyse comparative des performances en matière d'IA des serveurs Dell PowerEdge et des puces Broadcom

L'intelligence artificielle (IA) impose des exigences nouvelles et sans précédent aux serveurs et à la structure du réseau. Au cours du processus de formation à l'IA, des quantités massives de données doivent être échangées entre les serveurs. Dell a demandé à Tolly d'évaluer les performances de déchargement IPv6 RDMA du contrôleur Broadcom 57508 Dual-Port 100 Gb/s Ethernet (adaptateur LAN) fonctionnant dans les serveurs en rack Dell PowerEdge R760xa en effectuant des tests avec les repères Keysight AI.

Livres électroniques

Leçon 14 - 5 stratégies clés pour optimiser et faire évoluer les centres de données dédiés à l'IA

L'eBook explore la mise à l'échelle des centres de données d'IA, l'optimisation des GPU, les interconnexions à haut débit, l'efficacité énergétique et la fiabilité du réseau. Il met en avant les solutions Keysight AI (KAI) pour la validation, l'analyse comparative et l'optimisation.

Produit connexe

Cas d'utilisation connexe