En quoi les réseaux de centres de données IA diffèrent-ils des centres de données traditionnels ?

Les réseaux de centres de données IA sont conçus pour le traitement massivement parallèle et le transfert de données entre des GPU étroitement couplés. Contrairement aux réseaux d'entreprise ou cloud traditionnels, qui sont généralement optimisés pour le trafic nord-sud et les modèles client-serveur, les réseaux IA doivent prendre en charge un trafic est-ouest à haut débit et faible latence sur des structures de commutation à base élevée. Les charges de travail de formation de l'IA impliquent des communications de type « tout-à-tout » et « plusieurs-à-plusieurs », ce qui nécessite une synchronisation précise entre des milliers de nœuds. Il en résulte des modèles de trafic irréguliers, non uniformes et très sensibles à la congestion. Les outils de validation standard sont souvent insuffisants, car ils ne permettent pas de simuler les charges de travail complexes et à grande échelle typiques des environnements d'IA/ML. Keysight AI Data Center Builder est spécialement conçu pour cet espace. Les outils de validation standard sont souvent insuffisants, car ils ne permettent pas de simuler les charges de travail complexes et à grande échelle typiques des environnements IA/ML. Keysight AI Data Center Builder est spécialement conçu pour cet espace, car il modélise la topologie physique et logique, émule des charges de travail IA réalistes et expose les goulots d'étranglement au niveau des performances du système avant le déploiement du matériel.

Comment simuler des charges de travail IA pour la validation des centres de données ?

Pour simuler avec précision les charges de travail IA, il faut une émulation du trafic qui reflète le comportement de communication des tâches d'entraînement et d'inférence. L'entraînement IA génère un trafic synchronisé, intense et en rafales. Ces flux sollicitent le réseau différemment des charges de travail traditionnelles et peuvent saturer les tampons des commutateurs, déclencher un blocage en tête de ligne ou saturer des liaisons spécifiques. Keysight AI Data Center Builder vous permet de générer ces modèles de trafic exacts à grande échelle, sur des terminaux GPU synthétiques, des commutateurs programmables et des interconnexions de structure. Il vous permet de modéliser les taux d'arrivée des tâches, la taille des rafales et le timing de synchronisation afin de fournir un moyen réaliste et reproductible de mesurer le comportement du système dans des conditions représentatives d'IA/ML. Cette émulation de charge de travail est essentielle pour la validation précoce des stratégies de topologie, de routage et de planification dans les environnements de centres de données haute performance.

Pourquoi les tests de congestion sont-ils importants dans la conception des centres de données IA ?

Les charges de travail liées à l'IA exigent une utilisation élevée des liaisons et une synchronisation étroite entre les clusters de GPU. Toute congestion au niveau de la structure (latence de queue) peut entraîner des retards dans la mise en file d'attente ou des pertes de paquets, ce qui provoque à son tour des blocages du GPU et une dégradation des performances d'entraînement. Étant donné que de nombreux frameworks d'IA reposent sur une communication collective, le nœud le plus lent du réseau peut créer un goulot d'étranglement pour l'ensemble du travail. Les tests de performances traditionnels négligent souvent ces interactions. L'analyse de congestion basée sur l'émulation de Keysight offre une visibilité de bout en bout sur le flux de trafic, les points chauds et la propagation de la congestion. Vous pouvez tester différentes topologies, simuler des conflits en temps réel et évaluer l'impact de l'accumulation des files d'attente sur la latence et le débit. Il en résulte une meilleure compréhension de l'impact de la conception de la topologie, des algorithmes de routage et des stratégies de tampon sur l'efficacité globale du système avant de s'engager dans l'achat de matériel ou le déploiement de charges de travail.

Comment puis-je évaluer les performances d'un centre de données IA pendant son développement ?

Une analyse comparative efficace de l'infrastructure des centres de données IA nécessite des tests au niveau du système qui reflètent les modèles de communication IA réels. Cela inclut l'évaluation de la latence de bout en bout, du débit et du comportement de congestion entre les nœuds de calcul, les structures de commutation et les liaisons d'interconnexion. Avec Keysight AI Data Center Builder, vous pouvez effectuer des analyses comparatives de performances contrôlées et reproductibles à l'aide d'une émulation de trafic au niveau de l'application. La plateforme prend en charge les tests de comportement de mise à l'échelle (par exemple, comment les performances changent avec un plus grand nombre de GPU), les tests de résistance avec plusieurs tâches simultanées et la mesure d'indicateurs clés de performance critiques tels que le temps d'exécution des tâches, la perte de paquets et la congestion. La plateforme prend en charge les tests de comportement à l'échelle (par exemple, comment les performances évoluent avec un plus grand nombre de GPU), les tests de résistance avec plusieurs tâches simultanées et la mesure d'indicateurs clés de performance tels que le temps d'exécution des tâches, la perte de paquets et les points de congestion. En comparant différents fournisseurs de commutateurs, technologies de liaison ou topologies, les équipes peuvent prendre des décisions architecturales fondées sur des données. Ces informations permettent d'optimiser la conception de la structure pour améliorer l'efficacité de la formation, réduire la sous-utilisation et accélérer le déploiement d'une infrastructure IA évolutive.

Quel est l'avantage d'utiliser des outils d'émulation pour la planification des centres de données IA ?

Les outils d'émulation tels que Keysight AI Data Center Builder permettent une planification et une validation proactives de l'infrastructure réseau IA sans avoir besoin de GPU ou de commutateurs physiques. Ils vous permettent de créer des jumeaux numériques de la topologie de votre centre de données, de simuler des charges de travail IA réalistes et d'analyser les performances du système dans différentes conditions de trafic. Cette approche virtualisée vous permet d'identifier les défauts de conception, d'évaluer d'autres architectures et d'ajuster les stratégies de routage et de planification avant le déploiement du matériel. En mettant en évidence les goulots d'étranglement et les risques de congestion à un stade précoce, l'émulation réduit les itérations de conception coûteuses et minimise le risque d'inefficacité dans les environnements en production. Pour les équipes qui prévoient d'étendre leur cluster de GPU, de migrer leur topologie ou de déployer des commutateurs de nouvelle génération, l'émulation offre un moyen évolutif et peu risqué de garantir la disponibilité et les performances à grande échelle.

Constructeur de centres de données IA

Émulez les charges de travail IA pour optimiser les performances et la fiabilité des centres de données.

Keysight AI (KAI) Data Center Builder est une solution d'émulation qui vous aide à planifier et à valider votre infrastructure d'IA avant de la déployer. Modélisez les architectures réseau, simulez des charges de travail réalistes et testez les scénarios de débit et de gestion de la congestion sur les nœuds de calcul, les commutateurs et les interconnexions. KAI Data Center Builder vous offre une visibilité sur les performances au niveau du système, permettant des choix de conception plus intelligents pour maximiser l'efficacité et la fiabilité. Que vous validiez de nouvelles topologies ou évaluiez des mises à niveau de réseau, KAI Data Center Builder vous aide à le faire plus rapidement, avec moins de risques et une meilleure compréhension. Sélectionnez un modèle fourni avec un accélérateur matériel, ou choisissez une option logicielle uniquement. Demandez dès aujourd'hui un devis pour l'une de nos configurations populaires. Besoin d'aide pour choisir ? Consultez les ressources ci-dessous.

Émulation de charge de travail

Simulez les modèles de trafic liés à l'entraînement et à l'inférence de l'IA afin d'évaluer la manière dont votre réseau gère des charges de travail réalistes et irrégulières sur les GPU, les commutateurs et les interconnexions.

Analyse comparative des performances

Exécutez des tests de performance au niveau du système pour évaluer l'impact des paramètres du modèle d'IA, des paramètres réseau et de leurs interactions à grande échelle.

Visualisation du flux de données

Analysez la latence de queue, identifiez les goulots d'étranglement et découvrez comment les décisions relatives à la topologie et aux composants influent sur les performances de l'ensemble du système.

Optimisation du réseau

Identifiez rapidement les défauts de conception afin de réduire le nombre d'itérations de tests physiques, d'accélérer la validation et de réduire les délais de déploiement.

Protocol support

RDMA, RoCEv2
Collective operations supported

AllReduce, AllGather, ReduceScatter, AlltoAll, broadcast, gather, unidirectional ring, bidirectional ring, halving-doubling AllReduce, Parallel, PXN AlltoAll
Compatible hardware

AresONE-S, AresONE-M

Configurations les plus populaires

Ensemble de test Ethernet sans perte RoCEv2 pour modèle de châssis fixe AresONE-S 400GE QSFP-DD à 16 ports

Modèle

947-4071

Prise en charge du protocole

-

Soutenu par des opérations collectives

-

Matériel compatible

-

Prise en charge du protocole

RDMA, RoCEv2

Opérations collectives soutenues

AllReduce, AllGather, ReduceScatter, AlltoAll, diffusion, rassemblement, anneau unidirectionnel, anneau bidirectionnel, AllReduce par division par deux et multiplication par deux, parallèle, PXN AlltoAll

Matériel compatible

AresONE-S

Ensemble de test Ethernet sans perte RoCEv2 pour AresONE-M 800GE QSFP-DD800, modèle à châssis fixe à 8 ports

Modèle

947-4073

Prise en charge du protocole

-

Soutenu par des opérations collectives

-

Matériel compatible

-

Prise en charge du protocole

RDMA, RoCEv2

Opérations collectives soutenues

AllReduce, AllGather, ReduceScatter, AlltoAll, diffusion, rassemblement, anneau unidirectionnel, anneau bidirectionnel, AllReduce par division par deux et multiplication par deux, parallèle, PXN AlltoAll

Matériel compatible

AresONE-M

Image du KAI Data Center Builder Start Bundle avec l'application Collective Benchmarks

Ensemble de démarrage KAI Data Center Builder avec application Collective Benchmarks

Modèle

950-2001

Prise en charge du protocole

-

Soutenu par des opérations collectives

-

Matériel compatible

-

Prise en charge du protocole

-

Opérations collectives soutenues

-

Matériel compatible

-

Choisissez la solution KAI Data Center Builder qui vous convient

Les ressources ci-dessous vous aideront à déterminer la plateforme de test dont vous avez besoin.

Explorer les ressources

Découvrez notre catalogue d'émulateurs de trafic Ethernet
En quoi les réseaux d'IA / ML diffèrent des réseaux traditionnels
Comment tester les réseaux de centres de données d'IA

Services et assistance

KeysightCare

Innovez rapidement grâce à des plans d'assistance personnalisés et à des délais de réponse et d'exécution prioritaires.

Alternatives financières

Bénéficiez d'abonnements prévisibles basés sur un contrat de location et de solutions de gestion du cycle de vie complet afin d'atteindre plus rapidement vos objectifs commerciaux.

Portail d'assistance Keysight

Bénéficiez d'un service haut de gamme en tant qu'abonné KeysightCare pour obtenir une assistance technique dédiée et bien plus encore.

Calibrage

Assurez-vous que votre système de test fonctionne conformément aux spécifications et respecte les normes locales et internationales.

L'éducation

Effectuez rapidement des mesures grâce à des formations internes dispensées par des instructeurs et à l'apprentissage en ligne.

Centre de téléchargement de logiciels

Téléchargez le logiciel Keysight ou mettez à jour votre logiciel vers la dernière version.

Keysight AI Data Center Builder Accélérez la conception et le déploiement d'une infrastructure réseau dédiée à l'IA

Émulez les charges de travail IA pour optimiser les performances et la fiabilité des centres de données.

Émulation de charge de travail

Analyse comparative des performances

Visualisation du flux de données

Optimisation du réseau

Configurations les plus populaires

Ensemble de test Ethernet sans perte RoCEv2 pour modèle de châssis fixe AresONE-S 400GE QSFP-DD à 16 ports

Ensemble de test Ethernet sans perte RoCEv2 pour AresONE-M 800GE QSFP-DD800, modèle à châssis fixe à 8 ports

Ensemble de démarrage KAI Data Center Builder avec application Collective Benchmarks

Services et assistance

Questions fréquemment posées