Comment évaluer la communication collective en matière d'IA

Obtenir un devis
Keysight AI Data Center Builder (Constructeur de centre de données AI)
+ Keysight AI Data Center Builder
Keysight AI Data Center Builder (Constructeur de centre de données AI)
+ Keysight AI Data Center Builder

Caractériser la communication collective au sein des clusters d'IA

L'évaluation comparative des communications collectives commence par la définition d'une opération, des nœuds participants et d'un profil de charge de travail reproductible. Configurez la topologie du réseau et les nœuds d'émulation d'hôte, puis sélectionnez des modèles collectifs tels que AllReduce, AllGather ou ReduceScatter conformément à la méthodologie d'évaluation. Précisez la taille des messages, le nombre de rangs participants, le niveau de concurrence et le nombre de répétitions. Enregistrez la configuration initiale de la structure, y compris les débits de liaison et les paramètres de transport, avant d’exécuter un test de référence. L’évaluation comparative des communications collectives peut ensuite faire varier la taille des messages ou celle des clusters afin de caractériser le comportement à l’échelle. Enregistrez le temps d’exécution collectif pour chaque test et calculez la bande passante effective en utilisant une définition cohérente pour l’opération sélectionnée.

Pour les tests de performance AllReduce, comparez la durée d’exécution observée en fonction de la taille des messages et du nombre de points d’extrémité, dans une topologie inchangée. Relancez la séquence après avoir modifié un paramètre réseau ou un algorithme collectif défini, en laissant les autres variables constantes. Examinez la distribution des temps d’exécution plutôt que de vous fier à un seul échantillon. Établissez une corrélation entre les variations de la bande passante effective et la charge de travail proposée, la participation des points d’extrémité et tous les compteurs réseau disponibles. Répétez le même programme de tests pour évaluer les variations d’une exécution à l’autre. Enregistrez la définition de la charge de travail, les paramètres de benchmark, la topologie, les horodatages et les résultats des mesures avec chaque ensemble de résultats. Cela permet de créer un historique comparable des performances de l’AI Fabric entre les différentes implémentations collectives et configurations matérielles ou logicielles.

Solution de benchmarking en matière de communication collective basée sur l'IA

Les tests de performance collectifs nécessitent des modèles de trafic distribués reproductibles, un nombre de participants configurable et la mesure du temps d’exécution des opérations. Keysight AI Data Center Builder fournit un cadre permettant d’émuler le comportement des charges de travail d’intelligence artificielle, y compris l’activité de communication collective, au sein de la structure réseau d’un centre de données. Son workflow de tests de performance collectifs peut être utilisé pour faire varier les paramètres des charges de travail et comparer le temps d’exécution mesuré ainsi que les indicateurs liés au débit entre différentes configurations réseau. Le dispositif de test utilise du matériel de génération de trafic Ethernet haute densité pris en charge, associé à la plateforme logicielle ; le choix précis de l’appareil et de la licence est déterminé par les configurations documentées dans la documentation actuelle du produit. Les ingénieurs peuvent sélectionner une opération collective représentative, établir une référence, faire varier un paramètre de charge de travail et comparer les mesures obtenues. Les courbes obtenues fournissent une base cohérente pour évaluer la scalabilité collective, les choix d’algorithmes et les paramètres de la structure.
Obtenir un devis

Découvrez la démo de la solution d'évaluation comparative de la communication collective basée sur l'IA

Découvrez les produits de notre solution de benchmarking en matière de communication collaborative basée sur l'IA

Découvrir les ressources et les idées

Ressources supplémentaires pour l'évaluation comparative de la communication collective en IA

Cas d'utilisation connexes

Comment valider l'évolutivité d'une infrastructure d'inférence IA

L'évolutivité de l'infrastructure d'inférence IA se révèle dans des conditions de trafic proches de celles d'un environnement de production, où l'augmentation de la demande simultanée peut affecter le débit d'inférence, la latence d'inférence et la cohérence des réponses. L'émulation de charges de travail met en évidence les limites de performance des composants de calcul, de réseau et de service, tandis que la télémétrie des processeurs graphiques (GPU) fournit le contexte nécessaire à la compréhension de l'infrastructure.

En savoir plus

Comment mesurer l'isolation des performances des charges de travail liées à l'IA

Mesurer l'impact de l'exécution simultanée de charges de travail d'IA sur le temps d'exécution et les performances réseau au sein d'une structure partagée. Établir une référence isolée, introduire une charge de travail concurrente, puis comparer le temps d'exécution par tâche, le débit et la latence dans des conditions de trafic contrôlées afin de caractériser l'isolation des performances.

En savoir plus

Comment valider les réseaux de confiance zéro

La validation des réseaux de confiance zéro nécessite une solution qui recrée les conditions de trafic, le comportement des utilisateurs et les cyberattaques du monde réel. Découvrez comment valider les contrôles d'accès individuels et les politiques de sécurité individuellement et dans le cadre d'un déploiement de bout en bout.

En savoir plus

contactez-nous logo

Contactez l'un de nos experts

Besoin d'aide pour trouver la solution qui vous convient ?

Nous contacter