AI集団コミュニケーションのベンチマーク方法

ウェブ見積
Keysight AIデータセンタービルダー
+ キーサイトAIデータセンタービルダー
Keysight AIデータセンタービルダー
+ キーサイトAIデータセンタービルダー

AIクラスター間の集合通信の特性評価

集合通信のベンチマークは、定義されたオペレーション、参加エンドポイント、および再現性のあるワークロードプロファイルから始まります。ネットワークトポロジーとホストエミュレーションエンドポイントを設定し、ベンチマーク手法に従ってAllReduce、AllGather、ReduceScatterなどの集合パターンを選択します。メッセージサイズ、参加ランク数、同時実行数、および繰り返し回数を指定します。リファレンスランを実行する前に、リンクレートやトランスポートパラメータを含む初期ファブリック設定を記録します。その後、集合通信のベンチマークでメッセージサイズやクラスターサイズをスイープして、スケーリング動作を特性評価できます。各ランの集合完了時間をキャプチャし、選択したオペレーションの一貫した定義を使用して有効帯域幅を計算します。

AllReduceのベンチマークでは、変更のないトポロジーの下で、メッセージサイズとエンドポイント数全体にわたって観測されたオペレーション期間を比較します。他の変数を一定に保ったまま、定義されたネットワークパラメータまたは集合アルゴリズムの1つを変更してシーケンスを再実行します。単一のサンプルに頼るのではなく、完了時間の分布を調べます。有効帯域幅の変化を、提供されたワークロード、エンドポイントの参加、および利用可能なネットワークカウンターと相関させます。同じテストスケジュールを繰り返して、ラン間の変動を評価します。ワークロードの定義、ベンチマーク設定、トポロジー、タイムスタンプ、測定出力を各結果セットと一緒に保存します。これにより、集合の実装やハードウェア/ソフトウェアの設定全体にわたって、AIファブリック性能の比較可能な記録が作成されます。

AI集団コミュニケーションベンチマークソリューション

集合ベンチマークには、再現性のある分散トラフィックパターン、設定可能な参加者数、およびオペレーション完了時間の測定が必要です。Keysight AI Data Center Builderは、データセンターネットワークファブリックに対して、集合通信アクティビティを含む人工知能のワークロード動作をエミュレートするためのフレームワークを提供します。その集合ベンチマークワークフローを使用して、ワークロードパラメータを変更し、測定された完了時間とスループット関連の指標をネットワーク設定間で比較できます。テストセットアップでは、サポートされている高密度イーサネットトラフィック生成ハードウェアをソフトウェアプラットフォームとともに使用し、正確なアプライアンスとライセンスの選択は、現在の製品資料に記載されている設定によって決定されます。エンジニアは、代表的な集合オペレーションを選択し、ベースラインを確立し、1つのワークロードパラメータを変更し、結果の測定値を比較できます。得られた曲線は、集合のスケーリング、アルゴリズムの選択、およびファブリックの設定を評価するための一貫した基礎を提供します。
ウェブ見積

AI集合通信ベンチマークソリューションのデモを見る

AI集合通信ベンチマークソリューションの製品を見る

リソースのご紹介

AI集合通信ベンチマークに関する追加リソース

関連するユースケース

テストポート間でパケットイベントを関連付ける方法

共有の超高精度タイミングリファレンスを使用して、分散型イーサネットテストポート間でパケットのタイムスタンプとトラフィックイベントを相関させます。

詳細はこちら

イーサネット相互接続のストレステスト方法

BER、FEC、およびストレステストの測定値を用いてイーサネットレイヤ1リンクを検証し、経時的なバーストエラーを検出します。

詳細はこちら

イーサネットのFECエラーのデバッグ方法

マルチレートリンク全体において、レーンレベルのシンボルエラー密度、バースト許容度、およびマージン解析を活用して、イーサネットFECエラーをデバッグします。

詳細はこちら

お問い合わせ ロゴ

当社のエキスパートにお問い合わせください。

所望のソリューションを見つけるのにお困りですか？

お問い合わせ