AIワークロードのパフォーマンス分離を測定する方法

Keysight AIデータセンタービルダー
+ キーサイトAIデータセンタービルダー

同時実行されるワークロード間の干渉を定量化する

AIのパフォーマンス分離テストは、2つの定義済みワークロードプロファイルと、それらのトラフィックパスが共有するネットワークトポロジーから始まります。指定された数のエミュレートされたエンドポイント、メッセージサイズ、オファードロード、および通信パターンでベースラインワークロードを設定します。これを単独で実行し、ジョブの完了時間、スループット、および利用可能なテスト構成によって得られるレイテンシ統計を記録します。 初期の比較では、ファブリックパラメータとトラフィック生成設定を変更せずに保持します。別のエミュレートされたエンドポイントセットを使用して2つ目のワークロードを導入しながら、ベースラインのワークロードを再度開始します。測定記録で重複期間を特定できるよう、その開始時刻とトラフィック強度を設定します。両方のワークロードについて、結果を個別に収集します。

ベースラインと同時実行時の測定値を比較し、ワークロード間の干渉を定量化します。各トラフィックプロファイルについて、分離ファブリック運用と共有ファブリック運用におけるジョブ完了時間、提供帯域幅、およびレイテンシ分布の変化を算出します。主要なワークロード構成を一定に保ちながら、オーバーラップ期間やアグレッサー負荷を変更してこの手順を繰り返します。プラットフォームからこれらの測定値が取得可能な場合は、キューイング挙動、輻輳シグナル、損失や再送信の統計情報など、該当するネットワーク指標を監視します。 負荷モデルとテスト対象のファブリック構成を、結果とともに保存しておく。これにより、スケジューリング、トポロジー、または輻輳管理の設定を制御された形で変更した後、AIファブリックテストで同じワークロードの組み合わせを繰り返し実行できる。その結果として、リソースの共有が測定されたパフォーマンスにどのような変化をもたらしたかを、ワークロードごとに比較したデータが得られる。

AIワークロードのパフォーマンス分離テストソリューション

パフォーマンスの分離テストには、個別に制御可能なワークロードストリーム、共有ネットワークファブリック、および各ワークロードに帰属できる測定値が必要です。キーサイト社の「AI Data Center Builder」は、人工知能(AI)ワークロードの通信パターンをエミュレートし、制御されたファブリックテスト構成をサポートします。エンジニアは、代表的な同時トラフィックプロファイルを使用して、分離された基準測定値を確立し、それを重複するワークロードの実行結果と比較することができます。AIファブリックテスト手法では、評価項目として、パフォーマンスの分離に加え、輻輳管理、負荷分散、およびジョブ完了時間が挙げられています。 提案されたワークフローでは、同時負荷条件、ワークロードごとの完了時間の挙動、および関連するスループットやネットワーク統計情報を記録します。制御された構成変更後に測定を繰り返すことで、比較可能なパフォーマンスデータが得られます。ジョブごとの統計情報およびハードウェア構成の正確な利用可能性については、製品固有の機能主張として公開する前に、ソフトウェアのバージョンおよび選択されたPDFと照合して検証する必要があります。

AIワークロードのパフォーマンス分離テストソリューションのデモ動画をご覧ください

当社のAIワークロード性能分離テストソリューションの製品をご覧ください

リソースのご紹介

AIワークロードのパフォーマンス分離テストに関する追加リソース

関連するユースケース

お問い合わせ ロゴ

弊社の専門家にお問い合わせください。

所望のソリューションを見つけるのにお困りですか?