AIワークロードのパフォーマンス分離を測定する方法

Keysight AIデータセンタービルダー
+ キーサイトAIデータセンタービルダー

同時ワークロード干渉の定量化

AIパフォーマンスアイソレーションテストは、定義された2つのワークロードプロファイルと、そのトラフィックパスによって共有されるネットワークトポロジから始まります。指定された数のエミュレートされたエンドポイント、メッセージサイズ、オファードロード、および通信パターンを使用して、ベースラインワークロードを構成します。それを単独で実行し、ジョブ完了時間、スループット、および利用可能なテスト構成によって公開されるレイテンシ統計を記録します。初期比較のために、ファブリックパラメータとトラフィック生成設定は変更せずに維持します。別のエミュレートされたエンドポイントのセットを使用して2つ目のワークロードを導入しながら、ベースラインワークロードを再度開始します。測定記録でオーバーラップ期間を識別できるように、開始時間とトラフィック強度を構成します。両方のワークロードの結果を個別に収集します。

ベースライン測定と同時実行測定を比較して、ワークロード干渉を定量化します。トラフィックプロファイルごとに、アイソレート動作と共有ファブリック動作の間でのジョブ完了時間、提供される帯域幅、およびレイテンシ分布の変化を計算します。プライマリワークロード構成を一定に保ちながら、異なるオーバーラップ時間またはアグレッサ負荷で繰り返します。プラットフォームからこれらの測定値を利用できる場合は、キューイング動作、輻輳信号、損失や再送信の統計など、該当するネットワークインジケータを監視します。負荷モデルとテストされたファブリック構成を結果とともに保管します。その後、AIファブリックテストでは、スケジューリング、トポロジ、または輻輳管理設定に変更を加えた制御された後に、同じワークロードのペアリングを繰り返すことができます。出力は、リソース共有によって測定パフォーマンスがどのように変化するかを示すワークロードごとの比較です。

AIワークロードのパフォーマンス分離テストソリューション

パフォーマンスのアイソレーションテストでは、個別に制御されたワークロードストリーム、共有ネットワークファブリック、および各ワークロードに起因する測定が必要です。Keysight AI Data Center Builderは、人工知能のワークロード通信パターンをエミュレートし、制御されたファブリックテスト構成をサポートできます。エンジニアは、代表的な同時トラフィックプロファイルを使用して、アイソレートされた参照測定を確立し、それらをオーバーラップするワークロード実行と比較することができます。AIファブリックテスト手法では、評価トピックとして、輻輳管理、ロードバランシング、ジョブ完了時間とともにパフォーマンスアイソレーションについて説明しています。提案されたワークフローは、同時負荷条件、ワークロードごとの完了時間動作、および関連するスループットまたはネットワーク統計を記録します。制御された構成変更の後に測定を繰り返すことで、比較可能なパフォーマンスデータが得られます。ジョブごとの統計およびハードウェア構成の正確な可用性は、製品固有の機能主張として説明が公開される前に、ソフトウェアバージョンおよび選択されたPDFに対して検証する必要があります。

AIワークロード・パフォーマンス・アイソレーション・テスト・ソリューションのデモビデオを見る

AIワークロード・パフォーマンス・アイソレーション・テスト・ソリューションの製品を見る

リソースのご紹介

AIワークロード・パフォーマンス・アイソレーション・テストの追加リソース

関連するユースケース

お問い合わせ ロゴ

弊社の専門家にお問い合わせください。

所望のソリューションを見つけるのにお困りですか?