高性能AIトランスポートの検証方法

IxNetwork
+ IxNetwork

スケールアップからスケールアクロスまで、AIトランスポートネットワークを検証

近代的なAIデータセンターは、大規模なAIトレーニングおよび推論に必要なパフォーマンスを提供するために、相互接続されたスケールアップ、スケールアウト、およびスケールアクロスネットワークに依存しています。スケールアップファブリックは、超低遅延、高帯域幅の相互接続を使用してポッド内のGPUおよびアクセラレータを接続し、スケールアウトネットワークは、ロスレスなイーサネットベースのファブリックを介してラックとクラスターを接続します。AIの導入が拡大し続けるにつれて、スケールアクロスアーキテクチャは複数のキャンパスとAIファクトリー間の接続を拡張し、組織が単一システムとして動作する分散型AIインフラストラクチャを構築できるようにします。

これらの進化するアーキテクチャにより、スループット、遅延、混雑制御、マルチプレーンおよびマルチパスフォワーディング、相互運用性に新たな課題が生じており、導入前に検証する必要があります。スケールアップ、スケールアウト、およびスケールアクロスネットワークにおいて、キーサイトのAIデータセンターネットワークテストソリューションは、現実的なAIワークロードのトラフィックパターンを大規模にエミュレートします。キーサイトの高度なKAIデータセンタービルダーは、集合通信および集合ワークロードの組み合わせをエミュレートし、スループット、遅延、ジョブ完了時間、帯域幅の使用状況を測定します。これにより、スイッチ、NIC、xPU、およびエンドツーエンドファブリックの包括的な検証が可能になり、お客様が高性能なAIインフラストラクチャを確信を持って導入できるよう支援します。

AI輸送ネットワークのエンドツーエンド検証

スケールアップ

ポッド内で、GPUとxPUは超低遅延、高帯域幅のリンクを介してメモリを共有します。NVLink / NVSwitchが主流であり続ける一方で、ESUNやSUEなどのイーサネットベースの代替手段が勢力を伸ばしており、UALinkは専用のアクセラレータ相互接続を介したもう1つのパスを提供します。検証では、アクセラレータ間のスループットと遅延、ロスレスのフロー制御、および拡大する相互接続の組み合わせ全体での相互運用性を網羅する必要があります。

スケールアウト

ラックとポッドは、ロスレスで混雑制御されたファブリックを介してトレーニングクラスターに接続します。イーサネット / RoCEv2が主要な選択肢であり、マルチパス信頼性接続(MRC)、MetaRoCE、UEトランスポート(UET)などの新しいトランスポートがマルチパススプレーとより高速な損失リカバリを追加し、大規模での利用率を向上させます。検証では、混雑制御のチューニング、マルチパスの耐障害性、およびエンドツーエンドのスループット、遅延、ジョブ完了時間を網羅する必要があります。

スケールアクロス

複数のサイトが、長距離の光リンクおよびイーサネットリンクを介して1つのシステムに連合します。この新しく、まだ形成途上のカテゴリは、WANの混雑、距離による遅延、AIジョブの配置、および分散チェックポイントによって形作られます。検証では、光リンクの安定性、クロスサイトの遅延への影響、および実際の分散トレーニング条件下でのトラフィック動作を網羅する必要があります。

AIインフラストラクチャ・ソリューションの製品を見る

関連するユースケース

お問い合わせ ロゴ

当社のエキスパートにお問い合わせください。

所望のソリューションを見つけるのにお困りですか?