AIデータセンターネットワークは従来のデータセンターと何が違うのですか？

AIデータセンターネットワークは、大規模並列処理と密結合GPU間のデータ移動のために構築されています。通常、南北トラフィックとクライアントサーバーモデルに最適化されている従来のエンタープライズネットワークやクラウドネットワークとは異なり、AIネットワークは、高ラディックスイッチファブリック全体で高スループット、低遅延の東西トラフィックをサポートする必要があります。AIトレーニングワークロードは、オールツーオールおよび多対多の通信を伴い、数千のノード間で正確な同期を必要とします。これにより、バースト的で不均一、かつ輻輳に非常に敏感なトラフィックパターンが生じます。標準的な検証ツールは、AI/ML環境で典型的な複雑な大規模ワークロードをシミュレートする能力が不足しているため、しばしば不十分です。キーサイト AI Data Center Builderは、物理的および論理的なトポロジーをモデル化し、現実的なAIワークロードをエミュレートし、ハードウェア展開前にシステム全体のパフォーマンスボトルネックを明らかにするため、この分野向けに特別に構築されています。

データセンターの検証のためにAIワークロードをどのようにシミュレートしますか？

AIワークロードを正確にシミュレートするには、トレーニングおよび推論ジョブの通信動作を模倣するトラフィックエミュレーションが必要です。AIトレーニングは、大容量でバースト的、同期されたトラフィックを生成します。これらのフローは、従来のワークロードとは異なる方法でネットワークに負荷をかけ、スイッチバッファを圧倒したり、ヘッドオブラインブロッキングを引き起こしたり、特定のリンクを飽和させたりする可能性があります。キーサイト AI Data Center Builderを使用すると、合成GPUエンドポイント、プログラマブルスイッチ、ファブリックインターコネクト全体で、これらの正確なトラフィックパターンを大規模に生成できます。ジョブ到着率、バーストサイズ、同期タイミングをモデル化することで、代表的なAI/ML条件下でのシステム動作を測定するための現実的で再現性のある方法を提供します。このワークロードエミュレーションは、高性能データセンター環境におけるトポロジー、ルーティング、およびスケジューリング戦略の初期段階の検証に不可欠です。

AIデータセンター設計において輻輳テストが重要なのはなぜですか？

AIワークロードは、GPUクラスタ全体で高いリンク利用率と厳密な同期を要求します。ファブリックレベルの混雑（テールレイテンシ）は、キューイング遅延やパケットドロップを引き起こし、結果としてGPUの停止やトレーニング性能の低下を招く可能性があります。多くのAIフレームワークが集団通信に依存しているため、ネットワーク内で最も遅いノードがジョブ全体のボトルネックとなることがあります。従来の性能テストでは、これらの相互作用を見落としがちです。キーサイトのエミュレーションベースの混雑解析は、トラフィックフロー、ホットスポット、混雑の伝播に対するエンドツーエンドの可視性を提供します。異なるトポロジーをテストし、リアルタイムの競合をシミュレートし、キューの蓄積がレイテンシとスループットにどのように影響するかを評価できます。その結果、ハードウェアを導入したりワークロードを展開したりする前に、トポロジー設計、ルーティングアルゴリズム、バッファ戦略がシステム全体の効率にどのように影響するかをより深く理解することができます。

開発中にAIデータセンターのパフォーマンスをベンチマークするにはどうすればよいですか？

AIデータセンターインフラストラクチャの効果的なベンチマークには、実際のAI通信パターンを反映したシステムレベルのテストが必要です。これには、コンピュートノード、スイッチファブリック、および相互接続リンク全体でのエンドツーエンドのレイテンシ、スループット、および混雑挙動の評価が含まれます。キーサイトのAIデータセンタービルダーを使用すると、アプリケーションレベルのトラフィックエミュレーションを用いて、制御された再現性のある性能ベンチマークを実行できます。このプラットフォームは、スケーリング挙動のテスト（例：GPUの増加に伴う性能変化）、複数の同時ジョブによるストレステスト、およびジョブ完了時間、パケットロス、混雑ホットスポットなどの重要なKPIの測定をサポートします。異なるスイッチベンダー、リンク技術、またはトポロジーをベンチマークすることで、チームはデータに基づいたアーキテクチャ上の意思決定を行うことができます。これらの洞察は、トレーニング効率のためのファブリック設計の最適化、リソースの低利用率の最小化、およびスケーラブルなAIインフラストラクチャの展開加速に役立ちます。

AIデータセンター計画にエミュレーションツールを使用する利点は何ですか？

キーサイトのAIデータセンタービルダーのようなエミュレーションツールは、物理的なGPUやスイッチを必要とせずに、AIネットワークインフラストラクチャのプロアクティブな計画と検証を可能にします。これらのツールを使用すると、データセンターのトポロジーのデジタルツインを作成し、現実的なAIジョブワークロードをシミュレートし、さまざまなトラフィック条件下でのシステムパフォーマンスを分析できます。この仮想化されたアプローチにより、ハードウェアが展開される前に、設計上の欠陥を特定し、代替アーキテクチャを評価し、ルーティングおよびスケジューリング戦略を調整することができます。パフォーマンスのボトルネックと輻輳のリスクを早期に明らかにすることで、エミュレーションは高価な設計反復を削減し、ライブ環境での非効率性のリスクを最小限に抑えます。GPUクラスターの拡張、トポロジー移行、または次世代スイッチの展開を計画しているチームにとって、エミュレーションは、大規模な準備とパフォーマンスを確保するためのスケーラブルで低リスクな方法を提供します。

AIデータセンタービルダー

AIワークロードをエミュレートし、データセンターのパフォーマンスと信頼性を最適化

キーサイトAI (KAI) データセンタービルダーは、AIインフラストラクチャを展開する前に計画および検証するのに役立つエミュレーションソリューションです。ネットワークアーキテクチャをモデル化し、現実的なワークロードをシミュレートし、コンピューティングノード、スイッチ、インターコネクト全体のスループットと輻輳処理シナリオをテストします。KAIデータセンタービルダーは、システムレベルのパフォーマンスに関する可視性を提供し、効率と信頼性を最大化するためのよりスマートな設計選択を可能にします。新しいトポロジーを検証する場合でも、ネットワークアップグレードを評価する場合でも、KAIデータセンタービルダーは、より迅速に、より低いリスクで、より深い洞察を得るのに役立ちます。ハードウェアアクセラレータがバンドルされたモデルを選択するか、ソフトウェアのみのオプションを選択してください。今すぐ人気の構成のいずれかの見積もりをリクエストしてください。選択にお困りですか？以下のリソースをご覧ください。

ワークロードエミュレーション

AIトレーニングおよび推論トラフィックパターンをシミュレートし、GPU、スイッチ、相互接続全体で、ネットワークが現実的でバースト性の高いワークロードをどのように処理するかを評価します。

パフォーマンスベンチマーク

システムレベルのベンチマークを実行し、AIモデルのパラメータ、ネットワークパラメータ、およびそれらの大規模な相互作用の影響を評価します。

データフローの可視化

テールレイテンシを分析し、ボトルネックを特定し、トポロジーとコンポーネントの決定がシステム全体のパフォーマンスにどのように影響するかを学びます。

ネットワーク最適化

設計上の欠陥を早期に特定することで、物理テストの反復回数を削減し、検証を加速し、展開までの時間を短縮します。

Protocol support

RDMA, RoCEv2
Collective operations supported

AllReduce, AllGather, ReduceScatter, AlltoAll, broadcast, gather, unidirectional ring, bidirectional ring, halving-doubling AllReduce, Parallel, PXN AlltoAll
Compatible hardware

AresONE-M, AresONE-S