如何測試 AI 資料中心網路

+ 800GE 流量模擬器

重現 AI 工作負載的真實網路行為

使用真實的工作負載對人工智慧 / 機械學習（AI / ML）網路進行基準測試，通常需要投資配備 GPU 和遠端直接記憶體存取（RDMA）網路介面控制器（NIC）的運算系統，這些系統建置成本高昂且操作耗時。為了在實驗室中充分最佳化 AI 網路，部署和操作這些系統以進行 Tb 級的驗證與實驗是不可或缺的。對 AI 網路進行適當的基準測試與測試，需要分析各種參數，例如布林拓樸（fabric topology）、擁塞控制演算法、負載平衡機制或重傳功能。

為網路基準測試產生真實、大規模的 AI 工作負載流量，需要基於乙太網路的遠端直接記憶體存取（RoCEv2）端點模擬器，以及支援集體通訊模式（包括全對全 [all-to-all]、全歸納 [all-reduce]、全收集 [all-gather] 等）且預先打包方法的軟體。該軟體提供專屬於 AI 網路的工作負載，有助於量測關鍵指標，例如工作完成時間和總線頻寬。更先進的驗證方法包括模擬具有混合並行集體通訊的多個租戶，以及重播預先定義的 AI 工作負載追蹤資料。

AI 資料中心網路測試解決方案

測試 AI 資料中心網路需要支援 AI 工作負載的網路流量模擬器和預先打包方法的軟體。AI 資料中心網路測試解決方案包含 Keysight AresONE 1600GE RoCEv2 端點模擬器，搭配 Keysight AI Data Center Builder 軟體。此解決方案可以可重複地建立因 AI 叢集中的集體通訊而產生不同資料大小的情境。AresONE 上的每個連接埠都會模擬 GPU 和 RDMA NIC。流量包含模擬佇列對（QP）連線與資料流、產生擁塞通知、執行基於資料中心量化擁塞通知（DCQCN）的動態速率控制，並提供測試產出量、緩衝區管理和等價多路徑（ECMP）雜湊的靈活性。透過此解決方案，工程師可以在實驗室中執行多項設計實驗、量測效能改善情形，然後將結果應用於生產環境，而無需在實驗室中使用專屬的 AI 運算節點和 NIC。

索取報價