如何驗證高效能 AI 傳輸機制

+ IxNetwork

從擴充（Scale-Up）到跨規模（Scale-Across）驗證 AI 傳輸網路

現代 AI 資料中心依賴互相連接的擴充（scale-up）、向外擴充（scale-out）與跨規模（scale-across）網路，以提供大規模 AI 訓練和推論所需的效能。擴充（Scale-up）布線透過超低延遲、高頻寬互連技術將 Pod 內的 GPU 與加速器連接起來，而向外擴充（scale-out）網路則透過無損以太網路布線連接機櫃和叢集。隨著 AI 部署持續成長，跨規模（scale-across）架構將連線能力延伸至多個園區與 AI 工廠，讓企業能夠建構運作如單一系統的分散式 AI 基礎設施。

這些不斷演進的架構在傳輸量、延遲、擁塞管理、多平面與多路徑轉發以及互通性方面帶來了新的挑戰，必須在部署前進行驗證。針對擴充（scale-up）、向外擴充（scale-out）與跨規模（scale-across）網路，Keysight AI 資料中心網路測試解決方案能大規模模擬真實的 AI 工作負載流量模式。Keysight 先進的 KAI Data Center Builder 可模擬集體通訊與混合的集體工作負載，同時測量傳輸量、延遲、工作完成時間和頻寬使用率。這使得客戶能夠全面驗證交換器、NIC、xPUs 和端對端布線，從而充滿信心地部署高效能 AI 基礎設施。

人工智慧運輸網路的端到端驗證

擴充 (Scale-Up)

在 Pod 內部，GPU 和 xPUs 透過超低延遲、高頻寬鏈路共用記憶體。NVLink / NVSwitch 仍然佔據主導地位，同時基於以太網路的替代方案（例如 ESUN 和 SUE）逐漸受到關注，而 UALink 則透過專用加速器互連提供另一種途徑。驗證必須涵蓋加速器對加速器的傳輸量與延遲、無損流量控制，以及在日益增加的互連組合中的互通性。

向外擴充 (Scale-Out)

機櫃與 Pod 透過無損且具擁塞控制的布線連接至訓練叢集。以太網路 / RoCEv2 是首選，而較新的傳輸技術（包括多路徑可靠連線 (MRC)、MetaRoCE 和 UE Transport (UET)）則增加了多路徑分發與更快的遺失復原功能，提升了大規模時的使用率。驗證必須涵蓋擁塞控制微調、多路徑彈性，以及端對端的傳輸量、延遲和工作完成時間。

跨規模 (Scale-Across)

多個站點透過長距離光學與以太網路鏈路聯合成為一個系統。這個較新且仍在成型的類別受到 WAN 擁塞、距離延遲、AI 工作配置和分散式檢查點的影響。驗證必須涵蓋光學鏈路穩定性、跨站點延遲影響，以及在真實分散式訓練條件下的流量行為。

索取報價