如何衡量 AI 工作負載的效能隔離程度

Keysight AI 資料中心建構器
+ Keysight AI 資料中心建置器

量化同時執行的工作負載干擾

AI 效能隔離測試從兩個定義的工作負載設定檔以及其流量路徑共用的網路拓樸開始。設定具有指定模擬端點數量、訊息大小、提供負載與通訊模式的基準工作負載。單獨執行該工作負載,並記錄工作完成時間、傳輸量,以及可用測試組態所提供的延遲統計資料。在初始比較中,請保持網狀架構參數與流量產生設定不變。再次啟動基準工作負載,同時引入使用另一組模擬端點的第二個工作負載。設定其啟動時間與流量強度,以便在量測記錄中識別出重疊期間。分別收集兩個工作負載的結果。

比較基準與同時執行量測結果,以量化工作負載干擾。針對每個流量設定檔,計算隔離與共用網狀架構運作之間的工作完成時間、提供的頻寬以及延遲分佈的變化。在保持主要工作負載組態不變的情況下,以不同的重疊持續時間或侵入流量負載重複此程序。當平台提供這些量測時,請監控適用的網路指標,例如佇列行為、壅塞訊號以及遺失或重新傳輸統計資料。將負載模型與受測網狀架構組態與結果一併保留。接著,AI 網狀架構測試可在對排程、拓樸或壅塞管理設定進行受控變更之後,重複相同的工作負載配對。輸出的結果是針對每個工作負載的比較,說明資源共用如何改變量測到的效能。

AI 工作負載效能隔離測試解決方案

效能隔離測試需要獨立控制的工作負載串流、共用網路網狀架構,以及可歸屬於每個工作負載的量測結果。Keysight AI 資料中心產生器(AI Data Center Builder)能夠模擬人工支援智慧工作負載通訊模式,並支援受控網狀架構測試組態。工程師可以使用具代表性的同時流量設定檔,建立隔離的參考量測,然後將其與重疊的工作負載執行結果進行比較。AI 網狀架構測試方法將效能隔離與壅塞管理、負載平衡及工作完成時間一同列為評估主題。建議的工作流程會記錄同時負載條件、每個工作負載的完成時間行為,以及相關的傳輸量或網路統計資料。在受控組態變更後重複量測,可提供比較效能資料。在將說明發布為產品特定功能宣稱之前,應針對軟體版本與所選的 PDF 驗證每個工作負載統計資料與硬體組態的確切可用性。

觀看 AI 工作負載效能隔離測試解決方案的示範影片

探索我們的 AI 工作負載效能隔離測試解決方案中的產品

探索資源與洞察

AI 工作負載效能隔離測試的其他資源

相關應用案例

聯絡我們標誌

聯絡我們的一位專家

需要協助尋找適合您的解決方案嗎?