고성능 AI 전송의 유효성 검증 방법

IxNetwork
+ IxNetwork

확장(Scale-Up)부터 광범위한 적용(Scale-Across)에 이르는 AI 운송 네트워크의 유효성 검증

현대적인 AI 데이터 센터는 대규모 AI 훈련 및 추론에 필요한 성능을 제공하기 위해 상호 연결된 스케일업, 스케일아웃, 스케일어크로스 네트워크에 의존합니다. 스케일업 패브릭은 초저지연, 고대역폭 상호 연결을 사용하여 포드 내의 GPU와 가속기를 연결하는 반면, 스케일아웃 네트워크는 무손실 이더넷 기반 패브릭을 통해 랙과 클러스터를 연결합니다. AI 구축이 지속적으로 확대됨에 따라, 스케일-어크로스 아키텍처는 여러 캠퍼스와 AI 팩토리 간의 연결성을 확장하여, 조직이 단일 시스템처럼 작동하는 분산형 AI 인프라를 구축할 수 있도록 지원합니다.

이러한 진화하는 아키텍처는 처리량, 지연 시간, 혼잡 관리, 멀티플레인 및 멀티패스 전달, 상호 운용성 측면에서 새로운 과제를 제기하며, 이는 배포 전에 반드시 검증되어야 합니다. 스케일업, 스케일아웃, 스케일어크로스 네트워크의 경우, 키사이트의 AI 데이터 센터 네트워크 테스트 솔루션은 대규모의 실제와 같은 AI 워크로드 트래픽 패턴을 에뮬레이션합니다. 키사이트의 첨단 KAI 데이터 센터 빌더(KAI Data Center Builder)는 집합적 통신 및 다양한 집합적 워크로드를 시뮬레이션하는 동시에 처리량, 지연 시간, 작업 완료 시간 및 대역폭 사용량을 측정합니다. 이를 통해 스위치, NIC, xPU 및 엔드투엔드 패브릭에 대한 포괄적인 검증이 가능해지며, 고객이 자신 있게 고성능 AI 인프라를 구축할 수 있도록 지원합니다.

AI 교통 네트워크를 위한 종단 간 검증

확장

포드 내에서 GPU와 xPU는 초저지연, 고대역폭 링크를 통해 메모리를 공유합니다. NVLink/NVSwitch가 여전히 주류를 이루고 있는 한편, ESUN 및 SUE와 같은 이더넷 기반 대안들이 주목을 받고 있으며, UALink는 전용 가속기 상호연결 방식을 통해 또 다른 대안을 제시하고 있습니다. 검증 과정에서는 가속기 간 처리량 및 지연 시간, 무손실 흐름 제어, 그리고 점점 다양해지는 상호 연결 방식 간의 상호 운용성을 모두 포함해야 합니다.

스케일아웃

랙과 포드는 무손실 및 혼잡 제어 기능이 적용된 패브릭을 통해 트레이닝 클러스터에 연결됩니다. 이더넷/RoCEv2가 가장 널리 사용되는 선택지인 반면, MRC(Multipath Reliable Connection), MetaRoCE, UET(UE Transport)를 포함한 최신 전송 프로토콜은 다중 경로 분산 및 더 빠른 손실 복구 기능을 추가하여 대규모 환경에서의 활용도를 향상시킵니다. 검증 과정에서는 혼잡 제어 조정, 다중 경로 복원력, 종단 간 처리량, 지연 시간 및 작업 완료 시간을 반드시 포함해야 합니다.

Scale-Across

여러 사이트가 장거리 광통신 및 이더넷 링크를 통해 하나의 시스템으로 통합됩니다. 아직 형성 단계에 있는 이 새로운 범주는 WAN 혼잡, 거리 지연, AI 작업 배정, 분산 체크포인트링 등의 요인에 의해 형성됩니다. 검증 과정에서는 실제 분산 훈련 환경에서 광통신 링크의 안정성, 사이트 간 지연의 영향, 트래픽 거동 등을 포괄적으로 검토해야 합니다.

당사의 AI 인프라 솔루션 제품 살펴보기

관련 사용 사례

문의하기 로고

전문가에게 문의하십시오.

적합한 솔루션을 찾는 데 도움이 필요하십니까?