AI 집단 의사소통의 벤치마킹 방법

키사이트 AI 데이터 센터 빌더
+ 키사이트 AI 데이터 센터 빌더

AI 클러스터 전반의 집합 통신 특성화

집합 통신 벤치마킹은 정의된 연산, 참여 엔드포인트 및 반복 가능한 워크로드 프로필로 시작됩니다. 네트워크 토폴로지와 호스트 에뮬레이션 엔드포인트를 구성한 다음, 벤치마킹 방법에 따라 AllReduce, AllGather 또는 ReduceScatter와 같은 집합 패턴을 선택합니다. 메시지 크기, 참여 랭크 수, 동시성 및 반복 횟수를 지정합니다. 기준 실행을 수행하기 전에 링크 속도 및 전송 매개변수를 포함한 초기 패브릭 구성을 기록합니다. 그런 다음 집합 통신 벤치마킹을 통해 메시지 크기나 클러스터 크기를 변경하며 스케일링 거동을 특성화할 수 있습니다. 각 실행에 대한 집합 완료 시간을 캡처하고선택한 연산에 대한 일관된 정의를 사용하여 유효 대역폭을 계산합니다.

AllReduce 벤치마킹의 경우, 변경되지 않은 토폴로지 하에서 메시지 크기 및 엔드포인트 수에 따른 관측된 연산 지속 시간을 비교합니다. 정의된 네트워크 매개변수나 집합 알고리즘 중 하나를 수정하고 다른 변수는 일정하게 유지한 상태에서 시퀀스를 다시 실행합니다. 단일 샘플에 의존하는 대신 완료 시간의 분포를 검사합니다. 유효 대역폭의 변화를 제공된 워크로드, 엔드포인트 참여 및 사용 가능한 네트워크 카운터와 상관 분석합니다. 실행 간 변동성을 평가하기 위해 동일한 테스트 일정을 반복합니다. 각 결과 세트와 함께 워크로드 정의, 벤치마킹 설정, 토폴로지, 타임스탬프 및 측정 출력을 저장합니다. 이를 통해 집합 구현과 하드웨어 또는 소프트웨어 구성 전반에서 AI 패브릭 성능에 대한 비교 가능한 기록을 생성할 수 있습니다.

AI 집단 의사소통 벤치마킹 솔루션

집합 벤치마킹에는 반복 가능한 분산 트래픽 패턴, 구성 가능한 참여자 수, 연산 완료 시간 측정이 필요합니다. Keysight AI Data Center Builder는 데이터 센터 네트워크 패브릭에 대해 집합 통신 활동을 포함한 인공지능 워크로드 거동을 에뮬레이트하기 위한 프레임워크를 제공합니다. 해당 집합 벤치마킹 워크플로를 사용하면 워크로드 매개변수를 변경하고 네트워크 구성 전반에서 측정된 완료 시간과 처리량 관련 지표를 비교할 수 있습니다. 테스트 설정은 지원되는 고밀도 이더넷 트래픽 생성 하드웨어를 소프트웨어 플랫폼과 함께 사용하며, 정확한 어플라이언스 및 라이선스 선택은 현재 제품 자료에 문서화된 구성에 따라 결정됩니다. 엔지니어는 대표적인 집합 연산을 선택하고, 기준선을 설정하고, 하나의 워크로드 매개변수를 변경하고, 그 결과 측정값을 비교할 수 있습니다. 결과 곡선은 집합 스케일링, 알고리즘 선택 및 패브릭 설정을 평가하기 위한 일관된 기반을 제공합니다.

AI 집합 통신 벤치마킹 솔루션 데모 보기

AI 집합 통신 벤치마킹 솔루션의 제품 살펴보기

리소스 및 인사이트 알아보기

AI 집합 통신 벤치마킹을 위한 추가 리소스

관련 사용 사례

문의하기 로고

전문가에게 문의하십시오.

적합한 솔루션을 찾는 데 도움이 필요하십니까?