AI 집단 의사소통의 벤치마킹 방법

+ 키사이트 AI 데이터 센터 빌더

AI 클러스터 간 집단적 의사소통의 특성 분석

집합적 통신 벤치마킹은 정의된 연산, 참여 엔드포인트, 그리고 반복 가능한 워크로드 프로필을 바탕으로 시작됩니다. 네트워크 토폴로지와 호스트 에뮬레이션 엔드포인트를 구성한 다음, 벤치마킹 방법론에 따라 AllReduce, AllGather 또는 ReduceScatter와 같은 집합적 패턴을 선택합니다. 메시지 크기, 참여 랭크 수, 동시 실행 수 및 반복 횟수를 지정합니다. 참조 실행을 수행하기 전에 링크 속도와 전송 매개변수를 포함한 초기 패브릭 구성을 기록합니다. 그런 다음 집단 통신 벤치마킹을 통해 메시지 크기나 클러스터 크기를 단계적으로 변경하여 확장성을 분석할 수 있습니다. 각 실행에 대한 집단 작업 완료 시간을 측정하고, 선택한 연산에 대해 일관된 정의를 사용하여 유효 대역폭을 계산합니다.

AllReduce 벤치마킹의 경우, 토폴로지를 변경하지 않은 상태에서 메시지 크기와 엔드포인트 수에 따른 관측된 연산 소요 시간을 비교하십시오. 정의된 네트워크 매개변수나 집합 연산 알고리즘 중 하나를 수정하고, 다른 변수는 일정하게 유지한 상태에서 시퀀스를 다시 실행하십시오. 단일 샘플에만 의존하기보다는 완료 시간의 분포를 면밀히 검토하십시오. 유효 대역폭의 변화를 제공된 워크로드, 엔드포인트 참여도 및 이용 가능한 네트워크 카운터와 연관지어 분석하십시오. 동일한 테스트 일정을 반복하여 실행 간 변동성을 평가하십시오. 각 결과 세트와 함께 워크로드 정의, 벤치마크 설정, 토폴로지, 타임스탬프 및 측정 결과를 저장하십시오. 이를 통해 다양한 집합적 구현 및 하드웨어 또는 소프트웨어 구성에 걸쳐 AI 패브릭 성능을 비교할 수 있는 기록을 생성할 수 있습니다.

AI 집단 의사소통 벤치마킹 솔루션

집단 벤치마킹을 수행하려면 반복 가능한 분산 트래픽 패턴, 구성 가능한 참가자 수, 그리고 작업 완료 시간 측정이 필요합니다. 키사이트(Keysight) AI 데이터 센터 빌더(AI Data Center Builder)는 데이터 센터 네트워크 패브릭을 대상으로 집단 통신 활동을 포함한 인공지능 워크로드 동작을 시뮬레이션하기 위한 프레임워크를 제공합니다. 이 솔루션의 집단 벤치마킹 워크플로를 활용하면 워크로드 매개변수를 변경하고, 다양한 네트워크 구성에 걸쳐 측정된 완료 시간 및 처리량 관련 지표를 비교할 수 있습니다. 이 테스트 설정은 지원되는 고밀도 이더넷 트래픽 생성 하드웨어와 소프트웨어 플랫폼을 함께 사용하며, 구체적인 어플라이언스 및 라이선스 선택은 최신 제품 자료에 명시된 구성에 따라 결정됩니다. 엔지니어는 대표적인 집단 작업을 선택하고, 기준선을 설정한 후, 하나의 워크로드 매개변수를 변경하여 결과 측정값을 비교할 수 있습니다. 이렇게 도출된 곡선은 집단 확장성, 알고리즘 선택 및 패브릭 설정을 평가하기 위한 일관된 기준을 제공합니다.

견적 받기