AI 워크로드의 성능 격리 측정 방법

+ 키사이트 AI 데이터 센터 빌더

동시 작업 부하 간섭의 정량화

AI 성능 격리 테스트는 두 가지 정의된 워크로드 프로필과, 이들의 트래픽 경로가 공유하는 네트워크 토폴로지를 바탕으로 시작됩니다. 지정된 수의 에뮬레이션된 엔드포인트, 메시지 크기, 제공 부하 및 통신 패턴을 사용하여 기준 워크로드를 구성합니다. 이를 단독으로 실행하고, 작업 완료 시간, 처리량 및 사용 가능한 테스트 구성에서 나타나는 지연 시간 통계를 기록합니다. 초기 비교를 위해 패브릭 매개변수와 트래픽 생성 설정은 변경하지 마십시오. 별도의 에뮬레이션된 엔드포인트 세트를 사용하여 두 번째 워크로드를 도입하면서 기준 워크로드를 다시 시작하십시오. 측정 기록에서 중복 기간을 식별할 수 있도록 두 워크로드의 시작 시간과 트래픽 강도를 구성하십시오. 두 워크로드에 대한 결과를 각각 별도로 수집하십시오.

베이스라인 측정값과 동시 실행 측정값을 비교하여 워크로드 간 간섭을 정량화합니다. 각 트래픽 프로필에 대해, 격리된 패브릭 운영과 공유 패브릭 운영 간에 작업 완료 시간, 제공 대역폭 및 지연 시간 분포의 변화를 계산합니다. 주요 워크로드 구성을 일정하게 유지한 상태에서, 서로 다른 중첩 기간이나 공격자 부하를 적용하여 이 과정을 반복합니다. 플랫폼에서 해당 측정값을 제공할 수 있는 경우, 큐잉 동작, 혼잡 신호, 손실 또는 재전송 통계와 같은 관련 네트워크 지표를 모니터링합니다. 결과와 함께 부하 모델 및 테스트된 패브릭 구성을 보관하십시오. 그러면 AI 패브릭 테스트를 통해 스케줄링, 토폴로지 또는 혼잡 관리 설정을 제어된 방식으로 변경한 후 동일한 워크로드 조합을 반복 테스트할 수 있습니다. 그 결과, 리소스 공유가 측정된 성능에 어떤 영향을 미쳤는지에 대한 워크로드별 비교 결과를 얻을 수 있습니다.

AI 워크로드 성능 격리 테스트 솔루션

성능 격리 테스트를 수행하려면 독립적으로 제어되는 워크로드 스트림, 공유 네트워크 패브릭, 그리고 각 워크로드에 귀속될 수 있는 측정값이 필요합니다. 키사이트(Keysight) AI 데이터 센터 빌더(AI Data Center Builder)는 인공 지능 워크로드의 통신 패턴을 에뮬레이션하고, 제어된 패브릭 테스트 구성을 지원합니다. 엔지니어는 대표적인 동시 트래픽 프로파일을 사용하여 격리된 기준 측정값을 설정한 다음, 이를 중복되는 워크로드 실행 결과와 비교할 수 있습니다. AI 패브릭 테스트 방법론은 평가 항목으로 성능 격리뿐만 아니라 혼잡 관리, 부하 분산, 작업 완료 시간을 다룹니다. 제안된 워크플로는 동시 부하 조건, 워크로드별 완료 시간 동향, 관련 처리량 또는 네트워크 통계를 기록합니다. 제어된 구성 변경 후 측정을 반복하면 비교 가능한 성능 데이터를 얻을 수 있습니다. 작업별 통계 및 하드웨어 구성의 정확한 가용성은, 해당 설명이 제품별 기능 주장으로 공개되기 전에 소프트웨어 버전 및 선택된 PDF를 기준으로 검증되어야 합니다.

견적 받기