Cómo medir el aislamiento del rendimiento de las cargas de trabajo de IA

Obtener presupuesto
Keysight AI Data Center Builder
+ Keysight AI Data Center Builder
Keysight AI Data Center Builder
+ Keysight AI Data Center Builder

Cuantificar la interferencia entre cargas de trabajo simultáneas

Las pruebas de aislamiento del rendimiento de la IA comienzan con dos perfiles de carga de trabajo definidos y una topología de red compartida por sus rutas de tráfico. Configura una carga de trabajo de referencia con un número específico de puntos finales emulados, tamaños de mensaje, carga ofrecida y patrón de comunicación. Ejecútala por separado y registra el tiempo de finalización del trabajo, el rendimiento y las estadísticas de latencia que ofrece la configuración de prueba disponible. Mantenga sin cambios los parámetros de la estructura y los ajustes de generación de tráfico para la comparación inicial. Inicie de nuevo la carga de trabajo de referencia mientras introduce una segunda carga de trabajo utilizando un conjunto independiente de puntos finales emulados. Configure su hora de inicio y la intensidad del tráfico de manera que se pueda identificar el periodo de solapamiento en el registro de mediciones. Recopile los resultados por separado para ambas cargas de trabajo.

Compara las mediciones de referencia con las de ejecuciones simultáneas para cuantificar la interferencia entre cargas de trabajo. Para cada perfil de tráfico, calcula la variación en el tiempo de finalización de los trabajos, el ancho de banda suministrado y la distribución de la latencia entre el funcionamiento en estructura aislada y en estructura compartida. Repite el proceso con diferentes duraciones de solapamiento o cargas de agresor, manteniendo constante la configuración de la carga de trabajo principal. Supervisa los indicadores de red pertinentes, como el comportamiento de las colas, las señales de congestión y las estadísticas de pérdidas o retransmisiones, siempre que la plataforma facilite estas mediciones. Conserve el modelo de carga y la configuración de la estructura probada junto con los resultados. De este modo, las pruebas de la estructura con IA podrán repetir la misma combinación de cargas de trabajo tras un cambio controlado en la programación, la topología o los ajustes de gestión de la congestión. El resultado es una comparación, por cada carga de trabajo, de cómo el uso compartido de recursos modifica el rendimiento medido.

Solución de pruebas de aislamiento del rendimiento de las cargas de trabajo de IA

Las pruebas de aislamiento del rendimiento requieren flujos de carga de trabajo controlados de forma independiente, una estructura de red compartida y mediciones atribuibles a cada carga de trabajo. Keysight AI Data Center Builder puede emular patrones de comunicación de cargas de trabajo de inteligencia artificial y admite configuraciones controladas de pruebas de la estructura de red. Mediante perfiles de tráfico simultáneo representativos, los ingenieros pueden establecer mediciones de referencia aisladas y, a continuación, compararlas con ejecuciones de cargas de trabajo superpuestas. La metodología de pruebas de la estructura de red de IA describe el aislamiento del rendimiento junto con la gestión de la congestión, el equilibrio de carga y el tiempo de finalización de los trabajos como aspectos de evaluación. El flujo de trabajo propuesto registra las condiciones de carga simultánea, el comportamiento del tiempo de finalización por carga de trabajo y las estadísticas relevantes de rendimiento o de red. La repetición de las mediciones tras un cambio de configuración controlado proporciona datos comparativos de rendimiento. La disponibilidad exacta de las estadísticas por trabajo y la configuración de hardware deben verificarse con respecto a la versión del software y al PDF seleccionado antes de que la descripción se publique como una afirmación de capacidad específica del producto.
Obtener presupuesto

Ver vídeo de demostración de la solución de pruebas de aislamiento del rendimiento de las cargas de trabajo de IA

Descubre los productos de nuestra solución de pruebas de aislamiento del rendimiento de cargas de trabajo de IA

Descubra recursos e información

Recursos adicionales para las pruebas de aislamiento del rendimiento de las cargas de trabajo de IA

Casos prácticos relacionados

Cómo validar la escalabilidad de la infraestructura de inferencia de IA

La escalabilidad de la infraestructura de inferencia de IA se pone de manifiesto en condiciones de tráfico similares a las de producción, donde el aumento de la demanda simultánea puede afectar al rendimiento de la inferencia, a la latencia de la inferencia y a la consistencia de las respuestas. La emulación de cargas de trabajo pone de manifiesto los límites de rendimiento en los componentes de computación, red y servicios, mientras que la telemetría de las unidades de procesamiento gráfico (GPU) proporciona el contexto de la infraestructura de apoyo.

Más información

Cómo evaluar comparativamente la comunicación colectiva basada en la IA

Evalúa el rendimiento de la comunicación colectiva en sistemas de inteligencia artificial mediante perfiles de carga de trabajo distribuidos y repetibles. Configura operaciones AllReduce, AllGather o ReduceScatter, varía el tamaño de los mensajes y los puntos finales participantes, y compara el tiempo de ejecución y el ancho de banda efectivo en diferentes configuraciones de la red para caracterizar el rendimiento de la comunicación.

Más información

Cómo simular la congestión en una red de 100GE

Simula de forma repetible la congestión, la latencia y la pérdida en redes de 100GE para validar la resiliencia de la red y las aplicaciones antes de su implementación.

Más información

contacto logotipo

Póngase en contacto con uno de nuestros expertos

¿Necesita ayuda para encontrar la solución adecuada para usted?

Contáctenos