Como medir o isolamento de desempenho da carga de trabalho de IA

Criador de data center com IA da Keysight
+ Keysight AI Data Center Builder

Quantificar a interferência entre cargas de trabalho simultâneas

Os testes de isolamento de desempenho de IA começam com dois perfis de carga de trabalho definidos e uma topologia de rede compartilhada por seus caminhos de tráfego. Configure uma carga de trabalho de referência com um número especificado de terminais emulados, tamanhos de mensagem, carga oferecida e padrão de comunicação. Execute-a isoladamente e registre o tempo de conclusão da tarefa, a taxa de transferência e as estatísticas de latência expostas pela configuração de teste disponível. Mantenha os parâmetros da malha e as configurações de geração de tráfego inalterados para a comparação inicial. Inicie a carga de trabalho de referência novamente enquanto introduz uma segunda carga de trabalho usando um conjunto separado de terminais emulados. Configure sua hora de início e intensidade de tráfego de modo que o período de sobreposição possa ser identificado no registro de medição. Colete os resultados separadamente para ambas as cargas de trabalho.

Compare as medições da linha de base com as de execução simultânea para quantificar a interferência na carga de trabalho. Para cada perfil de tráfego, calcule a variação no tempo de conclusão da tarefa, na largura de banda fornecida e na distribuição de latência entre a operação em malha isolada e a operação em malha compartilhada. Repita o processo com diferentes durações de sobreposição ou cargas agressoras, mantendo constante a configuração da carga de trabalho principal. Monitore os indicadores de rede aplicáveis, como comportamento de enfileiramento, sinais de congestionamento e estatísticas de perda ou retransmissão, quando essas medições estiverem disponíveis na plataforma. Mantenha o modelo de carga e a configuração da malha testada junto com os resultados. Os testes de malha com IA podem, então, repetir o mesmo emparelhamento de cargas de trabalho após uma alteração controlada nas configurações de agendamento, topologia ou gerenciamento de congestionamento. O resultado é uma comparação, por carga de trabalho, de como o compartilhamento de recursos altera o desempenho medido.

Solução para testes de isolamento de desempenho de cargas de trabalho de IA

Os testes de isolamento de desempenho exigem fluxos de carga controlados de forma independente, uma malha de rede compartilhada e medições atribuíveis a cada carga de trabalho. O Keysight AI Data Center Builder pode emular padrões de comunicação de cargas de trabalho de inteligência artificial e oferecer suporte a configurações controladas de teste da malha. Utilizando perfis representativos de tráfego simultâneo, os engenheiros podem estabelecer medições de referência isoladas e, em seguida, compará-las com execuções de cargas de trabalho sobrepostas. A metodologia de teste da malha de IA descreve o isolamento de desempenho juntamente com o gerenciamento de congestionamento, o balanceamento de carga e o tempo de conclusão das tarefas como tópicos de avaliação. O fluxo de trabalho proposto registra as condições de carga simultânea, o comportamento do tempo de conclusão por carga de trabalho e as estatísticas relevantes de throughput ou de rede. A repetição das medições após uma alteração controlada na configuração fornece dados comparativos de desempenho. A disponibilidade exata das estatísticas por tarefa e da configuração de hardware deve ser verificada em relação à versão do software e ao PDF selecionado antes que a descrição seja publicada como uma declaração de capacidade específica do produto.

Assista ao vídeo de demonstração da solução de testes de isolamento de desempenho de cargas de trabalho de IA

Conheça os produtos da nossa solução de testes de isolamento de desempenho de cargas de trabalho de IA

Descubra recursos e percepções

Recursos adicionais para testes de isolamento de desempenho de cargas de trabalho de IA

Casos de uso relacionados

logotipo de contato

Entre em contato com um de nossos especialistas

Precisa de ajuda para encontrar a solução certa para você?