Como validar sistemas de transporte baseados em IA de alto desempenho

IxNetwork
+ IxNetwork

Validar redes de transporte baseadas em IA, desde a expansão vertical até a expansão horizontal

Os modernos data centers de IA contam com redes interconectadas de tipo scale-up, scale-out e scale-across para oferecer o desempenho necessário para o treinamento e a inferência de IA em grande escala. As malhas de tipo scale-up conectam GPUs e aceleradores dentro de um pod por meio de interconexões de latência ultrabaixa e alta largura de banda, enquanto as redes de tipo scale-out conectam racks e clusters por meio de malhas baseadas em Ethernet sem perdas. À medida que as implantações de IA continuam a crescer, as arquiteturas “scale-across” ampliam a conectividade entre vários campi e fábricas de IA, permitindo que as organizações construam uma infraestrutura de IA distribuída que opera como um único sistema.

Essas arquiteturas em evolução trazem novos desafios em termos de taxa de transferência, latência, gerenciamento de congestionamento, encaminhamento multiplano e multipath, além de interoperabilidade — aspectos que devem ser validados antes da implantação. Para redes de scale-up, scale-out e scale-across, as soluções de teste de rede para data centers com IA da Keysight emulam padrões realistas de tráfego de cargas de trabalho de IA em escala. O avançado KAI Data Center Builder da Keysight emula comunicações coletivas e combinações de cargas de trabalho coletivas, ao mesmo tempo em que mede a taxa de transferência, a latência, o tempo de conclusão de tarefas e o uso de largura de banda. Isso permite a validação abrangente de switches, placas de rede (NICs), xPUs e estruturas de ponta a ponta — ajudando os clientes a implantar infraestruturas de IA de alto desempenho com confiança.

Validação de ponta a ponta para redes de transporte baseadas em IA

Expansão

Dentro de um pod, as GPUs e as xPUs compartilham memória por meio de links de latência ultrabaixa e alta largura de banda. O NVLink/NVSwitch continua dominante, enquanto alternativas baseadas em Ethernet, como ESUN e SUE, ganham força, e o UALink oferece outra opção por meio de uma interconexão dedicada para aceleradores. A validação deve abranger a taxa de transferência e a latência entre aceleradores, o controle de fluxo sem perdas e a interoperabilidade entre uma variedade cada vez maior de interconexões.

Expansão horizontal

Os racks e pods se conectam a um cluster de treinamento por meio de estruturas de rede sem perdas e com controle de congestionamento. Ethernet/RoCEv2 é a opção preferida, enquanto protocolos de transporte mais recentes, incluindo Multipath Reliable Connection (MRC), MetaRoCE e UE Transport (UET), oferecem distribuição multipath e recuperação mais rápida de perdas, melhorando a utilização em escala. A validação deve abranger o ajuste do controle de congestionamento, a resiliência multipath e a taxa de transferência de ponta a ponta, a latência e o tempo de conclusão das tarefas.

Scale-Across

Vários locais se federam em um único sistema por meio de links ópticos e de Ethernet de longa distância. Essa categoria mais recente, ainda em formação, é influenciada pelo congestionamento da WAN, pela latência decorrente da distância, pela alocação de tarefas por IA e pela criação distribuída de pontos de verificação. A validação deve abranger a estabilidade dos links ópticos, o impacto da latência entre locais e o comportamento do tráfego em condições reais de treinamento distribuído.

Conheça os produtos de nossas soluções de infraestrutura de IA

Casos de uso relacionados

logotipo de contato

Entre em contato com um de nossos especialistas

Precisa de ajuda para encontrar a solução certa para você?