O que diferencia as redes de centros de dados com IA dos centros de dados tradicionais?

As redes de centros de dados de IA são construídas para processamento massivamente paralelo e movimentação de dados entre GPUs fortemente acopladas. Ao contrário das redes empresariais ou em nuvem tradicionais, que normalmente são otimizadas para tráfego norte-sul e modelos cliente-servidor, as redes de IA devem suportar tráfego leste-oeste de alto rendimento e baixa latência através de malhas de comutação de alta radix. As cargas de trabalho de treinamento de IA envolvem comunicação de todos para todos e de muitos para muitos, exigindo sincronização precisa entre milhares de nós. Isso resulta em padrões de tráfego intermitentes, não uniformes e altamente sensíveis ao congestionamento. As ferramentas de validação padrão muitas vezes são insuficientes porque não têm a capacidade de simular as cargas de trabalho complexas e em grande escala típicas dos ambientes de IA/ML. O Keysight AI Data Center Builder foi desenvolvido especificamente para esse espaço, pois modela a topologia física e lógica, emula cargas de trabalho de IA realistas e expõe gargalos de desempenho em todo o sistema antes da implantação do hardware.

Como simular cargas de trabalho de IA para validação do centro de dados?

A simulação precisa das cargas de trabalho de IA requer uma emulação de tráfego que reflita o comportamento de comunicação das tarefas de treinamento e inferência. O treinamento de IA gera tráfego sincronizado, em grandes volumes e com picos. Esses fluxos sobrecarregam a rede de maneira diferente das cargas de trabalho tradicionais e podem sobrecarregar os buffers dos switches, acionar o bloqueio da cabeça da fila ou saturar links específicos. O AI Data Center Builder da Keysight permite gerar esses padrões de tráfego exatos em escala, em terminais de GPU sintéticos, switches programáveis e interconexões de malha. Ele permite modelar taxas de chegada de tarefas e padrões de tráfego exatos em escala, em terminais de GPU sintéticos, switches programáveis e interconexões de malha. O Keysight AI Data Center Builder permite gerar esses padrões de tráfego exatos em escala, em terminais GPU sintéticos, switches programáveis e interconexões de malha. Ele permite modelar taxas de chegada de tarefas, tamanhos de picos e tempo de sincronização para fornecer uma maneira realista e repetível de medir o comportamento do sistema em condições representativas de IA/ML. Essa emulação de carga de trabalho é essencial para a validação em estágio inicial de topologia, roteamento e estratégias de agendamento em ambientes de data center de alto desempenho.

Por que os testes de congestionamento são importantes no projeto de data centers de IA?

As cargas de trabalho de IA exigem alta utilização de link e sincronização rigorosa entre clusters de GPU. Qualquer congestionamento no nível da malha (latência de cauda) pode introduzir atrasos na fila ou quedas de pacotes, o que, por sua vez, causa paralisações da GPU e desempenho de treinamento degradado. Como muitas estruturas de IA dependem de comunicação coletiva, o nó mais lento da rede pode causar um gargalo em todo o trabalho. Os testes de desempenho tradicionais muitas vezes não detectam essas interações. A análise de congestionamento baseada em emulação da Keysight fornece visibilidade de ponta a ponta do fluxo de tráfego, pontos críticos e propagação de congestionamento. Você pode testar diferentes topologias, simular disputas em tempo real e avaliar como o congestionamento se propaga. A análise de congestionamento baseada em emulação da Keysight oferece visibilidade de ponta a ponta do fluxo de tráfego, pontos críticos e propagação do congestionamento. Você pode testar diferentes topologias, simular disputas em tempo real e avaliar como o acúmulo de filas afeta a latência e a taxa de transferência. O resultado é uma compreensão mais profunda de como o design da topologia, os algoritmos de roteamento e as estratégias de buffer afetam a eficiência geral do sistema antes de se comprometer com o hardware ou implantar cargas de trabalho.

Como posso comparar o desempenho do centro de dados de IA durante o desenvolvimento?

A avaliação comparativa eficaz da infraestrutura do centro de dados de IA requer testes ao nível do sistema que reflitam os padrões de comunicação de IA do mundo real. Isso inclui a avaliação da latência de ponta a ponta, do rendimento e do comportamento de congestionamento em nós de computação, malhas de comutação e ligações de interconexão. Com o Keysight AI Data Center Builder, pode realizar avaliações comparativas de desempenho controladas e repetíveis utilizando a emulação de tráfego ao nível da aplicação. A plataforma oferece suporte a testes de comportamento de escalabilidade (por exemplo, como o desempenho muda com mais GPUs), testes de estresse com várias tarefas simultâneas e medição de KPIs críticos, como tempo de conclusão da tarefa, perda de pacotes e pontos críticos de congestionamento. Ao comparar diferentes fornecedores de switches, tecnologias de link ou topologias, as equipes podem tomar decisões arquitetônicas baseadas em dados. Essas informações ajudam a otimizar o design da malha para eficiência de treinamento, minimizar a subutilização e acelerar a implantação de infraestrutura de IA escalável.

Qual é a vantagem de usar ferramentas de emulação para o planejamento de data centers de IA?

Ferramentas de emulação como o Keysight AI Data Center Builder permitem o planejamento proativo e a validação da infraestrutura de rede de IA sem a necessidade de GPUs ou switches físicos instalados. Elas permitem criar gêmeos digitais da topologia do seu data center, simular cargas de trabalho de IA realistas e analisar o desempenho do sistema em condições de tráfego variáveis. Essa abordagem virtualizada permite identificar falhas de projeto, avaliar arquiteturas alternativas e ajustar estratégias de roteamento e programação antes da implantação do hardware. Ao expor gargalos de desempenho e riscos de congestionamento antecipadamente, a emulação reduz iterações de projeto dispendiosas e minimiza o risco de ineficiências em ambientes ativos. Para equipes que planejam a expansão do cluster de GPU, a migração da topologia ou a implantação de switches de última geração, a emulação oferece uma maneira escalável e de baixo risco de garantir a prontidão e o desempenho em escala.

Construtor de centros de dados de IA

Emule cargas de trabalho de IA para otimizar o desempenho e a confiabilidade do data center

O Keysight AI (KAI) Data Center Builder é uma solução de emulação que o ajuda a planejar e validar sua infraestrutura de IA antes de implantá-la. Modele arquiteturas de rede, simule cargas de trabalho realistas e teste cenários de throughput e tratamento de congestionamento em nós de computação, switches e interconexões. O KAI Data Center Builder oferece visibilidade do desempenho em nível de sistema, permitindo escolhas de design mais inteligentes para maximizar a eficiência e a confiabilidade. Seja para validar novas topologias ou avaliar atualizações de rede, o KAI Data Center Builder o ajuda a fazer isso mais rapidamente, com menor risco e com maior percepção. Selecione um modelo que inclua um acelerador de hardware ou escolha uma opção somente de software. Solicite um orçamento para uma de nossas configurações populares hoje mesmo. Precisa de ajuda para selecionar? Consulte os recursos abaixo.

Emulação de carga de trabalho

Simule padrões de tráfego de treinamento e inferência de IA para avaliar como sua rede lida com cargas de trabalho realistas e intensas em GPUs, switches e interconexões.

Avaliação comparativa de desempenho

Execute benchmarks no nível do sistema para avaliar o impacto dos parâmetros do modelo de IA, dos parâmetros de rede e de suas interações em escala.

Visualização do fluxo de dados

Analise a latência da cauda, identifique gargalos e saiba como as decisões sobre topologia e componentes afetam o desempenho em todo o sistema.

Otimização de rede

Identifique falhas de projeto antecipadamente para reduzir o número de iterações de testes físicos, acelerando a validação e reduzindo o tempo de implantação.

Protocol support

RDMA, RoCEv2
Collective operations supported

All gather (unidirectional ring), All reduce (bidirectional ring; halving doubling; unidirectional ring), All to all (parallel; PXN), Broadcast (parallel), Gather (parallel), Reduce scatter (unidirectional ring), All reduce, All gather, Reduce scatter, All to all, Broadcast, Gather, Unidirectional ring, Bidirectional ring, Halving-doubling all reduce, Parallel, PXN all to all
Compatible hardware

AresONE 1600, AresONE-S, AresONE-M, RDMA NIC
Aplicações

Collective Benchmarks, Workload Emulation, IxNetwork
License types

Software Bundle, Application, Transport Endpoint, Hardware Bundle, Perpetual
Ports

4 até 16
Interface

QSFP-DD, QSFP-DD800, OSFP

Configurações mais populares

Imagem do Pacote Inicial do KAI Data Center Builder com o aplicativo Collective Benchmarks

Pacote inicial do KAI Data Center Builder com aplicativo de benchmarks coletivos

Modelo

950-2001

Suporte a protocolos

-

Operações coletivas apoiadas

-

Hardware compatível

-

Suporte a protocolos

RDMA, RoCEv2

Operações coletivas apoiadas

All gather (anel unidirecional), All reduce (anel bidirecional; divisão pela metade e duplicação; anel unidirecional), All to all (paralelo; PXN), Broadcast (paralelo), Gather (paralelo), Reduce scatter (anel unidirecional)

Hardware compatível

AresONE 1600, AresONE-S, AresONE-M, placa de rede RDMA

Pacote de cargas de trabalho do KAI Data Center Builder com benchmarks coletivos e aplicativos de emulação de cargas de trabalho

Modelo

950-2002

Suporte a protocolos

-

Operações coletivas apoiadas

-

Hardware compatível

-

Suporte a protocolos

RDMA, RoCEv2

Operações coletivas apoiadas

All gather (anel unidirecional), All reduce (anel bidirecional; divisão pela metade e duplicação; anel unidirecional), All to all (paralelo; PXN), Broadcast (paralelo), Gather (paralelo), Reduce scatter (anel unidirecional)

Hardware compatível

AresONE 1600, AresONE-S, AresONE-M, placa de rede RDMA

Imagem do KAI Data Center Builder com o aplicativo Collective Benchmarks

KAI Data Center Builder com aplicativo de benchmarks coletivos

Modelo

950-2101

Suporte a protocolos

-

Operações coletivas apoiadas

-

Hardware compatível

-

Suporte a protocolos

RDMA, RoCEv2

Operações coletivas apoiadas

All gather (anel unidirecional), All reduce (anel bidirecional; divisão pela metade e duplicação; anel unidirecional), All to all (paralelo; PXN), Broadcast (paralelo), Gather (paralelo), Reduce scatter (anel unidirecional)

Hardware compatível

AresONE-S, AresONE-M, placa de rede RDMA

Escolha o KAI Data Center Builder ideal para você

Os recursos abaixo ajudarão você a determinar a plataforma de teste necessária.

Explorar recursos

Explore nosso catálogo de emuladores de tráfego Ethernet
Como as redes de IA/ML diferem das redes tradicionais
Como testar redes de data center com IA

Serviços e suporte

KeysightCare

Inove rapidamente com planos de suporte personalizados e tempos de resposta e resolução priorizados.

Alternativas financeiras

Obtenha assinaturas previsíveis baseadas em locação e soluções completas de gerenciamento do ciclo de vida para atingir suas metas de negócios mais rapidamente.

Portal de suporte da Keysight

Experimente um serviço diferenciado como assinante do KeysightCare para obter respostas técnicas comprometidas e muito mais.

Calibração

Garanta que seu sistema de teste funcione de acordo com as especificações e atenda às normas locais e globais.

Educação

Faça medições rapidamente com treinamento interno ministrado por instrutor e eLearning.

Centro de download de software

Faça o download do software Keysight ou atualize seu software para a versão mais recente.

Keysight AI Data Center Builder Acelere o projeto e a implantação da infraestrutura de rede de IA