Curso

Aula 1 – Introdução às redes de data center para IA/ML

Este bootcamp sobre redes de IA explora as diferenças entre aprendizado de máquina e inferência em data centers, destacando o desempenho das GPUs, gargalos de rede, falhas no fluxo de trabalho e desafios de escalabilidade. Ele enfatiza a otimização da latência, da confiabilidade e da infraestrutura para dar suporte de forma eficaz a cargas de trabalho de IA de alto desempenho.

Documentos Técnicos

Lição 2 – Como as redes de IA/ML diferem das redes tradicionais

A inteligência artificial (IA) e o aprendizado de máquina (ML) estão gerando grandes mudanças nas redes de data center - incluindo novos requisitos, padrões de tráfego e tecnologias. Descubra como as soluções da Keysight ajudam a otimizar as redes de IA.

Lição 3 - Como maximizar o desempenho do back-end de IA/ML

O KAI Data Center Builder da Keysight otimiza o projeto de data centers de IA por meio da emulação de cargas de trabalho de GPU, da avaliação comparativa do desempenho da rede de back-end e da identificação de gargalos. Ele permite a realização de testes escaláveis e econômicos da infraestrutura de treinamento e inferência de IA, sem a necessidade de GPUs físicas no laboratório.

Documentos Técnicos

Lição 4 – Análise comparativa de operações coletivas

A avaliação comparativa do desempenho da rede desempenha um papel vital na identificação de oportunidades para melhorar o rendimento geral sem custos adicionais de hardware. A avaliação comparativa de operações coletivas é uma metodologia fundamental para compreender os limites de desempenho da infraestrutura de IA distribuída. Este white paper explica o funcionamento dos coletivos de IA, define a terminologia e analisa as métricas mais comuns associadas à avaliação comparativa de redes de IA.

Documentos Técnicos

Lição 5 - Melhorando a escalabilidade em clusters de data centers de IA

À medida que os modelos de IA se tornam mais complexos e maiores, o dimensionamento eficaz dos clusters de data center evoluiu para uma prioridade de missão crítica para as organizações que desejam permanecer competitivas. Este white paper explora o aumento dos clusters de IA, destaca os principais desafios de dimensionamento, principalmente na infraestrutura de rede, e demonstra como as soluções avançadas de emulação podem ajudá-lo a superar esses obstáculos.

Lições

Aula 6 – Demonstração da metodologia de teste AI Fabric da Keysight

Esta sessão apresenta a metodologia de teste de infraestrutura de IA da Keysight utilizando o KAI Data Center Builder. Ela aborda conceitos-chave como projeto de topologia, controle de congestionamento e métricas de desempenho, demonstrando como os testes automatizados e o ajuste de configuração otimizam o desempenho da rede de IA. Uma demonstração ao vivo destaca os benefícios do controle de congestionamento na maximização da largura de banda e da eficiência.

Notas de aplicação

Lição 7 - Metodologia de teste do AI Fabric

No contexto dos sistemas de inteligência artificial (IA), especialmente dos modelos de linguagem ampla (LLMs), uma estrutura de rede refere-se à infraestrutura subjacente que conecta e permite a comunicação entre vários componentes ou nós do sistema. A malha de rede é fundamental para facilitar a operação eficiente e eficaz do sistema de IA, inclusive o treinamento de LLMs.

Lição 8 - Introdução à validação das redes de front-end do data center de IA

O Cyperf da Keysight permite a realização de testes seguros e com baixa latência em redes front-end de data centers de IA, garantindo uma ingestão eficiente de dados e comunicação em alta velocidade. Ele valida a largura de banda, a latência e a segurança, otimizando a infraestrutura para dar suporte ao treinamento escalável e de alto desempenho de modelos de linguagem de grande porte.

Lições

Lição 9 - Validação de redes de IA de front-end

Treinamento sobre LM, com destaque para o CyPerf da Keysight para testes de desempenho, escalabilidade e segurança em redes de data centers de IA.

Notas de aplicação

Aula 10 - Descarregamentos de rede de alto desempenho para plataformas em nuvem voltadas para IA/ML

Uma abordagem para validar e testar o desempenho do SmartNIC, da infraestrutura subjacente do LLM e de vários componentes de rede

Aula 11 – Estudos de caso e estratégias de redes para data centers de IA

Nesta sessão final, os clientes compartilham casos de uso reais das ferramentas da Keysight abordadas ao longo do bootcamp. O programa é encerrado com o executivo Ram Periakaruppan, que apresenta uma visão geral abrangente das soluções de IA para data centers da Keysight, que abrangem infraestrutura de computação, interconexão, redes e energia.

Estudos de caso

Aula 12 – História de sucesso: Construindo redes de IA de última geração

A Keysight ajuda a Juniper a validar a malha de rede de próxima geração emulando a carga de trabalho de comunicações coletivas proveniente de uma grande escala de aceleradores de IA.

Relatórios

Lição 13 - Relatório de testes da Tolly: Avaliação comparativa de desempenho do Dell PowerEdge e da IA da Broadcom

A Inteligência Artificial (IA) impõe demandas novas e sem precedentes aos servidores e à estrutura da rede. Durante o processo de treinamento de IA, grandes quantidades de dados precisam ser trocadas entre os servidores. A Dell contratou a Tolly para avaliar o desempenho de offload IPv6 RDMA do controlador Broadcom 57508 Dual-Port 100 Gb/s Ethernet (adaptador LAN) em execução nos servidores de rack Dell PowerEdge R760xa, testando com os benchmarks de IA da Keysight.

Livros eletrônicos

Aula 14 – 5 estratégias-chave para otimizar e expandir centros de dados de IA

O eBook explora o dimensionamento de data centers de IA, otimizando GPUs, interconexões de alta velocidade, eficiência energética e confiabilidade da rede. Ele destaca as soluções de IA da Keysight (KAI) para validação, benchmarking e otimização.

Produto relacionado

Caso de uso relacionado