A AI desencadeia uma revolução no networking da Cloud

À medida que mais workloads de AI migram para a cloud, as inéditas exigências de largura de banda e peculiares padrões de tráfego usados no treino de modelos estão a sobrecarregar as infraestruturas existentes.

Os workloads de AI e machine learning representam o maior desafio atual enfrentado pelo networking de cloud. O enorme volume de dados necessário para treinar os grandes modelos de linguagem e outras aplicações de AI, juntamente com as necessidades de baixa latência, eclipsam, numa ordem de grandeza, a utilização típica da cloud empresarial.

Confiar simplesmente em interconexões normais de cloud revela-se insuficiente, pois estas correm o risco de criar estrangulamentos que impedem que os workloads de AI processem dados de forma eficiente. As interconexões diretas de alto rendimento entre sites são agora essenciais. Otimizar redes para a AI é um puzzle multidimensional onde a capacidade em termos absolutos é apenas uma das peças. Com os modelos de AI a ingerir elevadíssimos volumes de dados durante as fases de treino, as taxas de “egress”cobradas pelos fornecedores de cloud podem tornar alguns workloads proibitivamente caras se não for tida em conta uma gestão adequada. As organizações estão a reavaliar o routing e a arquitetura da cloud para rastrear de perto a “gravidade dos dados” e a mobilidade dos workloads, evitando custos inesperados.

Face às exigentes necessidades de networking da AI, está a emergir rapidamente um ecossistema de fornecedores com soluções inovadoras que abrangem interconexões de alta velocidade, aceleradores de hardware especializados, stacks de protocolos otimizados para AI e ferramentas de telemetria de rede impulsionadas por AI. Embora ainda numa fase inicial, um facto é claro — as redes existentes não foram projetadas para as exigências de desempenho extremas da AI. A AI está a catalisar a próxima vaga de capacidades de cloud networking inteligentes.

À medida que a presença dos serviços de AI nas empresas e na cloud cresce, o networking pode revelar-se o estrangulamento mais crucial a ultrapassar. Aqueles que repensarem estrategicamente desde já a sua abordagem para acompanhar a evolução da AI terão uma considerável vantagem competitiva.