A Broadcom revelou em evento recente que está trabalhando em uma solução para integrar conexões ópticas diretamente em GPUs e outros aceleradores IA. A ideia é aproveitar a taxa de transferência de dados desse tipo de transmissão, muito superior ao cobre tradicionalmente usado.
A companhia tem como objetivo melhorar a capacidade de interconexão entre diferentes unidades de processamento. Para isso, ela está usando co-packaged optics (CPO), uma solução que integra silícios e componentes ópticos diretamente no substrato “empacotado”.
A tecnologia foi mostrada na convenção Hot Chips, onde a Broadcom prometeu uma banda de interconexão de até 1,6TB/s com sua solução. Isso seria o equivalente a 6,4Tb/s, ou 800GB/s para cada direção.
O grande destaque da novidade está na economia de energia que o uso de CPOs pode oferecer. A conexão óptica demanda mais energia, com a Nvidia estimando que um sistema com NVL72 pode aumentar em até 20kW o seu consumo se passasse a usar a tecnologia em sua interconexão. O consumo padrão já é de 120kW.
Desse modo, a Broadcom diz que sua “engine óptica” mitiga o problema integrando CPOs diretamente nos componentes. Além disso, comparando ao NVL72 que consegue ligar até 72 GPUs trabalhando ao mesmo tempo, a empresa promete que sua tecnologia consegue juntar até 512 GPUs.
Broadcom ainda não mostrou tecnologia finalizada
Outra vantagem ressaltada pela companhia para a interconexão óptica de GPUs e aceleradores de IA seria a distância que esses componentes podem ser colocados. Segundo o porta-voz da Broadcom, conexões de cobre podem começar a degradar dados depois de somente 5 metros, enquanto a óptica não tem esse problema.
Notícias relacionadas:
- TinyBox enfim começa a ser vendida, com versões AMD e Nvidia
- Kioxia apresenta interface óptica para SSDs em busca de data centers ecológicos
- TSMC une forças com NVIDIA e Broadcom para fotônica de silício
A empresa, no entanto, ainda não foi capaz de mostrar sua “engine óptica” em uma GPU ou chip comercialmente disponível. Em vez disso, a Broadcom usou um chip para testes feito para emular uma A100 ou MI250X. Isso pode ser considerado um indicativo que ainda estamos um tanto longe de vermos um produto finalizado com a solução de CPOs da companhia.
Fonte: The Register
Via: TechSpot
from Tudo sobre Notícias - Adrenaline https://ift.tt/aX9IZG7
via IFTTT