0
Siga-nos
A fome da IA por poder e memória, mais a resultante crise de abastecimento desta última, levou muitos intervenientes da indústria a envolverem-se numa solução criativa de problemas. Caso em questão, Micron e Meta colaboraram em um data center experimental com DRAM de baixo consumo de energia.
A Micron desenvolveu o SOCAMM2, um novo formato para LPDDR5X que é um “módulo modular e funcional projetado para servidores”. Os testes usaram “o conjunto de benchmark DCPerf de código aberto da Meta, que reflete ambientes de produção em uma frota de hiperescala” e descobriram que este módulo DRAM de baixo consumo “consome aproximadamente um terço da energia do DDR5”. De acordo com o relatório do white paper da Micron, isso representa menos de 7% da energia total do sistema.
O white paper prossegue elaborando que a “tensão operacional reduzida e a sinalização avançada do LPDDR5X permitem que a largura de banda seja dimensionada sem um aumento correspondente no consumo de energia, resultando em melhor desempenho de largura de banda por watt do que a memória de servidor convencional”. Basicamente, os data centers podem instalar mais DRAM de baixo consumo de energia sem aumentar os custos operacionais relacionados à energia.
A possível mudança da indústria de IA do DDR5 pode parecer uma boa notícia no curto prazo para jogadores de PC famintos de memória, mas o quadro completo é um pouco mais complexo. Por um lado, aumentar a produção de DRAM de baixo consumo provavelmente desviará recursos já sobrecarregados da fabricação de DDR5, deixando os jogadores de PC praticamente na mesma posição. Por outro lado, a DRAM de baixo consumo tende a ser usada em dispositivos móveis como telefones e tablets, para que os consumidores ainda possam sentir o aperto.
É importante notar que vimos DRAM de baixo consumo em pelo menos um laptop, especificamente na forma de módulos de memória LPCAMM2 no Framework 13 Pro da Computex. No entanto, a crise no fornecimento de memória provavelmente significa que não veremos módulos semelhantes de baixo consumo de energia em muitos outros laptops no previsível.
Falando em escassez de memória, há pouco incentivo para a indústria de IA fazer outra coisa senão usar esses desenvolvimentos em DRAM de baixo consumo para continuar a aumentar, e não desacelerar. Especialmente porque o white paper da Micron descobriu que a instalação de mais módulos DRAM de baixo consumo de energia “eliminou o vazamento de disco (o benchmark), proporcionando uma aceleração dramática”.
Também acho difícil não me sentir um pouco cínico em relação a qualquer notícia sobre eficiência energética vinda do setor de IA.
Anteriormente, o Google alegou que Gemini bebe apenas “cinco gotas” de água por mensagem de texto, e Sam Altman da OpenAI disse que uma única consulta ChatGPT usa “um décimo quinto de uma colher de chá” de água – mas essas não são métricas significativas quando se trata, digamos, do consumo geral de água da indústria.
Da mesma forma, não há como ignorar quanta energia os principais players utilizam, com analistas alegando que o consumo de eletricidade do Google “passou de um crescimento linear para um crescimento exponencial” nos últimos dois anos. Portanto, DRAM de baixo consumo de energia para cargas de trabalho de IA é muito bom, mas o que isso significará em termos de impacto ambiental e para o clima? Sem mencionar se poderei encontrar dois cartões de memória para misturar por um preço razoável em um futuro próximo.
