CEO da Nvidia revela que o treinamento do GPT-6 Astra utilizou 100 mil GPUs Blackwell

O CEO da Nvidia, Jensen Huang, revelou que o treinamento do GPT-6 Astra utilizou mais de 100 mil GPUs Grace Blackwell, formando um cluster de alta velocidade através do NVLink72. A próxima fase contará com 400 mil GPUs, mas não especificou os modelos. As principais empresas de modelos na China ainda têm uma diferença significativa em termos de poder computacional, com a ByteDance sendo a mais próxima, conectando cerca de 36 mil B200. A ByteDance utiliza principalmente as GPUs H20 e H800, que são baseadas na arquitetura Hopper, em seus clusters na China. A Kimi obteve cerca de 20 mil GPUs Hopper através da Alibaba, especificamente do modelo H200, embora a Alibaba tenha negado essa afirmação. O H200 pertence à geração anterior da Hopper, enquanto o B200 já foi atualizado para Blackwell. O GB200 combina a CPU Grace com a GPU Blackwell, e o NVL72 pode acomodar 72 GPUs no mesmo domínio de interconexão de alta velocidade. A DeepSeek não divulgou o hardware completo de treinamento do V4, mas informações vazadas indicam que a empresa tinha cerca de 20 mil GPUs equivalentes a H em maio, com a Huawei fornecendo uma capacidade de 950, que equivale a cerca de 16 mil GPUs. Liang Wenfeng afirmou que esse lote de placas nacionais é equivalente a 4 mil placas da série B da Nvidia, o que é suficiente para o treinamento do modelo da geração atual. As Blackwell utilizadas pela Astra também não são da última geração da Nvidia, já que a Vera Rubin entrou em produção em massa. A Nvidia estima que a quantidade de GPUs necessárias para treinar grandes modelos MoE com Rubin pode ser reduzida para um quarto do que é necessário com Blackwell. Até o momento, nenhuma empresa chinesa divulgou um caso de uso de 100 mil GPUs avançadas da mesma geração para o treinamento de um único modelo, evidenciando a diferença em quantidade e geração entre as empresas de IA dos EUA e da China.

Este conteúdo é fornecido apenas para fins informativos gerais e não constitui aconselhamento financeiro, de investimento, jurídico ou tributário. Quaisquer eventos, recompensas, promoções online ou informações relacionadas mencionadas neste documento não devem ser consideradas uma recomendação, solicitação ou convite para comprar, vender, negociar ou realizar qualquer outra transação com criptoativos. Criptoativos são altamente voláteis e podem resultar em perdas. A disponibilidade dos serviços, produtos e eventos relacionados da WEEX pode variar conforme a região. É de sua responsabilidade garantir que sua participação esteja em conformidade com as leis e regulamentações locais aplicáveis.