A xAI supostamente possui cerca de 550.000 GPUs $NVDA H100 e H200, mas está a usar apenas cerca de 11% dessa frota, o que equivale a aproximadamente 60.000 GPUs efetivamente utilizadas


De acordo com o The Information, a questão principal não é a disponibilidade de hardware, mas a eficiência da pilha de software. Em escala massiva, o tempo ocioso aumenta rapidamente porque o treino distribuído, os pipelines de dados, o agendamento e os sistemas de análise tornam-se mais difíceis de coordenar
$META e $GOOG supostamente estão a alcançar uma utilização muito melhor, cerca de 43% e 46%, porque as suas pilhas de software internas são mais maduras
O objetivo da xAI é atingir 50% de utilização, mas nenhum prazo é dado. O caminho principal a seguir seria uma melhor orquestração da infraestrutura, software de treino, otimização do pipeline de dados e gestão de cargas de trabalho
Ver original
post-image
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixar