Nvidia investe mais de US$ 1 trilhão em memórias HBM3e para GPUs H200
Nvidia fechou acordo entre US$ 700 bilhões e US$ 1 trilhão com fabricantes de memórias HBM3e para equipar novas GPUs H200 e limitar acesso ao componente
A Nvidia investiu trilhões de dólares para adquirir as memórias HBM3e que vão equipar as novas GPUs para IA H200. Fontes teriam informado ao veículo coreano Chosun Biz que SK Hynix e Micron teriam recebido pagamentos antecipados na cifra de centenas de milhões de dólares para formalizar acordos entre US$ 700 bi e US$ 1 trilhão cada, inclusive limitando o acesso às memórias por outras empresas.
A Samsung também teria firmado acordo para fornecer memórias HBM para produtos Nvidia assim que os componentes da sul-coreana estiverem comercialmente disponíveis. Os detalhes do acerto com a Samsung não foram revelados, mas a projeção é que suas memórias também equipem placas Nvidia para IA, previstas para chegarem ao mercado já em 2024.
New performance updates - H200 achieves nearly 12,000 tokens/sec on Llama2-13B with NVIDIA TensorRT-LLM. H200 is up to 1.9x faster than H100.
Learn more about how you can supercharge #LLM #inference with TensorRT-LLM and H200. #SC23 #HPC
➡️ https://t.co/lVGBhtNK6t pic.twitter.com/oC9OOlG7t3
— NVIDIA AI Developer (@NVIDIAAIDev) November 13, 2023
Antecipando-se à nova crise
Geralmente, comprar componentes envolve projeções de mercado para estimar a demanda aproximada de novos produtos, tornando o movimento da Nvidia bastante atípico. Adquirir lotes tão grandes, já com pagamento antecipado, é uma medida arriscada para placas ainda não lançadas, especialmente considerando que AMD e Intel também estão entrando no mercado de IA em 2024 com os aceleradores Gaudi 2/3 e Instinct MI300X/A.
No entanto, diversos analistas e empresas do setor de semicondutores sugerem que o segmento de memórias NAND irá passar por uma nova crise ao longo deste ano. A última crise de semicondutores de 2018 se estendeu por quase 3 anos, e nada garante que essa próxima irá durar apenas até o final de 2024, como vem sendo estimado.
We announced a collaboration with @AWS to offer new supercomputing infrastructure, software and services for #generativeAI. This includes AWS to offer first cloud AI supercomputer with NVIDIA Grace Hopper Superchip and more. https://t.co/4UknRPK1Dg
— NVIDIA (@nvidia) November 28, 2023
Sendo assim, a estratégia da Nvidia parece ser muito mais uma forma de se antecipar aos impactos de uma possível escassez de chips NAND do que refletir acordos já firmados pelas GPUs H200. Com isso, é possível garantir vazão a longo prazo para as novas placas, sem comprometer o custo de produção e preço final para os clientes.
🛒 Compre placas de vídeo Nvidia GeForce RTX pelo melhor preço!
🛒 Compre placas de vídeo Intel Arc pelo melhor preço!
Fonte: Chosun Biz
Trending no Canaltech:
- Espermatozoides quebram leis da física em descoberta surpreendente
- Megalossauro: descoberta do primeiro dinossauro completa 200 anos
- IA para criar vídeos Pika está disponível para todos
- Exercício físico expande região cerebral de memória e aprendizagem
- 8 modelos de planilhas prontas para controle de gastos mensais
- Mickey em domínio público | Entenda a questão sobre o personagem
