Com o anúncio do AMD MI300X com foco em IA , a NVIDIA mostrou um benchmark comparando as tecnologias para servidores. Nos dados, o NVIDIA H100 teve 47% mais desempenho que a opção da AMD, com ainda mais diferença usando otimização de software.
- Dell investe em cluster para IA com 10 mil GPUs NVIDIA H100
- Afinal, o que é inteligência artificial?
Na apresentação da AMD , a companhia revelou que o MI300X possui latência 20% inferior do que o H100 da NVIDIA em configuração single-GPU e até 60% em configuração multi-GPU de 8 unidades. Em resposta, a NVIDIA divulgou um benchmark mostrando que o H100 é 2x mais rápido que os dados mostrados pela AMD, com servidores apresentando 47% mais desempenho que o MI300X em multi-GPU de 8 unidades.
A resposta da NVIDIA é para mostrar que o benchmark, se feito da forma correta, pode apresentar dados diferentes e superiores. Além disso, a parte do H100 com LLM ativado, como o vLLM v.02.2.2, mostra velocidades ainda maiores, ressaltando a importância de uma tecnologia de software para aproveitar o máximo do componente. Em seu site oficial, a NVIDIA mostra o processo e passo a passo para obter os resultados listados .
-
Canaltech no Youtube: notícias, análise de produtos, dicas, cobertura de eventos e muito mais! Assine nosso canal no YouTube
, todo dia tem vídeo novo para você!
-
Enquanto o AMD MI300X tem previsão de lançamento para 2024, a NVIDIA já conta com o H100 no mercado e prepara o lançamento do H200 e do Blackwell B100 para algum momento de 2024.
🛒 Compre a NVIDIA Quadro RTX A4500 no melhor preço!
🛒 Compre a NVIDIA Quadro RTX A5000 no melhor preço!
Leia a matéria no Canaltech .
Trending no Canaltech:
- DNA neandertal explica motivo de alguns gostarem de acordar cedo
- A Fantástica Fábrica de Chocolate | Como está o elenco hoje em dia?
- WhatsApp Beta permite desativar troca de texto por emoji
- Marvel finalmente revela a fonte de energia do fator de cura de Wolverine
- Google libera o Gemini Pro para quem quiser criar apps com IA
- Quando vai ser o pico da chuva de meteoros Gemínidas em 2023?