O confronto entre AMD e NVIDIA quando se trata de benchmarks de soluções de inteligência artificial (IA) não para. Após o time vermelho publicar um resultado de benchmark no anúncio da GPU Instinct MI300X e o time verde rebater com novos números da GPU H100 , a AMD revelou um novo benchmark do MI300X usando vLLM.
- Afinal, o que é inteligência artificial?
- Dell investe em cluster para IA com 10 mil GPUs Nvidia H100
Nesse novo teste feito pela AMD, a empresa citou que usou as seguintes configurações: vLLM em ambas as GPUs, vLLM na AMD MI300X e TensorRT-LLM na NVIDIA H100 e, por fim, comparou o desempenho do tipo de dados FP16 nas GPUs MI300X com o tipo de dados FP8 no H100 (formato de dados suportados por cada GPU).
Os resultados mostram que a solução da AMD, nesse cenário, tem desempenho até 2x superior em relação à concorrência. A latência é outro ponto destacado pela companhia, com a MI300X apresentando 1,6s de latência no modelo Llama 70B contra 1,7s da GPU da Nvidia.
-
Podcast Porta 101
: a equipe do Canaltech discute quinzenalmente assuntos relevantes, curiosos, e muitas vezes polêmicos, relacionados ao mundo da tecnologia, internet e inovação. Não deixe de acompanhar.
-
🛒 Compre a Radeon RX 7900 XTX no melhor preço!
🛒 Compre a GeForce RTX 4090 no melhor preço!
Uma briga que não vai cessar tão cedo
Com a NVIDIA registrando receita de US$ 18 bilhões graças à IA no 3º trimestre do ano fiscal de 2024 , a AMD certamente busca competir com mais intensidade no mesmo mercado e aumentar a participação nas soluções de inteligência artificial voltada às empresas, visto que é mais lucrativo que as tradicionais GPUs para o consumidor.
O anúncio da AMD Instinct MI300X foi o primeiro passo e essas comparações diretas mostram o foco nessa competição, que certamente se intensificará com os rumores do lançamento da nova NVIDIA H200 – que é bem superior a H100 .
Leia a matéria no Canaltech .
Trending no Canaltech:
- Governo vai lançar app para bloquear celular roubado
- Startup brasileira lança satélites com foguete próprio
- A geografia como você nunca viu: conheça o encanto dos mapas de Robert Szucs
- Motorola e Pantone anunciam cor do ano "Peach Fuzz" para celulares
- Fluminense x Al Ahly | Onde assistir à semifinal do Mundial de Clubes
- Wandinha pode ganhar série spin-off sobre Tio Chico