Qual GPU alugar?
Cada máquina do catálogo usa uma das placas NVIDIA abaixo. Resumindo: a memória decide o que cabe, a geração decide a velocidade e a quantidade de placas decide até onde você pode escalar.
Comece pela memória
Antes da velocidade, confira se o seu trabalho cabe. Os pesos do modelo, as ativações e, no caso de servir LLMs, o cache KV precisam caber na memória da GPU. Se não couberem, você terá que dividir o modelo entre várias placas — ou ele simplesmente não roda.
- Até 24–32 GB: geração de imagens, LLMs pequenos e quantizados (7–14B), a maioria das cenas de renderização.
- 48–96 GB: modelos de 30–70B quantizados, fine-tuning com LoRA, cenas e simulações grandes.
- 80–180 GB por placa, várias placas: modelos de 70B+ em precisão total, pré-treino e fine-tuning completo.
No catálogo, a coluna Memória GPU já mostra o total de todas as placas da máquina.
Placas de data center
| GPU | Memória por placa | Ideal para |
|---|---|---|
| NVIDIA B200 | ~180 GB HBM3e | A geração mais nova. Treinar e servir os maiores modelos. |
| NVIDIA H200 | 141 GB HBM3e | O mesmo poder de cálculo da H100 com muito mais memória, e mais rápida — contextos longos, lotes grandes. |
| NVIDIA H100 | 80–94 GB HBM3 | O padrão para treino e inferência de alto volume. As versões SXM são mais rápidas que as PCIe. |
| NVIDIA A100 | 40 ou 80 GB HBM2e | Geração anterior, ainda forte e o jeito mais barato de ter memória HBM. |
| NVIDIA L40S | 48 GB GDDR6 | Inferência e gráficos na mesma placa. |
A memória HBM é várias vezes mais rápida que a GDDR das placas profissionais e gamer. Na inferência de LLMs, cuja velocidade depende principalmente da largura de banda da memória, essa diferença aparece diretamente nos tokens por segundo.
Placas profissionais
| GPU | Memória por placa | Ideal para |
|---|---|---|
| RTX PRO 6000 (Blackwell) | 96 GB GDDR7 | A maior memória fora da linha de data center. Modelos de 70B quantizados em uma placa, renderização. |
| RTX 6000 Ada | 48 GB GDDR6 | Inferência, fine-tuning e renderização profissional. |
| RTX PRO 5000 / 5880 Ada | 48 GB | Uma opção mais barata com 48 GB. |
Placas de consumo
| GPU | Memória por placa | Ideal para |
|---|---|---|
| RTX 5090 | 32 GB GDDR7 | Muito rápida pelo preço: geração de imagens e vídeos, LLMs pequenos. |
| RTX 4090 | 24 GB GDDR6X | A GPU séria mais barata. Ótima para testes e trabalhos no estilo Stable Diffusion. |
Máquinas com 4 ou 8 dessas placas são ótimas para tarefas que se dividem em partes independentes: renderização em lote, muitos workers de inferência em paralelo, busca de hiperparâmetros.
Uma placa ou oito?
Várias placas ajudam quando o seu framework sabe usá-las: treino data-parallel, inferência tensor-parallel (vLLM, TensorRT-LLM) ou muitas tarefas independentes. Nas máquinas de data center, as placas são ligadas por NVLink, o que torna dividir um modelo entre elas muito mais eficiente do que via PCIe.
Na dúvida, comece com uma placa por um dia, meça e depois alugue a máquina maior para a execução de verdade.