GPU-серверы для обучения и дообучения ИИ
В обучении дорогие карты отрабатывают свою цену: память HBM, NVLink между картами и достаточно CPU и RAM, чтобы GPU не простаивали.
Что выбрать
- Дообучение LoRA / QLoRA до ~70B: одна H100 или H200, а при скромном бюджете — одна RTX PRO 6000.
- Полное дообучение моделей 7–13B: 2–4× H100 или A100 80 ГБ.
- Предобучение или полное дообучение больших моделей: 8× H100, H200 или B200 в одной машине.
Чем отличаются карты — на странице Какую GPU выбрать?
Что установлено на машине
Выберите при заказе образ PyTorch — и получите уже установленные PyTorch, CUDA и cuDNN, согласованные с драйвером. У вас root внутри контейнера, так что pip install, apt и ваши скрипты работают как обычно.
Образ CUDA даёт тулкит без фреймворка — если хотите поставить свои версии.
Данные и чекпоинты
У каждой машины 100 ГБ NVMe-диска. Скачивайте датасеты прямо с Hugging Face, S3 или своего хранилища — у хостов в дата-центрах обычно быстрые каналы, а скорость каждой машины указана в каталоге.
Сохраняйте чекпоинты вне машины. Когда оплаченный срок заканчивается, сервер и его диск удаляются. Выгружайте чекпоинты в своё хранилище по ходу обучения, а не в самом конце.
Как выбрать срок
Возьмите машину на день, чтобы проверить окружение, а затем на неделю или месяц для основного запуска. Цена фиксируется на оплаченный срок. Продлить можно в личном кабинете до окончания — если хост всё ещё предлагает машину на такой срок. Каталог показывает, на сколько дней доступна каждая машина.