GPU-сервери для навчання та донавчання ШІ
У навчанні дорогі карти відпрацьовують свою ціну: пам’ять HBM, NVLink між картами та достатньо CPU і RAM, щоб GPU не простоювали.
Що обрати
- Донавчання LoRA / QLoRA до ~70B: одна H100 або H200, а за скромного бюджету — одна RTX PRO 6000.
- Повне донавчання моделей 7–13B: 2–4× H100 або A100 80 ГБ.
- Попереднє навчання або повне донавчання великих моделей: 8× H100, H200 або B200 в одній машині.
Чим відрізняються карти — на сторінці Яку GPU обрати?
Що встановлено на машині
Оберіть під час замовлення образ PyTorch — і отримаєте вже встановлені PyTorch, CUDA та cuDNN, узгоджені з драйвером. У вас root усередині контейнера, тож pip install, apt і ваші скрипти працюють як завжди.
Образ CUDA дає тулкіт без фреймворку — якщо хочете встановити власні версії.
Дані та чекпоінти
Кожна машина має 100 ГБ NVMe-диска. Завантажуйте датасети просто з Hugging Face, S3 або власного сховища — у хостів у дата-центрах зазвичай швидкі канали, а швидкість кожної машини вказана в каталозі.
Зберігайте чекпоінти поза машиною. Коли оплачений строк закінчується, сервер і його диск видаляються. Вивантажуйте чекпоінти у своє сховище під час навчання, а не в самому кінці.
Як обрати строк
Візьміть машину на день, щоб перевірити оточення, а потім на тиждень або місяць для основного запуску. Ціна фіксується на оплачений строк. Продовжити можна в кабінеті до завершення — якщо хост усе ще пропонує машину на такий строк. Каталог показує, на скільки днів доступна кожна машина.