GPU-сервер для нейросетей: как выбрать

GPU-сервер для нейросетей выбирают не по названию видеокарты, а по памяти, режиму аренды и стоимости простоя. Для инференса важнее предсказуемая VRAM и быстрый запуск, для обучения — запас памяти, сеть, хранение датасетов и понятная цена перехода к рабочей эксплуатации без сюрпризов.

Сначала определите задачу

Инференс и обучение требуют разного железа. Для инференса небольших моделей критичны задержка, стабильная VRAM и быстрый подъём нескольких экземпляров. Для обучения важнее суммарная память GPU, обмен между ускорителями, место под датасеты и понятная цена долгого прогона.

Маркетинговое слово ИИ-облако само по себе ничего не обещает. Под ним может быть виртуальная машина с долей GPU, выделенный сервер с одной видеокартой, кластер с несколькими ускорителями или платформа с готовыми моделями. В счёте важна не вывеска, а что именно закреплено за вашей нагрузкой.

Для русскоязычного покупателя есть ещё один практический слой: оплата, юрисдикция, поддержка на русском языке и перенос данных. Если модель использует клиентские данные, датацентр и договор становятся частью архитектуры, а не формальностью для бухгалтерии.

Перед сравнением тарифов зафиксируйте три вещи:

• рабочий режим модели: обучение, инференс, дообучение или пакетная обработка;
• минимальный объём VRAM с запасом под рост контекста и батча;
• требования к оплате, договору, данным и поддержке на вашем рынке.

VRAM важнее красивого названия GPU

VRAM ограничивает размер модели, длину контекста и размер батча. NVIDIA A10 и RTX 4090 в данных HostScout имеют по 24 ГБ VRAM. NVIDIA L40S даёт 48 ГБ VRAM. NVIDIA A100 80GB даёт 80 ГБ VRAM.

Практическое правило простое: если модель едва помещается в память, сервер уже выбран плохо. Любое обновление весов, рост контекста, параллельные запросы или несколько адаптеров быстро съедят запас. Дешёвая карта без резерва превращает экономию в ручную возню с квантованием и очередями.

RTX-карты часто выглядят выгодно для экспериментов и инференса. A100 рациональнее, когда вы считаете не цену карты, а цену длинного обучения, повторных прогонов и простоя команды. L40S занимает середину: больше памяти, чем у типичных карт на 24 ГБ, но без цены тяжёлых кластеров.

Как читать тарифы GPU-серверов

В тарифе ищите не только GPU. Спросите про диск, CPU, RAM, тип накопителя, модель ускорителя, способ виртуализации, лимиты трафика, снапшоты, резервное копирование и порядок восстановления. Если провайдер показывает только цену и красивое название GPU, вопросы надо задавать до оплаты.

Эта таблица не рейтинг. Она показывает, как один и тот же запрос GPU-сервер для нейросетей распадается на разные покупки. Дешёвый vGPU, полная L4, T4, A100 и H200 решают разные задачи и ломаются на разных местах.

Аренда против покупки

Аренда обычно выигрывает, когда вы проверяете гипотезу, обучаете модель рывками или не знаете будущую загрузку. Вы платите больше за месяц железа, зато не покупаете карту, сервер, стойку, питание, охлаждение, запасные диски и время инженера на ремонт.

Покупка имеет смысл при постоянной загрузке, понятной команде эксплуатации и длинном горизонте. Но у покупки есть неприятная арифметика: железо стареет без предупреждения, GPU может простаивать между задачами, а сбой блока питания останавливает не облако, а ваш конкретный сервер.

Граница выбора проходит через загрузку и риск. Если сервер занят нерегулярно, аренда почти всегда честнее. Если нагрузка идёт каждый день, данные нельзя выносить наружу, а команда умеет обслуживать железо, покупка или частное размещение может стать разумной.

Когда выбирать A100, RTX или vGPU

Выбирайте A100, когда модель упирается в память, обучение длится часами или днями, а повторный прогон стоит дороже разницы тарифа. A100 80GB полезна там, где 24 ГБ VRAM уже заставляют резать батч, контекст или архитектуру.

RTX-класс разумен для прототипов, инференса, компьютерного зрения, небольших языковых моделей и задач, где важна цена запуска. RTX 4090 24GB сильна как вычислительная карта, но серверный тариф с ней надо проверять по питанию, охлаждению, удалённому управлению и условиям эксплуатации.

vGPU выбирают для тестов, демо, лёгкого инференса и разработки. Главный риск vGPU в том, что название большой карты не означает доступ ко всей её памяти и производительности. Смотрите выделенную VRAM, профиль, лимиты и соседей по узлу.

Российский рынок: что спросить у провайдера

Для РФ, Беларуси и Казахстана вопрос не сводится к цене в рублях. Проверяйте, как оплачивается услуга, где физически лежат данные, как быстро отвечает поддержка, можно ли получить закрывающие документы и что происходит при блокировках или проблемах с международной связностью.

Selectel и VK Cloud дают локальный контекст и рублёвые GPU-тарифы в данных HostScout. JustHost показывает GPU-тарифы с широкой географией датацентров. Croc представлен как GPUaaS-направление с H100, A100, L40S, L4 и T4, но цена требует индивидуального запроса.

Международные варианты вроде Hetzner, DigitalOcean, Netcup и Lambda Labs полезны для сравнения класса железа и географии. Но для российского юрлица их надо проверять по оплате, договорам, персональным данным и маршруту трафика.

Чек-лист перед оплатой

Типичные ошибки

Первая ошибка — брать самый мощный GPU до профилирования. Иногда модель упирается не в видеокарту, а в подготовку данных, диск или сетевой обмен. Тогда дорогая карта простаивает, а узкое место остаётся в другом слое.

Вторая ошибка — сравнивать месячную аренду с ценой видеокарты из магазина. К серверу нужны корпус, CPU, RAM, диски, сеть, электричество, охлаждение, удалённый доступ, мониторинг и человек, который всё это чинит.

Третья ошибка — забывать о переносимости. Если вы завязались на образ, хранилище, приватную сеть и особый формат снапшотов одного провайдера, миграция станет отдельным проектом. Для экспериментов это терпимо, для рабочей нагрузки дорого: миграция дешевле простоя, но только если её заранее оставили возможной.

Как мы обновляем данные

HostScout сопоставляет тарифы, железо и провайдеров по открытым данным и повторно сверяет изменяемые поля. В статье используются только проверяемые значения из текущей базы: цены, названия тарифов, объём памяти GPU и параметры серверов. Рекламные обещания без проверяемой основы не попадают в рекомендации.

Короткий вывод

Для первого запуска нейросети берите аренду, профиль с понятной VRAM и возможность быстро отказаться от тарифа. Для регулярного обучения считайте месяцы загрузки, стоимость простоя и перенос данных. Для рабочей эксплуатации важнее не самая громкая видеокарта, а предсказуемая инфраструктура вокруг неё.