Runpod — нейросети для разработки программного обеспечения

Runpod представляет собой инфраструктуру, а не ИИ-приложение: вы арендуете графические процессоры (GPU) для обучения, дообучения (fine-tuning) или обслуживания моделей. На главной странице описаны три продукта в рамках одной учетной записи. Pods — это GPU-инстансы по требованию в 31 регионе, включающие более 30 типов GPU от RTX 4090 до B200. Serverless запускает инференс на базе API, где воркеры масштабируются от нуля, причем на странице указано, что неактивный эндпоинт ничего не стоит, а холодные старты занимают менее 200 мс с FlashBoot. Кластеры позволяют запускать многоузловые GPU-кластеры размером до 64 GPU. На странице цен указана стоимость Pods за час, например RTX A5000 стоит $0.27 в час, RTX 4090 — $0.89, H100 SXM — $4.39, а B200 — $7.99. Serverless тарифицируется за час работы воркера в зависимости от класса GPU. Хранилище стоит от $0.05 за ГБ в месяц, а на главной странице упоминается отсутствие платы за исходящий трафик (egress fees) сетевого хранилища. Публичные эндпоинты (Public Endpoints) предлагают предварительно развернутые модели через API с ценообразованием за единицу. Для зарезервированных кластеров требуется связаться с отделом продаж. На сайте указано наличие сертификации. Обратная сторона заключается в том, что вы самостоятельно управляете контейнерами, шаблонами и хранилищем, а на странице цен нет бесплатного тарифа, поэтому расходы начинают капать в тот момент, когда запускается Pod. Если вам нужны более дешевые GPU по сравнению с крупными облаками и вы уверенно владеете Docker, это подходящий вариант. Если вам нужен хостинговый чат-бот, это не так.