Runpod — AI for Software Development

Runpod एक एआई ऐप के बजाय बुनियादी ढांचा (infrastructure) है: आप मॉडल को प्रशिक्षित (train), फ़ाइन-ट्यून या सर्व करने के लिए GPU किराए पर लेते हैं। होमपेज एक ही खाते पर तीन उत्पादों का वर्णन करता है। पॉड्स 31 क्षेत्रों में ऑन-डिमांड GPU इंस्टेंसेस हैं, जिनमें RTX 4090 से लेकर B200 तक 30 से अधिक GPU प्रकार हैं। सर्वरलेस API-आधारित इन्फर्फेरेंस चलाता है जहाँ वर्कर्स शून्य से स्केल करते हैं, और पेज का कहना है कि एक निष्क्रिय एंडपॉइंट की कोई लागत नहीं आती है और FlashBoot के साथ कोल्ड स्टार्ट 200 मिलीसेकंड से कम होती है। क्लस्टर्स 64 GPU तक के मल्टी-नोड GPU क्लस्टर लॉन्च करते हैं। प्राइसिंग पेज प्रति घंटे पॉड की कीमतें सूचीबद्ध करता है, उदाहरण के लिए RTX A5000 का मूल्य $0.27 प्रति घंटा, RTX 4090 का $0.89, H100 SXM का $4.39 और B200 का $7.99 है। सर्वरलेस की कीमत GPU श्रेणी के हिसाब से प्रति वर्कर घंटा है। स्टोरेज $0.05 प्रति GB प्रति माह से शुरू होता है, और होमपेज नेटवर्क स्टोरेज पर कोई इग्रेस फीस न होने का उल्लेख करता है। पब्लिक एंडपॉइंट्स प्रति-इकाई मूल्य निर्धारण के साथ API द्वारा पूर्व-तैनात मॉडल प्रदान करते हैं। आरक्षित क्लस्टर्स के लिए सेल्स टीम से संपर्क करने की आवश्यकता होती है। साइट बताती है कि यह प्रमाणित है। इसका नुकसान यह है कि आप कंटेनरों, टेम्प्लेट और स्टोरेज का प्रबंधन खुद करते हैं, और प्राइसिंग पेज पर कोई फ्री प्लान नहीं है, इसलिए पॉड चलते ही लागत शुरू हो जाती है। यदि आपको बड़े क्लाउड की तुलना में सस्ते GPU चाहिए और आप Docker के साथ सहज हैं, तो यह उपयुक्त है। यदि आप एक होस्टेड चैटबॉट चाहते हैं, तो यह नहीं है।