Runpod — IA pour le Développement Logiciel

Runpod est une infrastructure plutôt qu'une application IA : vous louez des GPU pour entraîner, affiner ou servir des modèles. La page d'accueil décrit trois produits sur un seul compte. Les Pods sont des instances GPU à la demande réparties dans 31 régions, avec plus de 30 types de GPU allant du RTX 4090 jusqu'au B200. Le mode Serverless exécute une inférence basée sur l'API où les workers passent de zéro à plusieurs, et la page indique qu'un point de terminaison inactif ne coûte rien et que les démarrages à froid prennent moins de 200 ms avec FlashBoot. Les clusters lancent des grappes GPU multi-nœuds allant jusqu'à 64 GPU. La page de tarification liste les prix des Pods par heure, par exemple le RTX A5000 à $0.27 par heure, le RTX 4090 à $0.89, le H100 SXM à $4.39 et le B200 à $7.99. Le Serverless est facturé par heure de worker selon la classe de GPU. Le stockage commence à $0.05 par Go par mois, et la page d'accueil mentionne l'absence de frais de sortie sur le stockage réseau. Les points de terminaison publics proposent des modèles pré-déployés par API avec une tarification à l'unité. Les clusters réservés nécessitent un appel avec le service commercial. Le site indique qu'il est certifié. Le compromis est que vous gérez vous-même les conteneurs, les modèles et le stockage, et qu'il n'y a pas de plan gratuit sur la page de tarification, de sorte que les coûts commencent dès qu'un Pod s'exécute. Si vous avez besoin de GPU moins chers que ceux des grands clouds et que vous maîtrisez Docker, cela convient. Si vous souhaitez un chatbot hébergé, ce n'est pas le cas.