VernLLM

सॉफ्टवेयर डेवलपर्स हर एलएलएम एपीआई इंटीग्रेशन के लिए डिफेंसिव कोड लिखकर लगातार पहिये का फिर से आविष्कार करते हैं। VernLLM एक मानकीकृत, हल्का रेजिलिएंस लेयर प्रदान करके इसे हल करता है। प्रोजेक्ट्स के बीच रिट्राई लॉजिक, टाइमआउट हैंडलर और कैश मैकेनिज्म को कॉपी करने—और सूक्ष्म बग्स पेश करने—के बजाय, आप अपने मौजूदा क्लाइंट (OpenAI, Anthropic, Gemini, आदि) को रैप कर सकते हैं और इन सुविधाओं को तुरंत प्राप्त कर सकते हैं। यह लाइब्रेरी व्यावहारिकता को ध्यान में रखकर बनाई गई है: यह टाइपस्क्रिप्ट के साथ पूरी तरह से टाइप की गई है, जो यह सुनिश्चित करती है कि कंपाइल टाइम पर त्रुटियों को पकड़ा जाए। यह मान्य, संरचित आउटपुट के लिए Zod का उपयोग करता है, ताकि आपके एप्लिकेशन को अनुमानित डेटा प्राप्त हो। महत्वपूर्ण रूप से, VernLLM शून्य रनटाइम डिपेंडेंसी जोड़ता है। आप अपने स्वयं के प्रदाता एसडीके लाते हैं, जिससे आपके बंडल का आकार न्यूनतम (7kB gzipped से कम) रहता है। इसका मतलब है कि आप अपने डिपेंडेंसी ट्री को बढ़ाए बिना या अपने कोर एपीआई कॉल लॉजिक को फिर से लिखे बिना अपने एप्लिकेशन में मजबूत त्रुटि हैंडलिंग और प्रदर्शन सुधार जोड़ सकते हैं। यह एक ओपन-सोर्स, एमआईटी-लाइसेंस प्राप्त टूल है, जो इसे किसी भी वाणिज्यिक या व्यक्तिगत प्रोजेक्ट के लिए जोखिम-मुक्त जोड़ बनाता है।