AI कोड असिस्टेंट गेटवे: Azure API Management ने नए टियर का पूर्वावलोकन किया

Microsoft के Azure API Management ने सार्वजनिक पूर्वावलोकन में एक नया समर्पित AI Gateway टियर लॉन्च किया है, जो Software Developers को विभिन्न AI मॉडल और टूल को प्रबंधित और नियंत्रित करने का एक केंद्रीकृत तरीका प्रदान करता है, जिससे कई प्रदाताओं से AI कोड असिस्टेंट जैसी क्षमताओं का एकीकरण सुव्यवस्थित होता है। इस विकास का उद्देश्य एंटरप्राइज़ अनुप्रयोगों में AI को तैनात करने की परिचालन जटिलताओं को सरल बनाना और डेवलपर उत्पादकता को बढ़ाना है।

• कई प्रदाताओं (OpenAI, Anthropic, AWS Bedrock, Google Vertex AI) से AI मॉडल के लिए केंद्रीकृत शासन।
• एक समर्पित नियंत्रण तल के माध्यम से SaaS कनेक्टर्स सहित AI टूल और बैकएंड का सरलीकृत प्रबंधन।
• गेटवे स्तर पर टोकन सीमाओं, कोटा, सामग्री सुरक्षा और लागत शासन के लिए बेहतर नीति प्रवर्तन।
• ग्राहक सब्सक्रिप्शन के भीतर बेहतर निगरानी और ऑडिटिंग के लिए OpenTelemetry के माध्यम से बेहतर टेलीमेट्री निर्यात।

नया AI Gateway टियर: AI कोड असिस्टेंट प्रबंधन में एक बदलाव

एंटरप्राइज़ AI एकीकरण के लिए एक महत्वपूर्ण कदम में, Azure API Management ने एक विशेष AI Gateway टियर का अनावरण किया है, जो अब सार्वजनिक पूर्वावलोकन में उपलब्ध है। यह नई पेशकश पारंपरिक API प्रबंधन से अलग है क्योंकि यह अपने नियंत्रण तल को सामान्य API के बजाय विशेष रूप से AI मॉडल, Managed Component Provider (MCP) सर्वर और विभिन्न AI टूल के इर्द-गिर्द संरचित करती है। Software Developers के लिए, यह मौजूदा गेटवे में केवल एक और नीति परत जोड़ने से अलग, अधिक सहज और AI-केंद्रित प्रबंधन अनुभव की ओर एक मौलिक बदलाव का प्रतिनिधित्व करता है। जबकि क्लासिक और v2 टियर अपनी वर्तमान AI क्षमताओं को बनाए रखते हैं, यह समर्पित टियर एक नया, अनुकूलित दृष्टिकोण प्रदान करता है।

Software Developers के लिए विविध AI मॉडल को एकीकृत करना

आज Software Developers के लिए एक मुख्य चुनौती कई प्रदाताओं से प्राप्त AI मॉडल का प्रबंधन करना है। नया AI Gateway टियर इस समस्या का समाधान करता है, जिसमें Foundry पर होस्ट किए गए OpenAI, Anthropic और Mistral जैसे मॉडल, साथ ही AWS Bedrock, Google Vertex AI और सीधे OpenAI एकीकरण से मॉडल सहित विभिन्न प्रकार के मॉडलों तक पहुंच को केंद्रीकृत किया जाता है। सभी OpenAI-संगत प्रदाता एक एकल एंडपॉइंट पथ साझा कर सकते हैं, जिसमें गेटवे मॉडल फ़ील्ड के सटीक मिलान के आधार पर अनुरोधों को बुद्धिमानी से रूट करता है, जिससे प्रत्येक प्रकाशित मॉडल के लिए अद्वितीय नामों की आवश्यकता होती है। Anthropic के मॉडल को एक कस्टम प्रदाता के माध्यम से भी समर्थित किया जाता है, जो निर्बाध Messages API पासथ्रू की सुविधा प्रदान करता है, जिससे उन्नत कोडिंग AI के एकीकरण को सरल बनाया जाता है।

AI टूल के लिए सुव्यवस्थित शासन और परिचालन नियंत्रण

AI Gateway नीति कॉन्फ़िगरेशन के लिए एक अधिक उपयोगकर्ता-अनुकूल दृष्टिकोण प्रस्तुत करता है, जो जटिल XML और अभिव्यक्ति-आधारित सेटअप से दूर हटता है। नीतियों को अब Azure पोर्टल के भीतर सहज कार्ड के रूप में प्रबंधित किया जाता है, जिसमें टोकन और अनुरोध सीमा, उपयोग कोटा, Content Safety प्रवर्तन और मॉडल फ़ॉलबैक रणनीतियाँ जैसे महत्वपूर्ण पहलू शामिल हैं। यह सुव्यवस्थित नीति प्रबंधन कॉन्फ़िगरेशन ओवरहेड को कम करके सीधे डेवलपर उत्पादकता AI में योगदान देता है। इसके अलावा, एक गेटवे इंस्टेंस को तेजी से, आमतौर पर एक मिनट के भीतर, जटिल स्केल यूनिट योजना की आवश्यकता के बिना प्रावधानित किया जा सकता है। मजबूत निगरानी के लिए, टेलीमेट्री को OpenTelemetry टोकन मेट्रिक्स के रूप में Application Insights, Datadog और Grafana जैसे लोकप्रिय गंतव्यों में निर्यात किया जाता है, यह सब ग्राहक के अपने Azure सब्सक्रिप्शन और Entra टेनेंट के भीतर होता है, जो AI कोड जनरेशन और अन्य AI टूल उपयोग में व्यापक अंतर्दृष्टि प्रदान करता है।

AI Gateway AI कोड असिस्टेंट कार्यक्षमता के साथ डेवलपर उत्पादकता को कैसे सशक्त बनाता है

AI Gateway तीन प्राथमिक स्रोतों से बैकएंड को एकीकृत करके डेवलपर उत्पादकता को महत्वपूर्ण रूप से बढ़ाता है: URL के माध्यम से रिमोट MCP सर्वर, OpenAPI स्पेसिफिकेशन्स, और एक हजार से अधिक SaaS अनुप्रयोगों के लिए अंतर्निहित कनेक्टर्स का एक समृद्ध पारिस्थितिकी तंत्र, जिससे अतिरिक्त सर्वर होस्ट करने की आवश्यकता समाप्त हो जाती है। इन बैकएंड से प्रत्येक ऑपरेशन एक उपयोग योग्य टूल में बदल जाता है, और टीमें प्रति-बैकएंड आधार पर प्रमाणीकरण विधियों—कोई नहीं, API key, OAuth 2.0, या एक प्रबंधित पहचान—को कॉन्फ़िगर कर सकती हैं। यह आर्किटेक्चर एक ऑपरेटिंग मॉडल का समर्थन करता है जहां एक केंद्रीय प्लेटफ़ॉर्म समूह अनुमोदित मॉडल और टूल को कनेक्ट और प्रकाशित कर सकता है, जिससे एप्लिकेशन टीमों को एक टेस्ट कंसोल का उपयोग करके इन संपत्तियों के खिलाफ स्वयं-सेवा करने और निर्माण करने की अनुमति मिलती है, हर बदलाव के लिए केंद्रीय अनुमोदन की आवश्यकता के बिना। यह Software Developers के लिए एक व्यावहारिक सीख प्रदान करता है: यह उन्हें एंटरप्राइज़-स्तरीय सुरक्षा उपायों और उपयोग दृश्यता को बनाए रखते हुए AI कोड असिस्टेंट सुविधाओं और अन्य AI-संचालित टूल के साथ तेजी से प्रयोग करने और तैनात करने में सक्षम बनाता है।

उद्योग की प्रतिक्रिया और विकसित होते AI शासन के प्रश्न

आर्किटेक्ट्स और प्लेटफ़ॉर्म इंजीनियरों की प्रारंभिक प्रतिक्रियाएँ काफी हद तक सकारात्मक रही हैं, विशेष रूप से AI शासन के समेकन के संबंध में। Paolo Perrone, उत्पादन AI प्रणालियों में एक प्रमुख व्यक्ति, ने गेटवे स्तर पर लागत शासन के अक्सर कम आंके गए लाभ पर प्रकाश डाला। उन्होंने उल्लेख किया कि अधिकांश टीमें दर-सीमितता और खर्च ट्रैकिंग को प्रतिक्रियात्मक रूप से संबोधित करती हैं, और इसे केंद्रीकृत करने से “प्रति-ऐप पैच के बजाय एक नियंत्रण तल” मिलता है, जो डेवलपर्स के लिए AI टूल की परिचालन लागतों के प्रबंधन के लिए एक महत्वपूर्ण पहलू है। हालांकि, इस घोषणा ने शासन की सटीक सीमाओं के बारे में भी सवाल उठाए। Adolph White Jr., एक एंटरप्राइज़ AI सिस्टम आर्किटेक्ट, ने एजेंट रन के संबंध में एक महत्वपूर्ण बिंदु उठाया जो साफ-सुथरे ढंग से समाप्त नहीं होते हैं। उन्होंने सवाल किया कि क्या आउटपुट ऑडिट के लिए संरक्षित है या यदि गेटवे बस पुनः प्रयास करता है, इसे “AI ट्रैफ़िक को नियंत्रित करने और AI प्रक्रियाओं के पूर्ण जीवनचक्र को नियंत्रित करने” के बीच एक अंतर के रूप में प्रस्तुत किया। घोषणा में स्पष्ट रूप से यह नहीं बताया गया है कि एजेंट के आउटपुट पर अधिकार गेटवे पर रहता है या एक उच्च ऑर्केस्ट्रेशन परत पर। जबकि आम तौर पर इसका स्वागत किया गया, कुछ, जैसे Aer Lingus के Sreenivasulu Kandakuru, ने सुझाव दिया कि एक बहुत ही आवश्यक सुविधा होने के बावजूद, Azure अभी भी इस विशिष्ट डोमेन में AWS और Databricks जैसे प्रतिस्पर्धियों से पीछे चल रहा हो सकता है।