Passerelle d’assistant de code IA : Azure API Management présente un nouveau niveau en préversion

Azure API Management de Microsoft a lancé un nouveau niveau dédié de Passerelle IA en préversion publique, offrant aux Développeurs de logiciels un moyen centralisé de gérer et de gouverner divers modèles et outils d’IA, simplifiant l’intégration de fonctionnalités telles que les assistants de code IA provenant de plusieurs fournisseurs. Ce développement vise à simplifier les complexités opérationnelles du déploiement de l’IA dans les applications d’entreprise, améliorant ainsi la productivité des développeurs.

• Gouvernance centralisée des modèles d’IA provenant de plusieurs fournisseurs (OpenAI, Anthropic, AWS Bedrock, Google Vertex AI).
• Gestion simplifiée des outils et backends d’IA, y compris les connecteurs SaaS, via un plan de contrôle dédié.
• Application renforcée des politiques pour les limites de jetons, les quotas, la sécurité du contenu (Content Safety) et la gouvernance des coûts au niveau de la passerelle.
• Exportation améliorée de la télémétrie via OpenTelemetry pour un meilleur suivi et audit au sein des abonnements clients.

Le nouveau niveau Passerelle IA : un changement dans la gestion des assistants de code IA

Dans une avancée significative pour l’intégration de l’IA en entreprise, Azure API Management a dévoilé un niveau Passerelle IA spécialisé, désormais accessible en préversion publique. Cette nouvelle offre s’écarte de la gestion d’API traditionnelle en structurant son plan de contrôle spécifiquement autour des modèles d’IA, des serveurs Managed Component Provider (MCP) et de divers outils d’IA plutôt que des API génériques. Pour les Développeurs de logiciels, cela représente un changement fondamental vers une expérience de gestion plus intuitive et centrée sur l’IA, distincte de la simple addition d’une couche de politique à des passerelles existantes. Bien que les niveaux classiques et v2 conservent leurs capacités d’IA actuelles, ce niveau dédié offre une approche nouvelle et sur mesure.

Unifier divers modèles d’IA pour les Développeurs de logiciels

Un défi majeur pour les Développeurs de logiciels aujourd’hui est la gestion des modèles d’IA provenant de nombreux fournisseurs. Le nouveau niveau Passerelle IA y répond en centralisant l’accès à un large éventail de modèles, y compris ceux hébergés sur Foundry tels que OpenAI, Anthropic et Mistral, ainsi que les modèles d’AWS Bedrock, Google Vertex AI et les intégrations directes d’OpenAI. Tous les fournisseurs compatibles avec OpenAI peuvent partager un chemin de point de terminaison unique, la passerelle acheminant intelligemment les requêtes en fonction d’une correspondance précise du champ du modèle, nécessitant des noms uniques pour chaque modèle publié. Les modèles d’Anthropic sont également pris en charge via un fournisseur personnalisé, facilitant le passthrough transparent de l’API Messages, simplifiant l’intégration d’IA de codage avancée.

Gouvernance simplifiée et contrôle opérationnel des outils d’IA

La Passerelle IA introduit une approche plus conviviale de la configuration des politiques, s’éloignant des configurations complexes basées sur XML et les expressions. Les politiques sont désormais gérées comme des cartes intuitives au sein du portail Azure, couvrant des aspects critiques tels que les limites de jetons et de requêtes, les quotas d’utilisation, l’application de la sécurité du contenu (Content Safety) et les stratégies de repli des modèles. Cette gestion simplifiée des politiques contribue directement à la productivité des développeurs en matière d’IA en réduisant la surcharge de configuration. De plus, une instance de passerelle peut être provisionnée rapidement, généralement en une minute, sans nécessiter de planification complexe des unités d’échelle. Pour une surveillance robuste, la télémétrie est exportée sous forme de métriques de jetons OpenTelemetry vers des destinations populaires telles que Application Insights, Datadog et Grafana, le tout au sein de l’abonnement Azure et du tenant Entra du client, offrant des informations complètes sur la génération de code IA et l’utilisation d’autres outils d’IA.

Comment la Passerelle IA renforce la productivité des développeurs grâce aux fonctionnalités d’assistant de code IA

La Passerelle IA améliore considérablement la productivité des développeurs en fédérant les backends à partir de trois sources principales : les serveurs MCP distants via URL, les spécifications OpenAPI et un riche écosystème de connecteurs intégrés pour plus d’un millier d’applications SaaS, éliminant le besoin d’héberger des serveurs supplémentaires. Chaque opération de ces backends se transforme en un outil utilisable, et les équipes peuvent configurer les méthodes d’authentification — aucune, clé API, OAuth 2.0 ou une identité gérée — par backend. Cette architecture prend en charge un modèle opérationnel où un groupe de plateforme central peut connecter et publier des modèles et des outils approuvés, permettant aux équipes d’application de se servir elles-mêmes et de développer à partir de ces ressources à l’aide d’une console de test, sans nécessiter d’approbation centrale pour chaque modification. Cela offre un avantage pratique aux Développeurs de logiciels : cela leur permet d’expérimenter et de déployer rapidement des fonctionnalités d’assistant de code IA et d’autres outils basés sur l’IA tout en maintenant des garde-fous de niveau entreprise et une visibilité de l’utilisation.

Réception de l’industrie et questions évolutives sur la gouvernance de l’IA

Les premières réactions des architectes et des ingénieurs de plateforme ont été largement positives, en particulier concernant la consolidation de la gouvernance de l’IA. Paolo Perrone, une voix éminente dans les systèmes d’IA de production, a souligné l’avantage souvent sous-estimé de la gouvernance des coûts au niveau de la passerelle. Il a noté que la plupart des équipes traitent la limitation de débit (rate limiting) et le suivi des dépenses (spend tracking) de manière réactive, et que la centralisation de cela fournit « un plan de contrôle unique au lieu de correctifs par application », un aspect crucial pour la gestion des coûts opérationnels des outils d’IA pour les développeurs. Cependant, l’annonce a également soulevé des questions sur les limites précises de la gouvernance. Adolph White Jr., un architecte de systèmes d’IA d’entreprise, a soulevé un point critique concernant les exécutions d’agents qui ne se terminent pas proprement. Il a demandé si la sortie est conservée pour l’audit ou si la passerelle se contente de réessayer, présentant cela comme une distinction entre « gouverner le trafic d’IA et gouverner le cycle de vie complet » des processus d’IA. L’annonce n’aborde pas explicitement la question de savoir si l’autorité sur la sortie d’un agent réside au niveau de la passerelle ou d’une couche d’orchestration supérieure. Bien que généralement bien accueillie, certains, comme Sreenivasulu Kandakuru d’Aer Lingus, ont suggéré que, bien qu’il s’agisse d’une fonctionnalité très nécessaire, Azure pourrait encore être en train de rattraper son retard par rapport à des concurrents comme AWS et Databricks dans ce domaine spécifique.