L’assistant de code IA reçoit un coup de pouce : Cloudflare Computer offre des environnements persistants

Cloudflare a introduit Cloudflare Computer, un runtime open-source conçu pour fournir aux agents assistants de code IA des environnements persistants, semblables à des ordinateurs, plutôt que des conteneurs éphémères, une avancée significative pour les développeurs de logiciels visant des flux de travail basés sur l’IA plus évolutifs et efficaces.

• Cloudflare Computer propose un modèle d’exécution hybride, exploitant des isolats rapides pour la plupart des tâches et ne démarrant des sandboxes de conteneurs que lorsque des calculs plus lourds sont nécessaires, ce qui optimise les coûts et les performances.
• La plateforme répond aux limitations d’évolutivité du déploiement traditionnel d’agents IA basé sur des conteneurs, visant à prendre en charge des milliards d’agents concurrents grâce à son architecture efficace.
• Un système de fichiers partagé, basé sur SQLite, permet une persistance d’état et un échange de données fluides entre les isolats et les conteneurs, facilitant des tâches complexes comme le codage, la manipulation audio/vidéo et la création de documents.
• Actuellement en préversion anticipée, Cloudflare Computer fournit des backends pour les projets de conteneurs, les shells d’isolats et le JavaScript d’isolats, offrant une base solide pour le développement expérimental et prototypique d’agents IA.

Le défi de l’évolutivité pour le développement d’assistants de code IA

Pendant des années, les développeurs de logiciels se sont appuyés sur la conteneurisation pour déployer diverses applications, y compris les premières itérations des outils d’IA. Cependant, Cloudflare soutient que ce modèle présente des obstacles significatifs en matière d’évolutivité pour l’avenir des agents IA. L’entreprise affirme que s’appuyer uniquement sur des conteneurs ne suffira pas lorsque la demande atteindra des centaines de millions, puis des milliards, d’agents concurrents, citant une capacité de calcul globale insuffisante.

Cette limitation a un impact sur l’efficacité et la rentabilité des outils d’assistant de code IA, qui nécessitent souvent un état persistant et une exécution rapide pour être réellement utiles. Cloudflare Computer y fait face directement en réimaginant l’infrastructure sous-jacente, allant au-delà de la nature transitoire de nombreux déploiements basés sur des conteneurs pour offrir une base plus robuste et évolutive pour l’IA.

Comment fonctionne Cloudflare Computer : un modèle d’exécution hybride

Cloudflare Computer introduit un runtime d’agent innovant où la plateforme décide intelligemment de l’environnement d’exécution optimal pour le code : un isolat, un sandbox de conteneur ou un navigateur web. Cette approche dynamique garantit que chaque agent IA reçoit efficacement son propre ‘ordinateur’, le runtime optimisant constamment l’efficacité et l’évolutivité. Le cœur de ce système exploite les isolats de Cloudflare, connus pour leur démarrage, leur arrêt rapides et leur évolutivité horizontale infinie, introduits à l’origine avec Cloudflare Workers.

Ces isolats peuvent maintenir l’état de l’agent, hiberner lorsqu’ils sont inactifs et, surtout, démarrer des sandboxes de conteneurs dédiés à la demande pour des tâches plus intensives. Cette architecture, utilisant souvent un Durable Object pour héberger le harnais de l’agent, permet aux développeurs de logiciels d’invoquer des primitives de calcul plus lourdes uniquement lorsque cela est absolument nécessaire, optimisant ainsi les performances et les coûts opérationnels.

État persistant et systèmes de fichiers partagés : un bond pour l’IA de productivité des développeurs

Une caractéristique centrale de Cloudflare Computer est son système de fichiers partagé, basé sur SQLite, accessible aux isolats et aux conteneurs. Ce composant critique permet aux tâches de passer en douceur entre ces environnements, le système de fichiers partagé garantissant que les deux peuvent opérer sur les mêmes fichiers et maintenir un état cohérent. Cette capacité est une avancée significative pour l’IA de productivité des développeurs, car elle élimine les complexités de la gestion de magasins de données disparates à travers différents contextes d’exécution.

Les systèmes de fichiers de Cloudflare Computer prennent en charge l’intégration avec les dépôts git, divers buckets de stockage ou des fichiers arbitraires. Toutes les opérations effectuées au sein de ce système de fichiers sont contrôlées, auditées et observées, offrant aux développeurs de logiciels un environnement sécurisé et transparent pour que leurs agents IA interagissent avec les données. Cette persistance est vitale pour la génération de code IA complexe et les outils de débogage IA qui nécessitent un accès continu aux fichiers de projet et au contexte historique.

Renforcer les capacités des assistants de code IA avec l’architecture de Cloudflare

La nouvelle architecture de Cloudflare est prête à améliorer considérablement les capacités des outils d’assistant de code IA. En fournissant un runtime où un conteneur est nécessaire pour moins de 10 % du travail d’un agent, des tâches comme le codage, la manipulation audio/vidéo et la création de documents peuvent être gérées principalement par les isolats très efficaces. Cette efficacité se traduit par des temps de réponse plus rapides et des coûts opérationnels réduits pour les outils de développement basés sur l’IA.

Pour les développeurs de logiciels explorant des alternatives à GitHub Copilot ou des outils de débogage IA avancés, Cloudflare Computer offre une base pour créer des agents plus sophistiqués et économes en ressources. La capacité à combiner l’évolutivité horizontale des isolats avec l’évolutivité verticale des conteneurs à la demande signifie que les agents IA peuvent s’attaquer à un éventail plus large de tâches de développement complexes sans être contraints par les limitations d’infrastructure. Cette approche innovante promet de débloquer de nouvelles possibilités pour les outils IA destinés aux développeurs, les rendant plus puissants et accessibles.

Ce que les développeurs de logiciels peuvent attendre de Cloudflare Computer aujourd’hui

Actuellement, Cloudflare Computer est disponible en préversion anticipée, principalement adapté aux expériences, à l’exploration et au prototypage. Il offre trois backends distincts pour que les développeurs de logiciels puissent commencer à travailler. Ceux-ci incluent les ‘projets de conteneurs’, qui exposent l’état SQLite comme un véritable système de fichiers monté FUSE au sein d’un conteneur sandboxé ; les ‘shells d’isolats’, fournissant un environnement juste-bash exécuté dans un Dynamic Worker ; et le ‘JavaScript d’isolats’, qui exécute un module ECMAScript au sein d’un nouveau Dynamic Worker.

Bien qu’il ne soit pas encore prêt pour les charges de travail critiques en production, cet accès anticipé offre une opportunité précieuse aux développeurs de logiciels d’explorer le potentiel des agents IA persistants et avec état. Expérimenter avec ces environnements peut offrir des aperçus cruciaux sur la manière dont les futurs outils de génération de code IA et de débogage IA pourraient être construits, en tirant parti du mélange unique d’efficacité sans serveur et de flexibilité des conteneurs de Cloudflare.