El asistente de código de IA recibe un impulso: Cloudflare Computer ofrece entornos persistentes

Cloudflare ha presentado Cloudflare Computer, un entorno de ejecución de código abierto diseñado para proporcionar a los agentes asistentes de código de IA entornos persistentes, similares a un ordenador, en lugar de contenedores efímeros, lo que representa un avance significativo para los desarrolladores de software que buscan flujos de trabajo impulsados por IA más escalables y eficientes.

• Cloudflare Computer ofrece un modelo de ejecución híbrido, utilizando ‘isolates’ rápidos para la mayoría de las tareas y activando ‘sandboxes’ de contenedores solo cuando se requiere una computación más pesada, lo que lleva a la optimización de costes y rendimiento.
• La plataforma aborda las limitaciones de escalabilidad del despliegue tradicional de agentes de IA basado en contenedores, con el objetivo de soportar miles de millones de agentes concurrentes a través de su arquitectura eficiente.
• Un sistema de archivos compartido basado en SQLite permite la persistencia de estado y el intercambio de datos sin interrupciones entre ‘isolates’ y contenedores, facilitando tareas complejas como la codificación, la manipulación de audio/video y la creación de documentos.
• Actualmente en vista previa temprana, Cloudflare Computer proporciona ‘backends’ para proyectos de contenedores, ‘isolate shells’ e ‘isolate JavaScript’, ofreciendo una base robusta para el desarrollo experimental y prototipo de agentes de IA.

El desafío de la escalabilidad para el desarrollo de asistentes de código de IA

Durante años, los desarrolladores de software han dependido de la contenerización para desplegar diversas aplicaciones, incluidas las primeras versiones de herramientas de IA. Sin embargo, Cloudflare argumenta que este modelo presenta importantes obstáculos de escalabilidad para el futuro de los agentes de IA. La empresa sostiene que depender únicamente de contenedores no será suficiente cuando la demanda aumente a cientos de millones, y luego a miles de millones, de agentes concurrentes, citando una capacidad de cómputo global insuficiente.

Esta limitación afecta la eficiencia y la rentabilidad de las herramientas de asistente de código de IA, que a menudo requieren un estado persistente y una ejecución rápida para ser realmente útiles. Cloudflare Computer aborda directamente esto al reimaginar la infraestructura subyacente, yendo más allá de la naturaleza transitoria de muchos despliegues basados en contenedores para ofrecer una base más robusta y escalable para la IA.

Cómo funciona Cloudflare Computer: un modelo de ejecución híbrido

Cloudflare Computer introduce un innovador entorno de ejecución de agentes donde la plataforma decide inteligentemente el entorno de ejecución óptimo para el código: un ‘isolate’, un ‘sandbox’ de contenedor o un navegador web. Este enfoque dinámico asegura que cada agente de IA reciba efectivamente su propio ‘ordenador’, con el entorno de ejecución optimizando constantemente la eficiencia y la escalabilidad. El núcleo de este sistema aprovecha los ‘isolates’ de Cloudflare, conocidos por su rápido inicio, apagado y escalabilidad horizontal infinita, introducidos originalmente con Cloudflare Workers.

Estos ‘isolates’ pueden mantener el estado del agente, hibernar cuando están inactivos y, de manera crucial, activar ‘sandboxes’ de contenedores dedicados bajo demanda para tareas más intensivas. Esta arquitectura, que a menudo utiliza un Durable Object para alojar el arnés del agente, permite a los desarrolladores de software invocar primitivas de cómputo más pesadas solo cuando es absolutamente necesario, optimizando así tanto el rendimiento como los costes operativos.

Estado persistente y sistemas de archivos compartidos: un salto para la IA en la productividad del desarrollador

Una característica central de Cloudflare Computer es su sistema de archivos compartido, basado en SQLite, que es accesible tanto para ‘isolates’ como para contenedores. Este componente crítico permite que las tareas transiten sin problemas entre estos entornos, y el sistema de archivos compartido asegura que ambos puedan operar con los mismos archivos y mantener un estado consistente. Esta capacidad es un avance significativo para la IA en la productividad del desarrollador, ya que elimina las complejidades de gestionar almacenes de datos dispares en diferentes contextos de ejecución.

Los sistemas de archivos de Cloudflare Computer admiten la integración con repositorios git, varios ‘storage buckets’ o archivos arbitrarios. Todas las operaciones realizadas dentro de este sistema de archivos están controladas, auditadas y observadas, proporcionando a los desarrolladores de software un entorno seguro y transparente para que sus agentes de IA interactúen con los datos. Esta persistencia es vital para la generación de código de IA compleja y las herramientas de depuración de IA que requieren acceso continuo a los archivos del proyecto y al contexto histórico.

Impulsando las capacidades del asistente de código de IA con la arquitectura de Cloudflare

La nueva arquitectura de Cloudflare está preparada para mejorar significativamente las capacidades de las herramientas de asistente de código de IA. Al proporcionar un entorno de ejecución donde se necesita un contenedor para menos del 10% del trabajo de un agente, tareas como la codificación, la manipulación de audio/video y la creación de documentos pueden ser manejadas predominantemente por los ‘isolates’ altamente eficientes. Esta eficiencia se traduce en tiempos de respuesta más rápidos y menores costes operativos para las herramientas de desarrollo impulsadas por IA.

Para los desarrolladores de software que exploran alternativas a GitHub Copilot o herramientas avanzadas de depuración de IA, Cloudflare Computer ofrece una base para crear agentes más sofisticados y eficientes en el uso de recursos. La capacidad de combinar la escalabilidad horizontal de los ‘isolates’ con la escalabilidad vertical de los contenedores bajo demanda significa que los agentes de IA pueden abordar una gama más amplia de tareas de desarrollo complejas sin verse limitados por las restricciones de infraestructura. Este enfoque innovador promete desbloquear nuevas posibilidades para las herramientas de IA para desarrolladores, haciéndolas más potentes y accesibles.

Lo que los desarrolladores de software pueden esperar de Cloudflare Computer hoy

Actualmente, Cloudflare Computer está disponible como una vista previa temprana, principalmente adecuada para experimentos, exploración y creación de prototipos. Ofrece tres ‘backends’ distintos para que los desarrolladores de software comiencen a trabajar. Estos incluyen ‘container projects’, que exponen el estado de SQLite como un sistema de archivos real montado en FUSE dentro de un contenedor en ‘sandbox’; ‘isolate shells’, que proporcionan un entorno ‘just-bash’ ejecutándose en un Dynamic Worker; e ‘isolate JavaScript’, que ejecuta un módulo ECMAScript dentro de un Dynamic Worker nuevo.

Aunque aún no está listo para cargas de trabajo críticas de producción, este acceso temprano brinda una valiosa oportunidad para que los desarrolladores de software exploren el potencial de los agentes de IA persistentes y con estado. Experimentar con estos entornos puede ofrecer información crucial sobre cómo se podrían construir futuras herramientas de generación de código de IA y depuración de IA, aprovechando la combinación única de eficiencia ‘serverless’ y flexibilidad de contenedores de Cloudflare.