Cactus
Motor de IA híbrido edge-cloud que ofrece LLM, VLM y transcripción locales para dispositivos móviles y wearables.
Ejecuta LLMs cuantizados, modelos de visión y transcripción de voz de forma nativa en móviles y wearables.
Cactus es un motor de inferencia de alto rendimiento adaptado para dispositivos móviles y wearables, compatible con modelos de texto, voz y visión. Está dirigido a desarrolladores móviles e ingenieros que buscan desplegar pipelines de IA local con derivación opcional a la nube.
Qué es
Proporciona un grafo de cómputo sin copia (zero-copy), núcleos de CPU/GPU en múltiples arquitecturas y técnicas de cuantización personalizadas basadas en rotación que van desde 4 bits hasta 1 bit. El motor expone APIs compatibles con OpenAI y gestiona RAG automático junto con llamadas a herramientas en el dispositivo a través de su modelo Needle.
Para quién
Es ideal para desarrolladores que integran inteligencia en el dispositivo en aplicaciones para iOS, Android, macOS o sistemas embebidos. No es adecuado para equipos que requieren inferencia alojada exclusivamente en la nube sin las limitaciones del hardware local.
Funciones clave
Cuantización basada en rotación
Las técnicas de cuantización personalizada escalan los modelos desde una precisión de peso de 4 bits hasta 1 bit.
Grafo de cómputo sin copia (Zero-Copy)
El Cactus Graph optimizado gestiona operaciones de tensores, multiplicación de matrices y atención de forma local.
APIs compatibles con OpenAI
Cactus Engine ofrece interfaces estándar de chat completion, streaming, visión y tool calling.
Derivación híbrida a la nube
Enruta automáticamente consultas difíciles a la nube basándose en umbrales de confianza del modelo local.
Listo en 3 pasos
Nuestro veredicto honesto
Lo mejor
- Ejecución nativa en hardware de Apple, Samsung y Pixel mediante núcleos SIMD optimizados
- Compatible con flujos de trabajo multimodales que incluyen modelos de visión y transcripción de audio
- Proporciona bindings para Swift, Kotlin, Flutter, React Native, Rust y Python
- Incluye capacidades de auto-RAG directamente dentro del pipeline de inicialización del modelo
Sus límites
- Requiere compilar dependencias en C++ y configurar cadenas de herramientas de compilación local
- La conversión de modelos desde HuggingFace puede ser experimental según la arquitectura
- Ejecutar modelos multimodales pesados localmente consume una cantidad significativa de RAM del dispositivo
Precios y licencia
El software es de código abierto sin tarifa de licencia especificada en los metadatos del repositorio. El único coste es ejecutarlo por tu cuenta en hardware local o pagar por el uso de la API de derivación a la nube.
Empleos para hispanohablantes
876 puestos remotos abiertos de entrenamiento de IA, actualizados el 15 de noviembre de 2026; la mayoría paga $20–$170 por hora. 22 de ellos piden hispanohablantes. Zekai los lista gratis; la solicitud va a la plataforma del empleador.
Alternativas
Úsalo, o deja que lo configuremos
FAQ
¿Qué arquitecturas de modelos son compatibles?
Las familias de modelos Liquid, Gemma, Whisper, Parakeet y Qwen están probadas explícitamente, junto con cualquier modelo de HuggingFace mediante conversión.
¿Cactus es compatible con el fallback a la nube?
Sí, incluye un modo híbrido que enruta consultas difíciles a la nube cuando la confianza del modelo local cae por debajo de un umbral establecido.
