laya
Mecanismo de decisão não auto-regressivo do Sistema 1 para escolhas tipadas em mais de 100 idiomas.
Escolhas tipadas, pontuações e avaliações sim/não sobre texto em uma única passagem direta.
Laya é um mecanismo de decisão não auto-regressivo que executa escolhas tipadas, pontuação e avaliações sim/não em qualquer texto em uma única passagem direta. Ele foi projetado para desenvolvedores e profissionais de dados que precisam de roteamento e classificação de texto rápidos e determinísticos, sem geração de texto auto-regressiva.
O que é
A ferramenta processa entradas de texto em mais de 100 idiomas por meio de um roteador automático que seleciona entre os checkpoints do ModernBERT e do mmBERT. Ela avalia esquemas de perguntas personalizados com critérios para classificação, pontuação e decisões booleanas em aproximadamente 33 ms por requisição em uma GPU T4.
Para quem
É adequado para equipes que constroem pipelines de triagem, roteamento ou classificação multilíngue e desejam evitar a latência e os riscos de alucinação de grandes modelos de linguagem auto-regressivos. Não é adequado para quem busca agentes conversacionais, geração de texto ou raciocínio complexo em múltiplos turnos.
Recursos principais
Passagem Direta Única
Avalia escolhas tipadas e pontuações instantaneamente sem geração de texto ou sobrecarga de parsing.
Roteamento Automático de Checkpoints
Roteia requisições dinamicamente entre checkpoints em inglês, multilíngues e de domínio ajustado.
Suporte a Documentos Longos
Lê entradas de até 8,192 tokens usando o checkpoint multilíngue para análise extensiva de texto.
Integração com Frameworks
Inclui opcionais extras para LangChain, LlamaIndex, CrewAI, servidores MCP e implantação HTTP.
Pronto em 3 passos
Nosso veredito honesto
Pontos fortes
- Executa classificação e pontuação em uma única passagem direta sem alucinações de geração.
- Suporte multilíngue nativo em mais de 100 idiomas com detecção automática de script.
- Suporta fine-tuning em decisões específicas de domínio usando aprendizado por reforço em regras de pontuação adequadas.
- Fornece integrações opcionais com fluxos de trabalho do LangChain, LlamaIndex e CrewAI.
Onde deixa a desejar
- Exige gerenciar e hospedar checkpoints de modelos PyTorch e lidar com aceleração de hardware.
- Documentos longos acima de 1,024 tokens exigem passar explicitamente um comprimento máximo maior e ajustar a precisão.
- O fine-tuning requer datasets de domínio e recursos de computação como uma configuração multi-GPU ou Apple Silicon.
Preços & licença
Gratuito sob sua licença open-source. O único custo é executá-lo por conta própria em seu próprio hardware ou infraestrutura de nuvem.
Vagas para quem fala português
879 vagas remotas abertas de treinamento de IA, atualizadas em 15 de novembro de 2026; a maioria paga $20–$175 por hora. 8 delas pedem falantes de português. O Zekai lista de graça; a candidatura vai para a plataforma do empregador.
Alternativas
Use, ou deixe que a gente configure
FAQ
Como o Laya evita alucinações de geração de texto?
Ele usa codificadores não auto-regressivos para gerar probabilidades estruturadas de escolha, pontuação e sim/não diretamente em uma única passagem direta, em vez de gerar tokens de texto sequencialmente.
Posso executar o Laya em texto que não seja em inglês?
Sim, o roteador integrado detecta scripts que não estão em inglês e roteia automaticamente as requisições para o checkpoint multilíngue mmBERT, que suporta mais de 100 idiomas.
Qual hardware preciso para executar o Laya?
Ele é executado em CPU ou GPU via PyTorch, com caminhos rápidos de GPU do ONNX Runtime e TileLang disponíveis como extras opcionais de instalação.
