HeadlinesBriefing favicon HeadlinesBriefing.com

Laya: Motor de Decisão Multilíngue de Código Aberto de 33 ms

Hacker News •
×

O autor detalha o desenvolvimento do Laya, um motor de decisão do Sistema 1 multilíngue que alcança 32,8 ms de latência em uma única GPU, posicionando-o como uma alternativa mais rápida e de código aberto aos modelos proprietários como o Jev da Type Safe AI. O autor reivindica arte anterior que remonta a março de 2025 (arXiv:2503.23303), incluindo modelos no Hugging Face, conjuntos de dados e um pacote PyPI, anteriores ao lançamento da Type Safe AI em setembro de 2026. Fundada por Diogo Almeida, co-inventor do ChatGPT na OpenAI, a Type Safe AI introduziu o RLCD (Aprendizado por Reforço para Decisões Calibradas) a $0,042 por milhão de tokens com latência de 150 ms.

O Laya resolve o gargalo do uso de LLMs generativos para tarefas simples de classificação (roteamento, detecção de spam, pontuação de urgência), o que adiciona latência (500–2000 ms), custo e risco de alucinação. Em vez disso, o Laya usa codificadores bidirecionais para saídas de probabilidade calibrada instantâneas por meio de três primitivas: choice (seleção categórica), score (colocação em rúbrica ordinal) e noul (detecção de nulo/abstenção).

A família de modelos suporta mais de 100 idiomas, opera a 7,2 ms/pergunta em lote, não requer assinatura de API e libera os pesos sob a licença Apache 2.0. O autor apresenta o Laya como a culminância da correção das limitações arquiteturais em trabalhos anteriores, passando de trajetórias de vendas verticais para decisões de esquema generalizado horizontal.

Entidades-chave: Empresas: Type Safe AI, OpenAI, Hugging Face | Pessoas: Diogo Almeida