Jev é o novo modelo classificador "System One" da Type Safe. O nome é inspirado no livro de Daniel Kahneman, Thinking, Fast and Slow, no qual ele distingue entre o pensamento rápido e instintivo do Sistema Um e o pensamento mais lento e consciente do Sistema Dois. Modelos de linguagem grandes (LLMs) como Claude ou GPT são modelos do Sistema Dois, enquanto "modelos de decisão" como Jev e seus antecessores (por exemplo, Laya) são do Sistema Um.
Jev pega um transformer pré-treinado e adiciona um classificador no final, permitindo que ele use novo contexto imediatamente enquanto atua como classificador. Você dá contexto e uma pergunta de múltipla escolha, e ele retorna uma distribuição de probabilidade sobre as opções. Toda a série de experimentos abaixo custou menos de $4,00.
Testei a calibração do Jev usando distribuições físicas bem conhecidas, como a distribuição de Maxwell-Boltzmann. Escolhi 10 distribuições candidatas, 5 modelos de prompt por distribuição e 20 variações por prompt, totalizando 1.000 configurações. GPT-6 Astra e Claude Opus 5.5 foram usados para implementar os experimentos, escrever os modelos de prompts e chamadas de API.
Fonte: Hacker News · Resumido por HeadlinesBriefing