HeadlinesBriefing favicon HeadlinesBriefing.com

Type Safe AI lança Jev: modelo de decisão a $0.042/M tokens

Hacker News •
×

Na semana passada, a Type Safe AI revelou o Jev, seu primeiro exemplo de uma nova categoria de modelo que chamam de 'modelos System One'—também conhecidos como 'modelos de decisão'. O Jev é uma variante de LLM que aceita entradas de texto, mas retorna números de ponto flutuante para categorias, perguntas sim/não, avaliações e pontuações de confiança. A Type Safe descreve o Jev como uma 'chamada de função de inteligência de fronteira: estado não estruturado na entrada, decisões probabilísticas tipadas na saída'.

Ele é rápido e barato, cobrando apenas $0.042 por milhão de tokens de entrada—mais barato que o GPT-5 Nano da OpenAI a $0.05/milhão. O Jev permite que os usuários façam perguntas sobre texto ou dados semiestruturados compondo um objeto de estado e enviando-o para sua API com várias perguntas avaliadas em paralelo. O modelo suporta três tipos de perguntas: Noul (pontuações de confiança sim/não 0-1), perguntas de escolha com distribuições de probabilidade e perguntas de pontuação com intervalos numéricos.

Esta abordagem é excelente para tarefas de classificação como detecção de spam, rotulagem e reclassificação de busca. No entanto, o Jev representa uma regressão para sistemas de caixa preta—ele não fornece explicações para as decisões, levantando preocupações sobre viés oculto, particularmente em aplicações sensíveis como contratação. Avaliação extensiva é crucial dada a opacidade do modelo.