HeadlinesBriefing favicon HeadlinesBriefing.com

Debate sobre alegações de calibração do Jev

Hacker News •
×

Jev, o primeiro System One Model da Type Safe, promete probabilidades calibradas para tarefas de classificação sem dados de treinamento. O artigo argumenta que, embora Jev possa produzir pontuações úteis, sua alegação de calibração é falha. A calibração depende tanto do modelo quanto da distribuição dos dados; um modelo calibrado em um conjunto de dados pode estar mal calibrado em outro.

O autor destaca um exemplo de lançamento de moeda onde Jev prevê uma probabilidade de 0.92 de cara, mostrando severa descalibração. O autor recomenda tratar as saídas de Jev como pontuações de classificação em vez de probabilidades confiáveis e sugere uma recalibração barata usando algumas centenas de exemplos rotulados se probabilidades precisas forem necessárias. O artigo enfatiza que o valor de Jev reside em sua capacidade de classificar sem dados, mas os usuários devem verificar a calibração em seus próprios dados antes de confiar em limiares numéricos ou cálculos de custo.