openjev apresenta um experimento baseado no navegador explorando se um modelo de decisão pode ser executado localmente sem dependências de backend. O projeto permite que os usuários selecionem tamanhos de modelo, incluindo Mini CPM 5 2B como padrão ou Qwen3 0.6B para dispositivos menores, e meça as diferenças de desempenho entre leituras de probabilidade diretas e geração token por token. Os usuários carregam pesos quantizados do Hugging Face, que permanecem armazenados localmente, com entradas permanecendo inteiramente na página.

O experimento compara dois métodos: leitura direta, que normaliza softmax através das opções fornecidas sem decodificação, e geração, que pede ao modelo para escrever as probabilidades das opções como texto JSON token por token. Ambos são executados sequencialmente no mesmo modelo carregado para evitar contenção de GPU. Os pesos vêm do Hugging Face e persistem no cache do navegador.

O primeiro carregamento do modelo pode levar vários minutos dependendo da seleção, rede e hardware. A demonstração usa builds GGUF fixados através do wllama, observando que a quantização afeta tanto a qualidade quanto a velocidade. Este experimento local oferece acesso imediato sem listas de espera, permitindo que os usuários testem o desempenho do modelo de decisão diretamente em seu ambiente de navegador.