openjev présente une expérience basée sur le navigateur explorant si un modèle de décision peut s'exécuter localement sans dépendances backend. Le projet permet aux utilisateurs de sélectionner des tailles de modèle, y compris Mini CPM 5 2B par défaut ou Qwen3 0.6B pour les appareils plus petits, et de mesurer les différences de performance entre les lectures de probabilité directes et la génération token par token. Les utilisateurs chargent des poids quantifiés depuis Hugging Face, qui restent mis en cache localement, avec des entrées restant entièrement sur la page.

L'expérience compare deux méthodes : la lecture directe, qui normalise le softmax à travers les options fournies sans décodage, et la génération, qui demande au modèle d'écrire les probabilités des options comme du texte JSON token par token. Les deux s'exécutent séquentiellement sur le même modèle chargé pour éviter la contention GPU. Les poids proviennent de Hugging Face et persistent dans le cache du navigateur.

Le premier chargement du modèle peut prendre plusieurs minutes selon le choix, le réseau et le matériel. La démo utilise des builds GGUF épinglés via wllama, notant que la quantification affecte à la fois la qualité et la vitesse. Cette expérience locale offre un accès immédiat sans liste d'attente, permettant aux utilisateurs de tester les performances du modèle de décision directement dans leur environnement de navigateur.