HeadlinesBriefing favicon HeadlinesBriefing.com

Jevchat transforme Jev en chatbot

Hacker News •
×

Jevchat transforme Jev en chatbot en posant une question à chaque étape : étant donné la question de l'utilisateur et la réponse écrite jusqu'à présent, quel symbole vient ensuite ? Les options sont un alphabet plus une option d'arrêt de l'émission. Jev renvoie une probabilité pour chacun, et l'échantillonnage tire le symbole suivant à partir de cette distribution normalisée. Ajouter, répéter et arrêter lorsque STOP est tiré. Plusieurs alphabets (y compris des listes de jetons tronquées) et stratégies d'échantillonnage sont disponibles. L'idée est pour le plaisir, le coût est quelque peu impraticable, et les résultats sont hilarants. C'était une expérience accélérée par Claude. L'utilisateur a décrit les algorithmes d'échantillonnage, les stratégies, etc., et Claude les a implémentés.

Configuration : Placez votre clé Jev dans le fichier .env à côté de pyproject.toml (ignoré par git) en tant que JEV_API_KEY. TYPESAFE_API_KEY est également accepté. Les valeurs dans .env l'emportent sur les exportées, donc il suffit d'éditer le fichier pour changer de clés. Commandes : poetry run jevchat (interactif), poetry run jevchat ask "Les gens ont-ils besoin d'eau ?", poetry run jevchat alphabets, poetry run jevchat bench。

La réponse apparaît pendant l'échantillonnage, dans un panneau avec une lecture en temps réel du débit de génération symboles/s, caractères/s, millisecondes par appel API, temps écoulé, et les quelques symboles principaux que Jev a notés à la dernière étape. Ctrl-C annule. Le premier appui arrête la génération une fois que la requête en cours est revenue ; une seconde appui l'aborton immédiatement.

Modes : Deux choses sont interchangeables : stratégie (-s/--strategy) et alphabet (-a/--alphabet). Les stratégies incluent choice (une question sur tout l'alphabet), bisect (questions oui/non réduisant le groupe), buckets (alphabet réparti sur plusieurs questions), et refine (buckets puis une question sur les gagnants). Les présentations incluent hypothesis (par défaut) et symbol。

FAQ : Qu'est-ce que Jevchat ?

Jevchat est un outil qui transforme Jev en chatbot en échantillonnant des symboles un par un à partir de distributions de probabilité renvoyées par Jev, utilisant diverses stratégies et alphabets。