HeadlinesBriefing favicon HeadlinesBriefing.com

Jevchat wandelt Jev in einen Chatbot um

Hacker News •
×

Jevchat wandelt Jev in einen Chatbot um, indem es bei jedem Schritt eine Frage stellt: Angesichts der Benutzerfrage und der bisher verfassten Antwort, welches Symbol kommt als Nächstes? Die Optionen sind ein Alphabet plus eine Option, um die Ausstrahlung zu beenden. Jev gibt eine Wahrscheinlichkeit für jedes zurück, und der Sampler zieht das nächste Symbol aus dieser normalisierten Verteilung. Anhängen, wiederholen und stoppen, wenn STOP gezogen wurde. Es stehen mehrere Alphabete (einschließlich abgeschnittener Tokenlisten) und Sampling-Strategien zur Verfügung. Die Idee ist zum Spaß, die Kosten sind etwas unpraktisch und die Ergebnisse sind witzig. Dies war ein von Claude beschleunigter Experiment. Der Benutzer beschrieb die Sampling-Algorithmen, Strategien usw. und Claude implementierte sie.

Einrichtung: Legen Sie Ihren Jev-Schlüssel in die .env-Datei neben pyproject.toml (git-ignoriert) als JEV_API_KEY. TYPESAFE_API_KEY wird ebenfalls akzeptiert. Werte in .env haben Vorrang vor exportierten Werten, sodass die Datei bearbeiten ausreicht, um Schlüssel zu wechseln. Befehle: poetry run jevchat (interaktiv), poetry run jevchat ask "Benötigen Menshen Wasser?", poetry run jevchat alphabets, poetry run jevchat bench。

Die Antwort erscheint während des Samplens in einem Panel mit einer Live-Lesegeschwindigkeit der Generierungsrate Symbole/s, Zeichen/s, Millisekunden pro API-Aufruf, verstrichene Zeit und den wenigen Symbolen, die Jev beim letzten Schritt bewertet hat. Strg-C storniert. Der erste Druck stoppt die Generierung, sobald die im Flug befindliche Anfrage zurückgegeben wird; ein zweiter Druck bricht sofort ab.

Modi: Zwei Dinge sind tauschbar: Strategie (-s/--strategy) und Alphabet (-a/--alphabet). Strategien umfassen choice (eine Frage zum gesamten Alphabet), bisect (Ja-Nein-Fragen, die die Gruppe einschränken), buckets (Alphabet auf viele Fragen verteilt), und refine (buckets dann eine Frage an die Gewinner). Präsentationen umfassen hypothesis (Standard) und symbol。