GitHub - firelex/jeff: Тонкая настройка Qwen3.5 и Gemma 4 для классификации zero-shot: маленькие, быстрые модели принятия решений, которые вы встраиваете в свой код, с тем же форматом запроса, что и Jev. Вы описываете ситуацию и перечисляете варианты простыми словами; Jeff возвращает калиброванную вероятность для каждого варианта за один прямой проход. Без сгенерированного текста, без синтаксического анализа: около 22 мс на решение на RTX PRO 6000 и 28 мс на Apple M4 Max (MLX).

Zero-shot означает, что варианты могут быть любыми: очереди поддержки, намерения пользователей, метки модерации, голосовые команды, игровые ходы. Ваши категории не должны появляться в обучающих данных; вы их описываете, а Jeff выбирает. Это очень маленькие модели. Они принимают чрезвычайно быстрые, хорошо откалиброванные решения между вариантами и легко встраиваются в ваш локальный код. На тестах они приближаются, а иногда и превосходят Jev; но при таком размере их рассуждения не сравнятся с Jev, который работает на гораздо большей модели.

Полностью построено на локальном оборудовании. Обучение на одном графическом процессоре рабочей станции RTX PRO 6000 (0.8B обучается около 2 часов, 2B — около 3,5), все синтетические обучающие данные написаны открытой моделью (Qwen3.8-Flash-Next) на двух DGX Sparks, тестирование на Mac Book. Никаких облачных GPU и никакого вывода закрытой модели в обучающих данных. Jeff использует тот же формат запроса, что и Jev, но не связан с Type Safe, создателями Jev, и не одобрен ими. Модели на Hugging Face: Jeff-Qwen3.5-0.8B, Jeff-Qwen3.5-2B, Jeff-Gemma4-E2B.

Тесты: 4 599 вопросов из пяти публичных тестов, плюс публичный сложный уровень Jev Bench. Общий балл Jeff соответствует или превосходит Jev в классификации и привязке.