HeadlinesBriefing favicon HeadlinesBriefing.com

Jeeves: যুক্তি উন্নত Jev-ような সিদ্ধান্ত মডেল

Hacker News •
×

Jeeves হলো reasoning Jev-style classifier, SFT এবং CISPO দিয়ে প্রশিক্ষণ পেয়েছে। এতে 9B Jev-like মডেল (Qwen3.5-9B, LoRA, pointer head) আছে যা সিদ্ধান্ত নেওয়ায় আগে চিন্তা করে, block-4 diffusion drafter ব্যবহার করে। মডেল ডোমেইন বাইরের পরীক্ষা ডেটাে Kev-9B এবং Jev-কে পিছিয়ে দেয় (0.889 বনাম 0.822 এবং 0.857) এবং Jev Benchের পাবলিক টিয়ারে (0.935 বনাম 0.866)। এটি Jev-compatible API-এর মাধ্যমে হ্যি/নো, বহু নির্বাচন এবং রেটিং প্রশ্নের সমports করে। ইনফারেন্সে ~0.3s ছাড়া চিন্তা এবং H100 GPU-এ একে median 3.3s_with thinking লাগে। Jeeves কঠোর Jev Bench আইটেমে উচ্চ সঠিকতা অর্জন করে (0.865 বনাম 0.730) এবং অজানা উত্তরে কম নিশ্চিততা (0.055 বনাম 0.090)। মডেল CUDA-তে (Hopper FP8 kernel) চালিত এবং পূর্ণ প্রশিক্ষণ কোড এবং ডেটা অন্তর্ভুক্ত করে। দ্রুত শুরু করার জন্য Python 3.12 এবং CUDA GPU প্রয়োজন। ওয়েটস Hugging Face থেকে ডাউনলোড করা যেতে এবং Hugging Face বা fused checkpoints माध्यमে সার্ভ করা যেতে পারে। উদাহরণ অনুরোধ দেখায় organised output-for department, escalation, এবং frustration scoring assuredness এবং probabilities।