HeadlinesBriefing favicon HeadlinesBriefing.com

ভিশন মডেল সমর্থন সহ Jev-জাতীয় LLM র্যাপার

Hacker News •
×

একটি ডেভেলপার Jev এবং স্ব-হোস্টেড প্রজেক্টগুলো যেমন Open Jev এবং Sem If আবিষ্কার করেছেন, যেগুলো পুরাতন ট্রিক ব্যবহার করে: LLM টোকেনের সম্ভাবনা পড়া। পদ্ধতিটি স্টেট এবং বহু-নির্বাচনী প্রশ্ন সহ প্রম্পট তৈরি করে, তারপর প্যারামিটারগুলো যেমন {"max_completion_tokens": 1, "logprobs": true, "top_logprobs": 20} সহ Chat Completions অনুরোধ পাঠায় যাতে একটি টোকেনের উত্তর এবং বিকল্প সম্ভাবনাগুলো পাওয়া যায়। এই পদ্ধতিটি ভিশন মডেলের ক্ষেত্রেও কাজ করে। লেখক স্থানীয় পরীক্ষাগুলোর জন্য ছবির একটি attachments ফিল্ড যোগ করে Jev-এর টেক্স্ট/JSON ফরম্যাটটিকে প্রসারিত করেছেন। তার পাইथন উদাহরণটি ক্যামেরার ফ্রেমগুলো ধারণ করে, base64 জেসো ছবি পাঠায় এবং ব্যক্তির দৃশ্যমানতা, ইনডোর/আউটডোর পরিবেশ এবং আলোর তীব্রতা মূল্যায়ন করে। RTX 3090-এ Gemma 4 12B ব্যবহার করে তিনি প্রতি ফ্রেম তিনটি প্রশ্ন সহ প্রতি সেকেন্ড একটি ফ্রেম পেয়েছেন। Open AI-র gpt-6-luna আলাদা সংযোগের কারণে ~0.2 FPS পেয়েছে। তার নমনীয়তা বিশে CV মডেলের পরিবর্তে সাধারণ টেক্সট বর্ণনার মাধ্যমে অবস্থান পরিবর্তন করতে দেয়।