HeadlinesBriefing favicon HeadlinesBriefing.com

Ollaya: মিলিসেকেন্ডে ওপেন-সোর্স ডিসিশন মডেল

Hacker News •
×

যেকোনো টেক্সট বা JSON সম্পর্কে টাইপ করা প্রশ্ন জিজ্ঞাসা করুন এবং মিলিসেকেন্ডে ক্যালিব্রেটেড উত্তর পান। ব্যক্তিগত, ওপেন-সোর্স, আপনার নিজস্ব হার্ডওয়্যারে। ডাউনলোড করুন মডেল ব্রাউজ করুন প্রকৃত আউটপুট: laya:en-এ রুট করা হয়েছে, RTX 4090-এ 8.9 ms-এ উত্তর দেওয়া হয়েছে।

দ্রুত ড্রপ-ইন সামঞ্জস্যপূর্ণ ওপেন মডেল আপনার ডেটা আপনারই থাকে প্ল্যাটফর্ম মিলিসেকেন্ডে দ্রুত সিদ্ধান্ত। একটি ডিসিশন মডেল একটি একক ফরোয়ার্ড পাসে উত্তর দেয়, টোকেন-বাই-টোকেন জেনারেশন ছাড়া। আপনার নিজস্ব GPU-তে, Laya-তে পাঁচ-প্রশ্নের অনুরোধ HTTP API-এর মাধ্যমে শেষ থেকে শেষ পর্যন্ত প্রায় 10 ms সময় নেয়।

ড্রপ-ইন সামঞ্জস্যপূর্ণ Type Safe-এর API-এর সাথে কথা বলে। Ollaya Type Safe-এর অনুরোধ এবং প্রতিক্রিয়া আকার সহ /v1/systemone এবং /v1/models পরিবেশন করে। অফিসিয়াল Type Safe Python SDK 0.7.1 একটি স্থানীয় সার্ভারের বিরুদ্ধে অপরিবর্তিত কাজ করে।

ওপেন ওয়েট, টানার জন্য প্রস্তুত। Convai Innovations থেকে Laya দিয়ে শুরু করুন: একটি ইংরেজি মডেল, একটি 100+ ভাষার মডেল, টাইপ করা সিদ্ধান্তের জন্য ফাইন-টিউন করা মডেল এবং একটি রাউটার যা আপনার জন্য বেছে নেয়। ডিফল্টরূপে ব্যক্তিগত। আপনি যেখানে কাজ করেন সেখানে চলে। মিনিটের মধ্যে চালু হয়ে যান। একটি বাইনারি, একটি কমান্ড: ollaya run laya।