HeadlinesBriefing favicon HeadlinesBriefing.com

Ollaya: Model Keputusan Sumber Terbuka dalam Milidetik

Hacker News •
×

Ajukan pertanyaan yang diketik tentang teks atau JSON apa pun dan dapatkan jawaban terkalibrasi dalam milidetik. Pribadi, sumber terbuka, pada perangkat keras Anda sendiri. Unduh Jelajahi model Keluaran nyata: dirutekan ke laya:en, dijawab dalam 8,9 md pada RTX 4090.

Cepat Kompatibel dengan drop-in Model terbuka Data Anda tetap milik Anda Platform Keputusan cepat dalam milidetik. Model keputusan menjawab dalam satu lintasan maju, tanpa pembuatan token demi token. Pada GPU Anda sendiri, permintaan lima pertanyaan ke Laya membutuhkan waktu sekitar 10 md, ujung ke ujung melalui HTTP API.

Kompatibel dengan drop-in Berbicara dengan API Type Safe. Ollaya menyajikan /v1/systemone dan /v1/models dengan bentuk permintaan dan respons Type Safe. SDK Type Safe Python resmi 0.7.1 berfungsi tanpa perubahan terhadap server lokal.

Bobot terbuka, siap ditarik. Mulailah dengan Laya dari Convai Innovations: model bahasa Inggris, model 100+ bahasa, model yang disetel halus untuk keputusan yang diketik, dan router yang memilih untuk Anda. Pribadi secara default. Berjalan di tempat Anda bekerja. Mulai dan jalankan dalam hitungan menit. Satu biner, satu perintah: ollaya run laya.