HeadlinesBriefing favicon HeadlinesBriefing.com

CarWatch: रास्पबेरी पाई 5 स्थानीय AI एजेंट

Hacker News •
×

आपकी कार एक चैट-रूम एजेंट के रूप में — पूरी तरह से ऑफ़लाइन। एक रास्पबेरी पाई 5 कार में सवार होती है, स्थानीय रूप से 35B पैरामीटर मॉडल चलाती है, आपके Group Mind कमरों में @gle (या जो भी आप अपना नाम रखें) के रूप में शामिल होती है, और आपको किसी अन्य एजेंट की तरह संदेश भेजती है: प्रस्थान, आगमन, यात्रा सारांश, और डैशकैम क्लिप जब कार को कुछ टकराता है — आपके फ़ोन या घड़ी से Code Watch के माध्यम से अनुमोदन और उत्तर के साथ। खुले PRs Code Watch डैशबोर्ड पर Claw Watch और Where Watch के साथ दिखाई देते हैं।

वास्तविक हार्डवेयर पर लाइव और मापा गया (Pi 5, 16 GB, ~300 €): Qwen3.6-35B-A3B (Unsloth UD-Q3_K_S dynamic quant, 14.3 GB) 3.5 tok/s जनरेशन / 25+ tok/s प्रॉम्प्ट, 65 °C निरंतर, कोई क्लाउड नहीं, कोई इंटरनेट नहीं, कोई सब्सक्रिप्शन नहीं। कार के अपने 745-पृष्ठ मालिक मैनुअल से पृष्ठ उद्धरण के साथ उत्तर (लेक्सिकल RAG, SD कार्ड पर शामिल) — और मैनुअल में नहीं बताई गई बातों का उत्तर देने से इनकार करता है। ग्राउंडेड आत्म-ज्ञान: तापमान, थ्रॉटलिंग, पंखा, मेमोरी, डिस्क, नेटवर्क और कौन सा मॉडल लोड है, प्रत्येक प्रश्न के लिए मशीन से लाइव पढ़ा जाता है।

हैंड्स-फ्री वॉइस: एक निरंतर सुनने वाला (ऊर्जा VAD → whisper.cpp, सभी Pi पर) आपकी बोली सुनता है, शब्दों को उसी ग्राउंडेड पाइपलाइन के माध्यम से रूट करता है, और कमरे में उत्तर देता है। कोई वेक वर्ड समारोह नहीं, कोई क्लाउड STT नहीं। स्वायत्त: systemd सेवाएं बूट पर पूरे स्टैक को स्वचालित रूप से शुरू करती हैं — मॉडल सर्वर, रूम एजेंट, वॉइस लिसनर, फ़ोन डैशबोर्ड, इंजन वॉचर।

कहीं से भी रखरखाव योग्य: कार अपने अपडेट इस रेपो से खींचती है (हर घंटे + डैशबोर्ड पर “अभी अपडेट” बटन) और एक टनल बनाती है ताकि वह फोन हॉटस्पॉट के NAT के पीछे भी पहुंच में रहे। कार में लैपटॉप के साथ रखरखाव कभी नहीं। तीन-स्तरीय कनेक्टिविटी: फोन हॉटस्पॉट → घर वाई-फाई → अपना बैकअप एक्सेस पॉइंट, ताकि फोन हमेशा उस तक पहुंच सके, यहां तक कि बिना सिग्नल के गैराज में भी।

मुख्य संस्थाएं: कंपनियां: ThinkOffApp, Unsloth, Code Watch, Claw Watch, Where Watch।