Ich liebe Forschung und Entwicklung, Sie haben vielleicht wegen PJON (Padded Jittering Operative Network) von mir gehört. Es ist ein Netzwerkprotokoll, das ich 2010 zu entwickeln begann und das kürzlich von der ETH Zurich dank der Forschung von Pius Sieber in Silizium implementiert wurde.

Ich freue mich, TERMy mit Ihnen zu teilen, einen Terminal-Assistenten, der auf dem NPC-Forge-Framework aufbaut. Anders als alles, was heute gebaut wird, verwendet TERMy keine Embeddings, maschinelles Lernen oder LLMs. Es läuft auf der CPU (sogar auf einem Raspberry Pi Zero) sowohl im Terminal als auch clientseitig in einem Browser-Tab und antwortet in Millisekunden. Es ist ein zynischer, aber sehr sachkundiger Linux-Terminal-Assistent, der Ihre natürliche Sprache in Shell-Befehle übersetzt, ohne sich auf ein einziges künstliches Neuron zu verlassen.

Ich hatte die Gelegenheit, mich seit Anfang Juli 2 Monate lang auf meine persönlichen Projekte zu konzentrieren, in den seltsamen Zeiten von KI-Preiserhöhungen und dem Ende des subventionierten Tokenmaxing. Ich war neugierig, ob ich von Grund auf einen Terminal-Assistenten entwickeln könnte, der einfache Anfragen in natürlicher Sprache verarbeiten kann. Ich habe ein schlechtes Gedächtnis und habe mich daran gewöhnt, copilot zu bitten, "die virtuelle Umgebung zu aktivieren" oder ähnliche triviale Operationen durchzuführen, wobei ich jeden Monat eine nicht unerhebliche Summe ausgebe.

So funktioniert es: Wenn Sie eine Eingabeaufforderung eingeben, durchläuft sie eine leichtgewichtige NLU-Pipeline, die in ~1000 Zeilen Python geschrieben ist und die folgenden Schritte implementiert: 1. Entfernen von Kraftausdrücken, Interjektionen, ermutigenden, entmutigenden und dankenden Wörtern (Rauschen entfernen) 2. Stimmungsanalyse 3. Exakte Übereinstimmung (sehr schnell) 4. Vorlagenübereinstimmung (langsamer) 5. Probabilistische Übereinstimmung (noch langsamer). Schritt 5 stützt sich auf IDF, um seltene Wörter zu identifizieren, BOW, um Wortinversionen zu berücksichtigen, und IDF-gewichtetes Levenshtein, um Tippfehler sicher zu behandeln. Die Berechtigungssteuerung ist fest im Datensatz codiert und wird für alle potenziell destruktiven Befehle durchgesetzt, daher ist es von Natur aus sicherer, als ein unberechenbares LLM wild auf Ihrem Rechner laufen zu lassen.