In seinem Artikel vom 11. Oktober 2026 mit dem Titel "'KI' ist kein Werkzeug" argumentiert Rich Hickey, dass große Sprachmodelle (LLMs) Automatisierung und keine Werkzeuge seien, weil sie nicht gehändigt werden könnten. Ich stimme zu, dass das Outsourcing von Arbeit uns Lernmöglichkeiten kosten kann. Doch seine Schlussfolgerung folgt daraus nicht. Selbst nach seiner Definition könnte ein LLM etwas sein, das ein Mensch führen kann. Und es gut zu verwenden erfordert Können, genauso wie die Verwendung anderer Werkzeuge. Eine Säge zu nehmen garantiert keinen geraden Schnitt. Ein Meißel zu halten macht dich noch nicht zu einem Bildhauer. Werkzeuge können schlechte Urteilsfähigkeit genauso leicht verstärken wie gute. Ihre Nützlichkeit hängt davon ab, ob der Bediener sie lenken, das Feedback interpretieren, Fehler erkennen und korrigieren kann. Diese Anforderungen gelten ebenfalls für LLMs.
Die Unvorhersehbarkeit eines LLMs ist eine bedeutende Beschränkung. Aber Vorhersagbarkeit, Zuverlässigkeit, Einfachheit und begrenzte Funktionalität sind Eigenschaften, nach denen wir Werkzeuge bewerten, nicht Voraussetzungen für die Zugehörigkeit zur Kategorie. Ein Werkzeug bleibt ein Werkzeug, auch wenn es schwer zu kontrollieren oder leicht zu missbrauchen ist. Hickeys Unterscheidung zwischen Werkzeugen und Automatisierung erzeugt ebenfalls eine falsche Trennung. Automatisierung kann ein Merkmal eines Werkzeugs sein. Ein Compiler führt umfangreiche Arbeit aus, ohne dass der Programmierer jede Operation kontinuierlich steuern muss. Ein Tabellenblatt berechnet Ergebnisse neu, ohne dass jemand jede Berechnung manuell durchführt. Wir nutzen diese Systeme weiterhin, indem wir Eingaben spezifizieren, Ergebnisse untersuchen und entscheiden, als Nächstes zu tun. Warum sollte die automatische Textgenerierung ein Instrument davon ausschließen, ein Werkzeug zu sein, wenn die automatische Codeübersetzung oder die automatische Zahlenberechnung dies nicht tun?
Die Behauptung, dass die Verwendung von LLMs an Absicht, Feedback, Richtung und Expertise fehle, ist besonders schwer zu verteidigen. Ein Programmierer kann einen LLM bitten, unbekannten Code zu erklären, diese Erklärung anzweifeln, die Quelle zu überprüfen, eine vorgeschlagene Änderung zu testen, sie abzulehnen und die Anfrage zu verfeinern. Das ist eine von einem Menschen geleitete Feedback-Schleife, die einem Zweck folgt. Sie gut auszuführen erfordert das Wissen, was zu fragen ist, welche Beweise wichtig sind und wann die Antwort falsch ist. Expertise kann das Instrument nützlicher machen. Hickeys Bedenken hinsichtlich des Lesens gelten für einen bestimmten Gebrauch: Eine Zusammenfassung anstelle des vollständigen Textes zu lesen kann viel von dem verlieren, was das Lesen lehrt. Aber jemand kann auch den vollständigen Text lesen und einen LLM verwenden, um seine Interpretation zu hinterfragen, Einwände zu erkunden oder etwas zu identifizieren, das näher untersucht werden sollte. Die Möglichkeit, intellektuelle Arbeit zu vermeiden, beweist nicht, dass jede Nutzung sie vermeidet. Die relevante Frage ist, was die Person tatsächlich tut.
Was mich am meisten enttäuscht, ist die Abhängigkeit von der anthropomorphen Vokabel der KI-Industrie: "ausflippen", "aus der Kontainment entkommen", "verschwören". Das Wiederholen dieser Ausdrücke birgt das Risiko, den Rahmen zu akzeptieren, der diese Systeme wie unabhängige Wesen erscheinen lässt. Software kann unerwartete Ausgaben produzieren, Anweisungen nicht befolgen oder Schaden verursachen, wenn ihr Zugang zu bedeutenden Aktionen gewährt wird. Das sind echte Ingenieursprobleme. Sie als "Verschwörung" zu bezeichnen legt eine Andeutung menschlicher Motive nahe, ohne irgendeine zu etablieren. Ich behaupte nicht, dass ein LLM immer genau das tut, was ein Mensch ihm sagt. Es kann eindeutig versagen. Aber das Nicht-perfekte-Obeyen bedeutet nicht, dass es aufhört, ein Werkzeug zu sein, genauso wenig wie ein erfolgreicher Gebrauch beweist, dass der Bediener sein Urteil aufgegeben hat. Die nützliche Unterscheidung besteht zwischen dem Führen eines Instruments mit Können und dem Delegieren von Arbeit ohne ausreichendes Verständnis oder Aufsicht. Diese Unterscheidung gilt auch für KI und gibt uns etwas Praktischeres als die Erklärung, dass eine ganze Klasse von Software kein Werkzeug sein kann.
Schlüsselentitäten: Personen: Rich Hickey
Häufig gestellte Fragen: Können große Sprachmodelle als Werkzeuge betrachtet werden?
Ja. Auch wenn sie unvorhersehbar oder automatisiert sind, bleiben sie Instrumente, die Menschen führen, interpretieren und korrigieren können. Ihre Nützlichkeit hängt vom Können des Bedieners ab, nicht davon, ob sie strengen Definitionen von Einfachheit oder Vorhersagbarkeit entsprechen.
Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing