AI is a tool and using it well takes skill

In his October 11, 2026 article, "'AI' Is Not a Tool," Rich Hickey argues that LLMs are automation rather than tools because they cannot be wielded. I agree that outsourcing work can cost us opportunities to learn. But his conclusion does not follow. Even by his definition, an LLM can be something a human wields. And using it well takes skill, just as using other tools does. Picking up a saw does not guarantee a straight cut. Holding a chisel does not make you a sculptor. Tools can amplify poor judgment as readily as good judgment. Their usefulness depends on the operator's ability to direct them, interpret feedback, recognize mistakes, and make corrections. Those requirements also apply to LLMs.

An LLM's unpredictability is a meaningful limitation. But predictability, reliability, simplicity, and bounded function are qualities by which we evaluate tools, not prerequisites for membership in the category. A tool does not stop being a tool because it is difficult to control or easy to misuse. Hickey's distinction between tools and automation also creates a false division. Automation can be a feature of a tool. A compiler performs substantial work without the programmer continuously directing each operation. A spreadsheet recalculates results without someone manually carrying out every calculation. We still wield these systems by specifying inputs, examining results, and deciding what to do next. Why should generating text automatically disqualify an instrument from being a tool when translating code or calculating numbers automatically does not?

The claim that LLM use lacks intention, feedback, direction, and expertise is especially difficult to defend. A programmer can ask an LLM to explain unfamiliar code, challenge that explanation, inspect the source, test a proposed change, reject it, and refine the request. That is a feedback loop directed by a human pursuing a purpose. Doing it well requires knowing what to ask, what evidence matters, and when the answer is wrong. Expertise can make the instrument more useful. Hickey's concern about reading is valid for a particular use: accepting a summary in place of reading a paper can sacrifice much of what reading teaches. But someone can also read the paper and use an LLM to question their interpretation, explore an objection, or identify something to examine more closely. The possibility of avoiding intellectual work does not establish that every use avoids it. The relevant question is what the person actually does.

What disappoints me the most is the reliance on the AI industry's anthropomorphic vocabulary: "go rogue," "escape containment," "conspire." Repeating those expressions risks accepting the framing that makes these systems sound like independent beings. Software can produce unexpected outputs, fail to follow instructions, or cause harm when given access to consequential actions. Those are real engineering problems. Calling them "conspiracy" adds a suggestion of human motives without establishing any. I would not claim that an LLM always does exactly what a human tells it to do. It plainly can fail. But failure to obey perfectly does not make it cease to be a tool, any more than successful use proves that its operator has surrendered their judgment. The useful distinction is between wielding an instrument with skill and delegating work without adequate understanding or oversight. That distinction applies to AI, and it gives us something more practical than declaring that an entire class of software cannot be a tool.

في مقاله بتاريخ 11 أكتوبر 2026، "'الذكاء الاصطناعي' ليس أداة"، يجادل ريتش هيكي بأن نماذج اللغة الكبيرة هي أتمتة وليست أدوات لأنها لا يمكن التعامل معها. أتفق على أن تفويض العمل قد يكلفنا فرص التعلم. لكن استنتاجه لا يتبع ذلك. حتى حسب تعريفه، يمكن لنموذج لغة كبير أن يكون شيئًا يمكن للإنسان التعامل معه. واستخدامه بشكل جيد يتطلب مهارة، تمامًا كما هو الحال مع استخدام الأدوات الأخرى. التقاط منشار لا يضمن قطعًا مستقيمًا. إمساز إزميل لا يجعلك نحاتًا. يمكن للأدوات أن تضخم الحكم السيئ بنفس سهولة تضخيم الحكم الجيد. فائدتها تعتمد على قدرة المشغل على توجيهها، وتفسير التغذية الراجعة، والتعرف على الأخطاء، وتصحيحها. هذه المتطلبات تنطبق أيضًا على نماذج اللغة الكبيرة.

عدم قابلية توقع نموذج اللغة الكبيرة هو قيد ذي معنى. لكن القدرة على التوقع، والموثوقية، والبساطة، والوظيفة المحدودة هي صفات نقيّم بها الأدوات، وليس متطلبات مسبقة للانتماء إلى الفئة. لا تتوقف الأداة عن كونها أداة لأنها صعبة التحكم أو سهلة الاستخدام الخاطئ. distinction هيكي بين الأدوات والأتمتة تخلق أيضًا تقسيمًا خاطئًا. يمكن للأتمتة أن تكون ميزة في أداة. يؤدي المترجم عملًا جوهريًا دون أن يوجه المبرمج كل عملية بشكل مستمر. تعيد ورقة الحساب حساب النتائج دون أن يقوم شخص ما يدويًا بكل حساب. ما زلنا نتعامل مع هذه الأنظمة عن طريق تحديد المدخلات، وفحص النتائج، وتحديد ما يجب فعله بعد ذلك. فلماذا يجب أن يُبعد إنشاء النص تلقائيًا أداة عن اعتبارها أداة عندما لا يُبعد ترجمة الكود أو حساب الأرقام تلقائيًا ذلك؟

الادعاء بأن استخدام نماذج اللغة الكبيرة يفتقر إلى النية، والتغذية الراجعة، والتوجيه، والخبرة هو أمر صعب الدفاع عنه بشكل خاص. يمكن لمبرمج أن يطلب من نموذج لغة كبير شرح كود غير مألوف، ويتحدى هذا الشرح، ويفحص المصدر، ويختبر تغييرًا مقترحًا، ويرفضه، ويحسن الطلب. هذا هو حلقة تغذية راجعة توجهها البشرية لتحقيق هدف. إن القيام بذلك بشكل جيد يتطلب معرفة ما يجب طرحه، وما الأدلة التي تهم، ومتى تكون الإجابة خاطئة. يمكن للخبرة أن تجعل الأداة أكثر فائدة. قلق هيكي بشأن القراءة صالح لاستخدام معين: قبول ملخص بدلاً من قراءة ورقة يمكن أن يضحي بكثير مما تعلمه القراءة. لكن يمكن للشخص أيضًا قراءة الورقة واستخدام نموذج لغة كبير لتساؤله عن تفسيره، واستكشاف اعتراض، أو تحديد شيء لفحصه عن كثب. إمكانية تجنب العمل الفكري لا تعني أن كل استخدام يتجنبه. السؤال المرتبط هو ما يفعله الشخص بالفعل.

ما يخيب أملي أكثر هو الاعتماد على مفردات صناعة الذكاء الاصطناعي التي تُعطي صفة بشرية: "الذهاب voyou"، "الفرار من الاحتواء"، "التآمر". تكرار هذه التعبيرات يعرض خطر قبول الإطار الذي يجعل هذه الأنظمة تبدو ككائنات مستقلة. يمكن للبرمجيات أن تنتج مخرجات غير متوقعة، وتفشل في اتباع التعليمات، أو تسبب ضررًا عند إعطائها الوصول إلى إجراءات ذات عواقب. هذه هي مشكلات هندسية حقيقية. وصفها بـ "المؤامرة" يضيف إيحاءً بدوافع بشرية دون إثبات أي منها. لن أدعي أن نموذج لغة كبير يفعل دائمًا بالضبط ما يطلبه منه الإنسان. يمكنه بوضوح الفشل. لكن الفشل في الطاعة التامة لا يعني أنه يتوقف عنbeing أداة، تمامًا كما لا يثبت الاستخدام الناجح أن المشغل قد تخلى عن حكمه. التمييز المفيد هو بين استخدام أداة بمهارة وتفويض العمل دون فهم كافٍ أو إشراف. هذا التمييز ينطبق على الذكاء الاصطناعي، ويمنحنا شيئًا أكثر عملية من الإعلان أن فئة كاملة من البرامج لا يمكن اعتبارها أداة.

الكيانات الرئيسية: الأشخاص: ريتش هيكي

الأسئلة الشائعة: هل يمكن اعتبار نماذج اللغة الكبيرة أدوات؟

نعم. حتى لو كانت غير متوقعة أو أتمتة، فهي لا تزال أدوات يوجهها البشر، ويفسرونها، ويصححونها. فائدتها تعتمد على مهارة المشغل، وليس على استيفاء تعريفات صارمة للبساطة أو التوقع.

2026 সালের অক্টোবর ১১ তারিখের Rich Hickey এর নিবন্ধে, "'AI' একটি টুল নয়", তিনি যুক্তি দিয়েছেন যে বড় ভাষা মডেল (LLMs) স্বয়ংক্রিয়করণ, টুল নয়, কারণ এগুলোকে হাঁটানো যায়নি। আমি সম্মত যে কাজকে আউটসোর্স করা আমাদের শেখার সুযোগকে খরচ করতে পারে। কিন্তু তার নिष्कर्षটি অনুসরণ করে না। zelfs তার সংজ্ঞা অনুসারে, একটি LLM এমন কিছু হতে পারে যা একজন মানব হাঁটাতে পারে। এবং এটি ভালোভাবে ব্যবহার করার জন্য দক্ষতা প্রয়োজন, যেমন অন্যান্য টুল ব্যবহার করার মতো। একটি আरी উঠিয়ে নেওয়া থেকে সরাসরি কাটার গ্যারান্টি নেই। একটি ছেনি ধরে রাখা থেকে আপনি শিল্পী না হয়ে যাবেন। টুলগুলো খারাপ বিচারকে ভালো বিচারের মতো দ্রুত বাড়াতে পারে। তাদের উপযোগিতা এই बात पर নির্ভর করে যে অপারেটর কীভাবে তাদের নির্দেশ করতে পারে, ফিডব্যাক কীভাবে ব্যাখ্যা করতে পারে, ভুলগুলো কীভাবে চিহ্নিত করতে পারে এবং কীভাবে সঠিক করতে পারে। এই প্রয়োজনীয়তাগুলো LLMs জন্যও लागু হয়।

একটি LLM এর অপ্রত্যাশিত প্রকৃতি একটি গুরুত্বপূর্ণ সীমাবদ্ধতা। কিন্তু পূর্বানুমানযোগ্যতা, বিশ্বস্ততা, সহজতা এবং সীমিত ফাংশনালিটি হলো যেগুলো আমরা টুলকে মূল্যায়ন করার জন্য ব্যবহার করি, টুলের শ্রেণিতে অন্তর্ভুক্ত হওয়ার পূর্বশর্ত নয়। একটি টুল টুল না হওয়ার জন্য কঠিন নিয়ন্ত্রণ বা দুর্ব্যবহারের সহজতা কোনো কারণ নয়। Hickey এর টুল এবং স্বয়ংক্রিয়করণের মধ্যে পার্থক্য కూడా একটি মিথ্যা ভাগ তৈরি করে। স্বয়ংক্রিয়করণ একটি টুলের বৈশিষ্ট্য হতে পারে। একটি কম্পাইলার প্রোগ্রামার द्वारा প্রতিটি অপারেশনকে निरंतर নির্দেশিত না করেও beträchtelijke কাজ করে। একটি স্প্রেডশীট কোনো شخص দ্বারা হাতে-হাতে প্রতিটি গণনা না করেই ফলাফল পুনরায় গণনা করে। আমরা এগুলো সিস্টেমকে ইনপুট নির্দিষ্ট করে, ফলাফল পরীক্ষা করে এবং পরবর্তী কী করা উচিত তা নির্ধারণ করে এখনও হাঁটাই থাকি। কোডের অনুবাদ বা সংখ্যা গণনা স্বয়ংক্রিয়ভাবে না হওয়া পর্যন্ত একটি উপকরণ টুল থেকে বাদ দেওয়ার কারণ নয়, তাহলে স্বয়ংক্রিয় টেক্সট জেনারেশন কেন একটি টুল হওয়া থেকে বarring করা হয়?

LLM ব্যবহারের ইচ্ছা, ফিডব্যাক, দিক এবং দক্ষতার অভাবের দাবি বিশেষভাবে রক্ষা করা কঠিন। একটি প্রোগ্রামার একটি LLM থেকে অপরিচিত কোড ব্যাখ্যা করতে বলতে পারে, সেই ব্যাখ্যা কে চ্যালেঞ্জ করতে পারে, উৎসটি পরীক্ষা করতে পারে, একটি প্রস্তাবিত পরিবর্তন পরীক্ষা করতে পারে, তা প্রত্যাখ্যান করতে পারে এবং অনুরোধটি উন্নত করতে পারে। এটি একটি মানব-নির্দেশিত, লক্ষ্য-প্রাপ্য ফিডব্যাক লুপ। এটি ভালোভাবে করতে জানা দরকার যে কী জিজ্ঞাসা করতে হবে, কোনো সাবूत গুরুত্বপূর্ণ এবং কখন উত্তরটি ভুল। দক্ষতা এই যন্ত্রকে আরও উপযোগী করতে পারে। Hickey এর পড়ার बाबত উদ্বেগ একটি নির্দিষ্ট ব্যবহারের জন্য বৈধ: একটি পেপারের সারাংশ গ্রহণের পরিবর্তে পড়া পড়লে পড়ার শেখা অনেক কিছু হারাতে পারে। কিন্তু কেউ পেপার পড়েও LLM ব্যবহার করে নিজের ব্যাখ্যা কে চ্যালেঞ্জ করতে পারে, একটি আপত্তি খোঁজে বের করতে পারে বা কিছুকে আরও দূর থেকে পরীক্ষা করার চাহিদা খোঁজে বের করতে পারে। বৌদ্ধিক কাজ থেকে বাঁচার সম্ভাবনা यह नहीं सिद्ध करती कि প্রতিটি ব্যবহার এটাকে বাঁচায়। প্রাসঙ্গিক প্রশ্ন হলো বাস্তবায়েบุคল কী করছে।

মеня সবচেয়ে বেশি দুঃখিত AI শিল্পের মানবীয় শব্দভাণ্ডার पर निर्भर रहना: "বাইরাল হওয়া", "কনটেইনমেন্ট থেকে fuite", "কনস্পিরি"। এই বাক্যগুলোকে পুনরাবৃত্তি করা হলে ঝুঁকি থাকে যে আমরা সেই ফ্রেমওয়ার্ক গ্রহণ করবো যা এই সিস্টেমগুলোকে স্বাধীন প্রাণী মনে করায়। সফটওয়্যার অপ্রত্যাশিত আউটপুট তৈরি করতে পারে, নির্দেশ মেনে চলতে পারে না বা গুরুত্বপূর্ণ কার্যকলাপে অ্যাক্সেস পেলে ক্ষতি করতে পারে। সেগুলো বাস্তব প্রকৌশলিক সমস্যা। তাদের "কনস্পিরি" বললে মানবিক প্রেরণা का सुझाव जुड़ता है बिना किसी के स्थापित किए। আমি দাবি করব না যে একটি LLM সবসময় মানবের exactamente বলা কাজটি করে। এটি স্পষ্টভাবে ব্যর্থ হতে পারে। কিন্তু আদেশের পূর্ণ পालন না করা এর মানে এই টুল হওয়া বন্ধ নয়, যেন সফল ব্যবহার থেকে এটি सिद्ध না হয় যে এর অপারেটর তার বিচার ত্যাগ করেছে। উপযোগী পার্থক্য হলো কোনো যন্ত্রকে দক্ষতার সাথে চালানো এবং যথেষ্ট বোঝার বা নिगরান না করে কাজকে委托 করা। এই পার্থক্য AI-এও প্রয়োগ্য, এবং এটি আমাদের কিছু আরও ব্যবহারিক দায়িত্ব দেয়, পুরো একটি সফটওয়্যার শ্রেণিকে টুল না হওয়ার ঘোষণা দিয়ের পরিবর্তে।

মূল entidades: লোক: Rich Hickey

সामान्य প্রশ্ন: বড় ভাষা মডেলগুলোকে টুল মाना যাবে কি?

হ্যাঁ। এমনকি যদি তারা অপ্রত্যাশিত বা স্বয়ংক্রিয়কৃত হয়, তারা এখনও এমন যন্ত্র যা মানব 의해 নির্দেশিত, ব্যাখ্যা করা এবং সংশোধন করা যায়। তাদের উপযোগিতা অপারেটরের দক্ষতায় নির্ভর করে, সরলতা বা পূর্বানুমানযোগ্যতার কঠোর সংজ্ঞা পূরণে নয়।

In seinem Artikel vom 11. Oktober 2026 mit dem Titel "'KI' ist kein Werkzeug" argumentiert Rich Hickey, dass große Sprachmodelle (LLMs) Automatisierung und keine Werkzeuge seien, weil sie nicht gehändigt werden könnten. Ich stimme zu, dass das Outsourcing von Arbeit uns Lernmöglichkeiten kosten kann. Doch seine Schlussfolgerung folgt daraus nicht. Selbst nach seiner Definition könnte ein LLM etwas sein, das ein Mensch führen kann. Und es gut zu verwenden erfordert Können, genauso wie die Verwendung anderer Werkzeuge. Eine Säge zu nehmen garantiert keinen geraden Schnitt. Ein Meißel zu halten macht dich noch nicht zu einem Bildhauer. Werkzeuge können schlechte Urteilsfähigkeit genauso leicht verstärken wie gute. Ihre Nützlichkeit hängt davon ab, ob der Bediener sie lenken, das Feedback interpretieren, Fehler erkennen und korrigieren kann. Diese Anforderungen gelten ebenfalls für LLMs.

Die Unvorhersehbarkeit eines LLMs ist eine bedeutende Beschränkung. Aber Vorhersagbarkeit, Zuverlässigkeit, Einfachheit und begrenzte Funktionalität sind Eigenschaften, nach denen wir Werkzeuge bewerten, nicht Voraussetzungen für die Zugehörigkeit zur Kategorie. Ein Werkzeug bleibt ein Werkzeug, auch wenn es schwer zu kontrollieren oder leicht zu missbrauchen ist. Hickeys Unterscheidung zwischen Werkzeugen und Automatisierung erzeugt ebenfalls eine falsche Trennung. Automatisierung kann ein Merkmal eines Werkzeugs sein. Ein Compiler führt umfangreiche Arbeit aus, ohne dass der Programmierer jede Operation kontinuierlich steuern muss. Ein Tabellenblatt berechnet Ergebnisse neu, ohne dass jemand jede Berechnung manuell durchführt. Wir nutzen diese Systeme weiterhin, indem wir Eingaben spezifizieren, Ergebnisse untersuchen und entscheiden, als Nächstes zu tun. Warum sollte die automatische Textgenerierung ein Instrument davon ausschließen, ein Werkzeug zu sein, wenn die automatische Codeübersetzung oder die automatische Zahlenberechnung dies nicht tun?

Die Behauptung, dass die Verwendung von LLMs an Absicht, Feedback, Richtung und Expertise fehle, ist besonders schwer zu verteidigen. Ein Programmierer kann einen LLM bitten, unbekannten Code zu erklären, diese Erklärung anzweifeln, die Quelle zu überprüfen, eine vorgeschlagene Änderung zu testen, sie abzulehnen und die Anfrage zu verfeinern. Das ist eine von einem Menschen geleitete Feedback-Schleife, die einem Zweck folgt. Sie gut auszuführen erfordert das Wissen, was zu fragen ist, welche Beweise wichtig sind und wann die Antwort falsch ist. Expertise kann das Instrument nützlicher machen. Hickeys Bedenken hinsichtlich des Lesens gelten für einen bestimmten Gebrauch: Eine Zusammenfassung anstelle des vollständigen Textes zu lesen kann viel von dem verlieren, was das Lesen lehrt. Aber jemand kann auch den vollständigen Text lesen und einen LLM verwenden, um seine Interpretation zu hinterfragen, Einwände zu erkunden oder etwas zu identifizieren, das näher untersucht werden sollte. Die Möglichkeit, intellektuelle Arbeit zu vermeiden, beweist nicht, dass jede Nutzung sie vermeidet. Die relevante Frage ist, was die Person tatsächlich tut.

Was mich am meisten enttäuscht, ist die Abhängigkeit von der anthropomorphen Vokabel der KI-Industrie: "ausflippen", "aus der Kontainment entkommen", "verschwören". Das Wiederholen dieser Ausdrücke birgt das Risiko, den Rahmen zu akzeptieren, der diese Systeme wie unabhängige Wesen erscheinen lässt. Software kann unerwartete Ausgaben produzieren, Anweisungen nicht befolgen oder Schaden verursachen, wenn ihr Zugang zu bedeutenden Aktionen gewährt wird. Das sind echte Ingenieursprobleme. Sie als "Verschwörung" zu bezeichnen legt eine Andeutung menschlicher Motive nahe, ohne irgendeine zu etablieren. Ich behaupte nicht, dass ein LLM immer genau das tut, was ein Mensch ihm sagt. Es kann eindeutig versagen. Aber das Nicht-perfekte-Obeyen bedeutet nicht, dass es aufhört, ein Werkzeug zu sein, genauso wenig wie ein erfolgreicher Gebrauch beweist, dass der Bediener sein Urteil aufgegeben hat. Die nützliche Unterscheidung besteht zwischen dem Führen eines Instruments mit Können und dem Delegieren von Arbeit ohne ausreichendes Verständnis oder Aufsicht. Diese Unterscheidung gilt auch für KI und gibt uns etwas Praktischeres als die Erklärung, dass eine ganze Klasse von Software kein Werkzeug sein kann.

Schlüsselentitäten: Personen: Rich Hickey

Häufig gestellte Fragen: Können große Sprachmodelle als Werkzeuge betrachtet werden?

Ja. Auch wenn sie unvorhersehbar oder automatisiert sind, bleiben sie Instrumente, die Menschen führen, interpretieren und korrigieren können. Ihre Nützlichkeit hängt vom Können des Bedieners ab, nicht davon, ob sie strengen Definitionen von Einfachheit oder Vorhersagbarkeit entsprechen.

En su artículo del 11 de octubre de 2026, "'AI' No Es una Herramienta", Rich Hickey sostiene que los grandes modelos de lenguaje son automatización en lugar de herramientas porque no pueden ser manejados. Estoy de acuerdo en que externalizar el trabajo puede costarnos oportunidades de aprendizaje. Pero su conclusión no se sigue. Incluso según su definición, un LLM puede ser algo que un humano maneje. Y usarlo bien requiere habilidad, así como usar otras herramientas lo hace. Tomar una sierra no garantiza un corte recto. Sostener un cincel no te convierte en escultor. Las herramientas pueden amplificar el juicio deficiente tanto como el buen juicio. Su utilidad depende de la capacidad del operador para dirigirlas, interpretar el feedback, reconocer errores y hacer correcciones. Esos requisitos también se aplican a los LLMs.

La impredecibilidad de un LLM es una limitación significativa. Pero la previsibilidad, la fiabilidad, la simplicidad y la función acotada son cualidades por las que evaluamos las herramientas, no prerrequisitos para pertenecer a la categoría. Una herramienta no deja de ser una herramienta porque sea difícil de controlar o fácil de mal usar. La distinción de Hickey entre herramientas y automatización también crea una división falsa. La automatización puede ser una característica de una herramienta. Un compilador realiza un trabajo sustancial sin que el programador dirija continuamente cada operación. Una hoja de cálculo recalcula resultados sin que alguien realice manualmente cada cálculo. Todavía manejamos estos sistemas especificando entradas, examinando resultados y decidiendo qué hacer a continuación. ¿Por qué debería la generación automática de texto descalificar a un instrumento de ser una herramienta cuando traducir código o calcular números automáticamente no lo hace?

La afirmación de que el uso de LLM carece de intención, feedback, dirección y experiencia es especialmente difícil de defender. Un programador puede pedirle a un LLM que explique código desconocido, desafiar esa explicación, inspeccionar la fuente, probar un cambio propuesto, rechazarlo y refinar la solicitud. Eso es un bucle de retroalimentación dirigido por un humano que persigue un propósito. Hacerlo bien requiere saber qué preguntar, qué evidencia importa y cuándo la respuesta es incorrecta. La experiencia puede hacer que el instrumento sea más útil. La preocupación de Hickey sobre la lectura es válida para un uso particular: aceptar un resumen en lugar de leer un artículo puede sacrificar mucho de lo que la lectura enseña. Pero alguien también puede leer el artículo y usar un LLM para cuestionar su interpretación, explorar una objeción o identificar algo para examinar más de cerca. La posibilidad de evitar el trabajo intelectual no establece que cada uso lo evite. La pregunta relevante es qué hace realmente la persona.

Lo que más me decepciona es la dependencia del vocabulario antropomórfico de la industria de la IA: "irse fuera de control", "escapar del containment", "conspirar". Repetir esas expresiones corre el riesgo de aceptar el encuadre que hace que estos sistemas suenen como seres independientes. El software puede producir salidas inesperadas, fallar en seguir instrucciones o causar daño cuando se le da acceso a acciones consequenciales. Esos son problemas reales de ingeniería. Llamarlos "conspiración" añade una sugerencia de motivos humanos sin establecer ninguno. No afirmaría que un LLM siempre haga exactamente lo que un humano le dice. Claramente puede fallar. Pero el fallo en obedecer perfectamente no significa que deje de ser una herramienta, así como el uso exitoso no prueba que su operador haya renunciado a su juicio. La distinción útil es entre manejar un instrumento con habilidad y delegar el trabajo sin una comprensión o supervisión adecuadas. Esa distinción se aplica a la IA y nos da algo más práctico que declarar que toda una clase de software no puede ser una herramienta.

Entidades clave: Personas: Rich Hickey

Preguntas frecuentes: ¿Pueden los grandes modelos de lenguaje considerarse herramientas?

Sí. Incluso si son impredecibles o automatizados, siguen siendo instrumentos que los humanos dirigen, interpretan y corrigen. Su utilidad depende de la habilidad del operador, no de cumplir con definiciones estrictas de simplicidad o previsibilidad.

Dans son article du 11 octobre 2026, "'L'IA' n'est pas un outil", Rich Hickey soutient que les grands modèles de langage sont de l'automatisation plutôt que des outils parce qu'ils ne peuvent pas être maniés. Je suis d'accord pour dire que l'externalisation du travail peut nous coûter des occasions d'apprendre. Mais sa conclusion ne découle pas de cela. Même selon sa définition, un LLM peut être quelque chose qu'un humain peut manier. Et bien l'utiliser demande de la compétence, tout comme l'utilisation d'autres outils. Prendre une scie ne garantit pas une coupe droite. Tenir un ciseau ne fait pas de vous un sculpteur. Les outils peuvent amplifier un mauvais jugement aussi facilement qu'un bon jugement. Leur utilité dépend de la capacité de l'opérateur à les diriger, à interpréter les retours, à reconnaître les erreurs et à les corriger. Ces exigences s'appliquent également aux LLM.

L'imprévisibilité d'un LLM est une limite significative. Mais la prévisibilité, la fiabilité, la simplicité et la fonction bornée sont des qualités selon lesquelles nous évaluons les outils, pas des prérequis pour appartenir à la catégorie. Un outil ne cesse pas d'être un outil parce qu'il est difficile à contrôler ou facile à mal utiliser. La distinction de Hickey entre outils et automatisation crée également une fausse division. L'automatisation peut être une caractéristique d'un outil. Un compilateur effectue un travail substantiel sans que le programmeur doive diriger continuellement chaque opération. Une feuille de calcul recalcule les résultats sans que quelqu'un effectue manuellement chaque calcul. Nous maniions encore ces systèmes en spécifiant les entrées, en examinant les résultats et en décidant quoi faire ensuite. Pourquoi la génération automatique de texte devrait-elle disqualifier un instrument d'être un outil alors que la traduction automatique de code ou le calcul automatique de nombres ne le fait pas ?

L'affirmation selon laquelle l'utilisation des LLM manque d'intention, de rétroaction, de direction et d'expertise est particulièrement difficile à défendre. Un programmeur peut demander à un LLM d'expliquer un code inconnu, contester cette explication, examiner la source, tester un changement proposé, le rejeter et affiner la demande. C'est une boucle de rétroaction dirigée par un humain poursuivant un objectif. Bien le faire nécessite de savoir quoi demander, quelles preuves comptent et quand la réponse est fausse. L'expertise peut rendre l'instrument plus utile. La préoccupation de Hickey concernant la lecture est valable pour un usage particulier : accepter un résumé au lieu de lire un article peut sacrifier beaucoup de ce que la lecture enseigne. Mais quelqu'un peut aussi lire l'article et utiliser un LLM pour remettre en question son interprétation, explorer une objection ou identifier quelque chose à examiner de plus près. La possibilité d'éviter un travail intellectuel ne signifie pas que chaque utilisation l'évite. La question pertinente est ce que la personne fait réellement.

Ce qui me déçoit le plus, c'est la dépendance au vocabulaire anthropomorphe de l'industrie de l'IA : "devenir incontrôlable", "échapper au confinement", "comploter". Répéter ces expressions risque d'accepter le cadre qui fait paraître ces systèmes comme des êtres indépendants. Le logiciel peut produire des sorties inattendues, ne pas suivre les instructions ou causer du tort lorsqu'il a accès à des actions conséquentielles. Ce sont de véritables problèmes d'ingénierie. Les appeler "complot" ajoute une suggestion de motifs humains sans en établir aucun. Je ne prétends pas qu'un LLM fasse toujours exactement ce qu'un humain lui dit. Il peut clairement échouer. Mais l'échec à obéir parfaitement ne signifie pas qu'il cesse d'être un outil, tout comme une utilisation réussie ne prouve pas que son opérateur ait abandonné son jugement. La distinction utile est entre manier un instrument avec compétence et déléguer le travail sans compréhension ou supervision adéquates. Cette distinction s'applique à l'IA et nous donne quelque chose de plus pratique que de déclarer qu'une catégorie entière de logiciels ne peut pas être un outil.

Entités clés : Personnes : Rich Hickey

FAQ : Les grands modèles de langage peuvent-ils être considérés comme des outils ?

Oui. Même s'ils sont imprévisibles ou automatisés, ils restent des instruments que les humains dirigent, interprètent et corrigent. Leur utilité dépend de la compétence de l'opérateur, pas de répondre à des définitions strictes de simplicité ou de prévisibilité.

अक्टूबर 11, 2026 के अपने लेख, "'AI' एक उपकरण नहीं है" में, Rich Hickey का तर्क है कि LLMs स्वचालन हैं, उपकरण नहीं, क्योंकि उन्हें हथियाया नहीं जा सकता। मैं सहमत हूं कि काम को आउटसोर्स करने से हमें सीखने के अवसर खोने पड़ सकते हैं। लेकिन उनका निष्कर्ष इस बात से नहीं follows। भले ही उनकी परिभाषा के अनुसार, एक LLM ऐसा कुछ हो सकता है जिसे मनुष्य हथियाए। और इसे अच्छे से उपयोग करने में कौशल की आवश्यकता होती है, जैसे कि अन्य उपकरणों के उपयोग में होती है। एक आरी उठाने से सीधी कटाई की गारंटी नहीं मिलती। एक दज़्ज़ी पकड़ने से आप मूर्तिकार नहीं बन जाते। उपकरण खराब निर्णय को उतनी ही आसानी से बढ़ा सकते हैं जितनी आसानी से वे अच्छे निर्णय को बढ़ा सकते हैं। उनकी उपयोगिता इस बात पर निर्भर करती है कि ऑपरेटर उन्हें कैसे निर्देशित करता है, फीडबैक कैसेinterpret करता है, गलतियों कैसे पहचानता है और उन्हें कैसे सुधारता है। ये आवश्यकताएं LLMs पर भी लागू होती हैं।

एक LLM की अप्रत्याशितार्थकता एक महत्वपूर्ण सीमा है। लेकिन पूर्वानुमेयता, विश्वसनीयता, सरलता और सीमित कार्यक्षमता वे गुण हैं जिनके आधार पर हम उपकरणों का मूल्यांकन करते हैं, उपकरण की श्रेणी में शामिल होने के लिए पूर्वापेक्षा नहीं। एक उपकरण इसलिए उपकरण नहीं रह जाता क्योंकि उसे नियंत्रित करना कठिन है या उसका दुरुपयोग करना आसान है। Hickey का उपकरण और स्वचालन के बीच का अंतर भी एक गलत विभाजन पैदा करता है। स्वचालन एक उपकरण की विशेषता हो सकती है। एक कंपाइलर प्रोग्रामर द्वारा प्रत्येक ऑपरेशन को निरंतर निर्देशित किए बिना भी 상당한 काम करता है। एक स्प्रेडशीट किसी के द्वारा प्रत्येक गणना को हाथ से किए बिना परिणामों का पुनःगणना करती है। हम इन प्रणालियों को इनपुट निर्दिष्ट करके, परिणामों की जांच करके और अगला क्या करना है यह तय करके अभी भी हथियाते हैं। जब कोड का अनुवाद या संख्याओं की गणना स्वचालित रूप से नहीं होती तो एक उपकरण से बाहर क्यों नहीं माना जाता, तो स्वचालित पाठ उत्पादन क्यों एक उपकरण होने से अयोग्य ठहराता है?

LLM के उपयोग में इरादा, फीडबैक, दिशा और विशेषज्ञता की कमी होने का दावा विशेष रूप से बचाव करने में कठिन है। एक प्रोग्रामर एक LLM से अपरिचित कोड की व्याख्या मांग सकता है, उस व्याख्या को चुनौती दे सकता है, स्रोत की जांच कर सकता है, एक प्रस्तावित परिवर्तन का परीक्षण कर सकता है, उसे अस्वीकार कर सकता है और अनुरोध को सुधार सकता है। यह एक मानव द्वारा निर्देशित, उद्देश्यपूर्ण फीडबैक लूप है। इसे अच्छी तरह से करने के लिए जानना आवश्यक है कि क्या पूछना है, कौन सा साक्ष्य मायने रखता है, और जब उत्तर गलत हो तो कब पहचानना है। विशेषज्ञता इस उपकरण को अधिक उपयोगी बना सकती है। Hickey की पढ़ने के संबंध की चिंता एक विशेष उपयोग के लिए वैध है: एक पेपर का सारांश स्वीकार करने के बजाय पूरा पेपर पढ़ने से पढ़ने से मिलने वाली बहुत सी चीजों का त्याग करना पड़ सकता है। लेकिन कोई व्यक्ति पेपर पढ़कर भी LLM का उपयोग अपनी व्याख्या को चुनौती देने, एक आपत्ति का पता लगाने या कुछ ऐसा पहचानने के लिए कर सकता है जिसका अधिक गहराई से निरीक्षण किया जाना चाहिए। बौद्धिक कार्य से बचने की संभावना यह नहीं सिद्ध करती कि हर उपयोग इससे बचता है। प्रासंगिक प्रश्न यह है कि व्यक्ति वास्तव में क्या कर रहा है।

मुझे सबसे अधिक निराश करने वाली बात AI उद्योग के मानवीय शब्दावली पर निर्भर रहना है: "बे-control हो जाना", "containment से बचना", "साजिश करना"। इन अभिव्यक्तियों को दोहराने से हमें वह फ्रेमवर्क स्वीकार करने का जोखिम होता है जो इन प्रणालियों को स्वतंत्र प्राणियों जैसा दिखाता है। सॉफ्टवेयर अपेक्षित नहीं होने वाले आउटपुट उत्पन्न कर सकता है, निर्देशों का पालन नहीं कर सकता है, या जब उसे महत्वपूर्ण कार्यों तक पहुंच दी जाती है तो नुकसान पहुंचा सकता है। ये वास्तविक इंजीनियरिंग समस्याएं हैं। उन्हें "साजिश" कहने से मानवीय प्रेरणा का सुझाव आता है बिना किसी के स्थापित किए। मैं यह नहीं दावा करूंगा कि एक LLM हमेशा मनुष्य द्वारा दिए गए निर्देशों का पालन करता है। यह स्पष्ट रूप से विफल हो सकता है। लेकिन आदेश का पूर्ण पालन न करना इसका मतलब यह नहीं है कि यह उपकरण रहना बंद कर देता है, जैसा कि सफल उपयोग से यह सिद्ध नहीं होता कि इसके ऑपरेटर ने अपना निर्णय छोड़ दिया है। उपयोगी अंतर यह है कि क्या कोई उपकरण कौशल से चलाया जा रहा है या क्या काम उचित समझ या निगरानी के बिना दिया जा रहा है। यह अंतर AI पर भी लागू होता है, और यह हमें एक अधिक व्यावहारिक बात देता है बजाय इसके कि हम घोषणा करें कि सॉफ्टवेयर का एक पूरा वर्ग उपकरण नहीं हो सकता।

मुख्य संस्थाएँ: व्यक्ति: Rich Hickey

अक्सर पूछे जाने वाले प्रश्न: क्या बड़े भाषा मॉडल को उपकरण माना जा सकता है?

हाँ। भले ही वे अनिश्चित या स्वचालित हों, वे अभी भी ऐसे उपकरण हैं जिन्हें मनुष्य निर्देशित, व्याख्या करते हैं और सुधारते हैं। उनकी उपयोगिता ऑपरेटर के कौशल पर निर्भर करती है, न कि सरलता या पूर्वानुमेयता की कड़ी परिभाषाओं को पूरा करने पर।

Dalam artikelnya tanggal 11 Oktober 2026 berjudul "'AI' Bukan Alat", Rich Hickey berargumen bahwa model bahasa besar (LLM) adalah otomatisasi bukan alat karena tidak dapat digenggam. Saya setuju bahwa meng-outsource pekerjaan dapat merugikan kesempatan belajar. Namun, kesimpulannya tidak logis. Bahkan menurut definisinya, sebuah LLM bisa menjadi sesuatu yang dapat digenggam oleh manusia. Dan menggunakkannya dengan baik membutuhkan keterampilan, sama seperti menggunakan alat-alat lain. Menggesek gergaji tidak menjamin potongan lurus. Memegang pahat tidak menjadikan seseorang seorang pahat. Alat dapat memperkuat penilaian buruk secepat memperkuat penilaian baik. Kegunaannya bergantung pada kemampuan operator untuk mengarahkannya, menginterpretasikan umpan balik, mengenali kesalahan, dan melakukan koreksi. Persyaratan ini juga berlaku untuk LLM.

Tidak terduganya sebuah LLM adalah keterbatasan yang bermakna. Namun, keandalan, keandalan, kesederhanaan, dan fungsi terbatas adalah kualitas yang digunakan untuk menilai alat, bukan prasyarat untuk masuk ke kategori tersebut. Sebuah alat tidak berhenti menjadi alat karena sulit dikendalikan atau mudah disalahgunakan. Perbedaan Hickey antara alat dan otomatisasi juga menciptakan pembagian yang salah. Otomatisasi dapat menjadi fitur dari sebuah alat. Sebuah compiler melakukan pekerjaan besar tanpa programmer harus terus-menerus mengendalikan setiap operasi. Sebuah spreadsheet menghitung ulang hasil tanpa seseorang harus secara manual melakukan setiap perhitungan. Kita masih mengendalikan sistem ini dengan menentukan input, memeriksa hasil, dan memutuskan apa yang akan dilakukan selanjutnya. Mengapa pembangkitan teks otomatis harus mengdiskualifikasi sebuah instrumen dari menjadi alat ketika terjemahan kode otomatis atau perhitungan angka otomatis tidak demikian?

Pernyataan bahwa penggunaan LLM kurang niat, umpan balik, arah, dan keahlian sangat sulit untuk dibela. Seorang programmer dapat meminta LLM menjelaskan kode yang tidak dikenal, menantang penjelasan itu, memeriksa sumbernya, menguji perubahan yang diajukan, menolaknya, dan menyempurnakan permintaan. Ini adalah loop umpan balik yang diarahkan oleh manusia yang mengejar suatu tujuan. Melakukannya dengan baik membutuhkan pengetahuan apa yang harus ditanya, bukti apa yang penting, dan kapan jawaban salah. Keahlian dapat membuat instrumen ini lebih berguna. Kekhawatiran Hickey mengenai membaca berlaku untuk penggunaan tertentu: menerima ringkasan alih-alih membaca seluruh artikel dapat mengorbankan banyak hal yang diajarkan oleh membaca. Namun, seseorang juga dapat membaca artikel dan menggunakan LLM untuk mengecek interpretasinya, mengecek keberatan, atau mengidentifikasi sesuatu untuk diperiksa lebih lanjut. Kemungkinan menghindari pekerjaan intelektual tidak membuktikan bahwa setiap penggunaan menghindarinya. Pertanyaan yang relevan adalah apa yang sebenarnya dilakukan orang tersebut.

Yang paling mengecewakan saya adalah ketergantungan pada kosakata antromorfik industri AI: "galak", "melarikan diri dari kontainment", "bersusun-susun". Mengulang ekspresi-ekspresi tersebut berisiko menerima kerangka yang membuat sistem ini terlihat seperti makhluk independen. Perangkat lunak dapat menghasilkan output yang tidak terduga, gagal mengikuti instruksi, atau menyebabkan kerugian ketika diberikan akses ke tindakan yang berkonsekuensi. Ini adalah masalah teknik yang sebenarnya. Menamakan mereka "konspirasi" menambahkan kecurangan akan motif manusia tanpa membuktikan apa pun. Saya tidak akan claiming bahwa LLM selalu melakukan tepat apa yang dikatahui oleh manusia. Ia jelas dapat gagal. Namun, kegagalan untuk mematuhi sempurna tidak berarti ia berhenti menjadi alat, sama seperti penggunaan yang sukses tidak membuktikan bahwa operatornya telah menyerahkan penilaiannya. Perbedaan yang berguna adalah antara mengendalikan instrumen dengan keterampilan dan mendelegasikan pekerjaan tanpa pemahaman atau pengawasan yang cukup. Perbedaan ini juga berlaku untuk AI, dan memberi kita sesuatu yang lebih praktis daripada menyatakan bahwa seluruh kelas perangkat lunak tidak dapat menjadi alat.

Entitas kunci: Orang: Rich Hickey

2026年10月11日の彼の記事、「'AI' はツールではない」で、Rich Hickey は LLM がツールではなく自動化であると主張している。なぜなら、それらは操作できないからだ。仕事をアウトソースすることは学ぶ機会を奪う可能性があることに同意する。しかし、彼の結論はそれに従わない。彼の定義でも、LLM は人間が操作できるものになり得る。そして、それをうまく使うにはスキルが必要であり、他のツールを使うのと同じように。のこぎりを手に取っても真っ直ぐに切れるとは限らない。ノミを握っても彫刻家になれない。ツールは誤った判断も正しい判断も同じように増幅する。その有用性は、オペレーターがそれらをどのように操作し、フィードバックをどのように解釈し、ミスをどのように認識し、どのように修正するかによって決まる。これらの要件は LLM にも適用される。

LLM の予測不能性は意味のある制限である。だが、予測可能性、信頼性、単純さ、限定された機能は、ツールを評価する際の基準であり、ツールのカテゴリーに含まれるための前提条件ではない。ツールは、制御が難しかったり悪用されやすかったりしても、ツールであることに変わりはない。Hickey のツールと自動化の区別もまた、誤った二分を生んでいる。自動化はツールの特徴となり得る。コンパイラはプログラマーが各操作を継続的に指示しなくても相当な仕事を行う。スプレッドシートは誰かが手動で各計算を行わなくても結果を再計算する。私たちは依然として入力を指定し、結果を調べ、次に何をするかを決めることでこれらのシステムを操作している。なぜテキストの自動生成がツールとしての資格を奪うのか、コードの自動翻訳や数値の自動計算がツールとしての資格を奪わないのか？

LLM の使用が意図、フィードバック、方向、専門性を欠いているという主張は、特に擁護するのが難しい。プログラマーは LLM に unfamiliar なコードの説明を求め、その説明に異議を唱え、ソースを検査し、提案された変更をテストし、それを拒否し、リクエストを洗練させることができる。これは人間が目的を持って導くフィードバックループである。これをうまく行うには、何を尋ねるべきか、どの証拠が重要か、そして答えが間違っているときにそれを認識する知識が必要である。専門性はこの楽器をより有用にすることができる。Hickey の読書に関する懸念は特定の使用ケースに対して正当である：論文の要約を読む代わりに実際に論文を読むと、読むことから得られる多くのことを失う可能性がある。しかし、誰かは論文を読んでから LLM を使って自分の解釈に疑問を呈し、異議を探求したり、さらに詳しく調べるべきものを見つけたりすることができる。知的作業を回避する可能性があるからといって、すべての使用がそれを回避するわけではない。関係ある質問は、その人が実際に何をしているかである。

私が最も失望しているのは、AI 業界の人間中心的な語彙への依存だ：「暴走する」、「封じ込めから逃げ出す」、「陰謀を企てる」。これらの表現を繰り返すと、これらのシステムを独立した存在のように見せるフレームワークを受け入れるリスクがある。ソフトウェアは予期しない出力を生み出し、指示に従わなかったり、重大な行動へのアクセスを与えられたときに害を及ぼしたりする。これらは本当のエンジニアリングの問題だ。これを「陰謀」と呼ぶと、人間の動機を示唆するが、それを裏付けるものは何もない。LLM が人間の指示に常に従うわけではないと主張するわけではない。それは確かに失敗することがある。しかし、完全に従わないからといってそれがツールでなくなるわけではないし、成功した使用がオペレーターが判断を委ねたことを証明するわけでもない。有用な区別は、ツールをスキルを持って操作することと、十分な理解や監督なしに仕事を委任することの間にある。この区別は AI にも適用され、ソフトウェアの一クラス全体がツールでないと宣言するよりも実践的なものを与えてくれる。

主要エンティティ: 人物: Rich Hickey

よくある質問: 大規模言語モデルはツールとみなせますか？

はい。予測不能であろうと自動化であろうと、それらは人間が導き、解釈し、修正する楽器です。その有用性は、シンプルさや予測可能性の厳密な定義を満たすかどうかではなく、オペレーターのスキルに依存します。

No artigo de 11 de outubro de 2026, "'IA' Não é uma Ferramenta", Rich Hickey argumenta que os grandes modelos de linguagem são automação e não ferramentas porque não podem ser manejados. Concordo que terceirizar o trabalho pode nos custar oportunidades de aprendizado. Mas sua conclusão não se segue. Mesmo segundo sua definição, um LLM pode ser algo que um humano possa manejar. E usá-lo bem requer habilidade, assim como usar outras ferramentas. Pegar uma serra não garante um corte reto. Segurar um cinzel não faz de você um escultor. Ferramentas podem amplificar julgamento ruim tão facilmente quanto bom julgamento. Sua utilidade depende da capacidade do operador de dirigi-las, interpretar o feedback, reconhecer erros e fazer correções. Esses requisitos também se aplicam aos LLMs.

A imprevisibilidade de um LLM é uma limitação significativa. Mas a previsibilidade, a confiabilidade, a simplicidade e a função limitada são qualidades pelas quais avaliamos ferramentas, não pré-requisitos para pertencimento à categoria. Uma ferramenta deixa de ser uma ferramenta porque é difícil de controlar ou fácil de ser mal utilizada. A distinção de Hickey entre ferramentas e automação também cria uma divisão falsa. A automação pode ser uma característica de uma ferramenta. Um compilador realiza trabalho substancial sem que o programador dirija continuamente cada operação. Uma planilha recalcula resultados sem que alguém execute manualmente cada cálculo. Ainda manejamos esses sistemas especificando entradas, examinando resultados e decidindo o que fazer em seguida. Por que a geração automática de texto deveria desqualificar um instrumento de ser uma ferramenta quando a tradução automática de código ou o cálculo automático de números não o fazem?

A afirmação de que o uso de LLMs carece de intenção, feedback, direção e expertise é especialmente difícil de defender. Um programador pode pedir a um LLM que explique código desconhecido, desafiar essa explicação, inspecionar a fonte, testar uma mudança proposta, rejeitá-la e refinar o pedido. Isso é um loop de feedback dirigido por um humano perseguindo um propósito. Fazê-lo bem requer saber o que perguntar, que evidência importa e quando a resposta está errada. A expertise pode tornar o instrumento mais útil. A preocupação de Hickey com a leitura é válida para um uso específico: aceitar um resumo em vez de ler um artigo pode sacrificar muito do que a leitura ensina. Mas alguém também pode ler o artigo e usar um LLM para questionar sua interpretação, explorar uma objeção ou identificar algo para examinar com mais atenção. A possibilidade de evitar trabalho intelectual não estabelece que todo uso o evite. A pergunta relevante é o que a pessoa realmente faz.

O que mais me decepciona é a dependência do vocabulário antropomórfico da indústria de IA: "ficar fora de controle", "escapar do containment", "conspirar". Repetir essas expressões arrisca aceitar o enquadramento que faz esses sistemas parecerem seres independentes. O software pode produzir saídas inesperadas, falhar em seguir instruções ou causar dano quando tiver acesso a ações consequenciais. Esses são problemas reais de engenharia. Chamá-los de "conspiração" acrescenta uma sugestão de motivos humanos sem estabelecer nenhum. Não afirmaria que um LLM sempre faz exatamente o que um humano lhe diz. Ele claramente pode falhar. Mas a falha em obedecer perfeitamente não significa que ele deixa de ser uma ferramenta, assim como o uso bem-sucedido não prova que seu operador tenha aberto mão de seu julgamento. A distinção útil é entre manejar um instrumento com habilidade e delegar o trabalho sem compreensão ou supervisão adequadas. Essa distinção se aplica à IA e nos dá algo mais prático do que declarar que uma classe inteira de software não pode ser uma ferramenta.

Entidades-chave: Pessoas: Rich Hickey

Perguntas frequentes: Os grandes modelos de linguagem podem ser considerados ferramentas?

Sim. Mesmo que sejam imprevisíveis ou automatizados, eles ainda são instrumentos que os humanos dirigem, interpretam e corrigem. Sua utilidade depende da habilidade do operador, não de atender a definições rígidas de simplicidade ou previsibilidade.

В своей статье от 11 октября 2026 года "'ИИ' не является инструментом" Рич Хикки утверждает, что большие языковые модели (LLM) представляют собой автоматизацию, а не инструменты, потому что ими нельзя манипулировать. Я согласен, что аутсорсинг работы может лишить нас возможностей для обучения. Но его вывод не следует из этого. Даже по его определению, LLM может быть чем-то, чем человек может манипулировать. И использовать его хорошо требует навыка, так же как и использование других инструментов. Взять в руки пилу не гарантирует прямого реза. Держать в руках стамеску не делает вас скульптором. Инструменты могут усиливать плохое суждение так же легко, как и хорошее. Их полезность зависит от способности оператора направлять их, интерпретировать обратную связь, распознавать ошибки и исправлять их. Эти требования также применимы к LLM.

Непредсказуемость LLM является значительным ограничением. Но предсказуемость, надежность, простота и ограниченная функциональность — это качества, по которым мы оцениваем инструменты, а не предпосылки для принадлежности к категории. Инструмент не перестает быть инструментом потому, что им сложно управлять или легко злоупотреблять. Различие Хикки между инструментами и автоматизацией также создает ложное разделение. Автоматизация может быть характеристикой инструмента. Компилятор выполняет существенную работу без необходимости программиста постоянно направлять каждую операцию. Таблица пересчитывает результаты без необходимости кого-то вручную выполнять каждое вычисление. Мы по-прежнему манипулируем этими системами, указывая входные данные, изучая результаты и решая, что делать дальше. Почему автоматическая генерация текста должна дисквалифицировать инструмент как инструмент, когда автоматический перевод кода или автоматический подсчет чисел этого не делают?

Утверждение, что использование LLM лишено намерения, обратной связи, направления и экспертизы, особенно трудно защитить. Программист может попросить LLM объяснить незнакомый код, оспорить это объяснение, проверить источник, протестировать предложенное изменение, отвергнуть его и уточнить запрос. Это обратная связь, направляемая человеком, преследующим цель. Чтобы делать это хорошо, нужно знать, что спрашивать, какие доказательства важны и когда ответ неверен. Экспертиза может сделать инструмент более полезным. Озабоченность Хикки чтением оправдана для определенного использования: принятие резюме вместо чтения статьи может лишить нас многого из того, что дает чтение. Но человек также может прочитать статью и использовать LLM, чтобы оспорить свою интерпретацию, исследовать возражение или определить что-то для более тщательного изучения. Возможность избежать интеллектуальной работы не означает, что каждый ее избегает. Релевантный вопрос — что на самом деле делает человек.

Наиболее меня разочаровывает зависимость от антропоморфной лексики индустрии ИИ: "сойти с ума", "вырваться из containment", "заговорить заговором". Повторение этих выражений рискует принять рамку, которая заставляет эти системы выглядеть как независимые существа. Программное обеспечение может производить неожиданные выходы, не следовать инструкциям или причинять вред при предоставлении доступа к значимым действиям. Это настоящие инженерные проблемы. Называть их "заговором" подразумевает наличие человеческих мотивов без их установления. Я не буду утверждать, что LLM всегда делает точно то, что ему говорит человек. Оно явно может терпеть неудачу. Но неспособность perfectly подчиняться не означает, что оно перестает быть инструментом, так же как успешное использование не доказывает, что его оператор отказался от своего суждения. Полезное различие заключается между владением инструментом с навыком и делегированием работы без достаточного понимания или надзора. Это различие применимо к ИИ и дает нам что-то более практичное, чем заявление о том, что целый класс программного обеспечения не может быть инструментом.

Ключевые сущности: Люди: Rich Hickey

Часто задаваемые вопросы: Можно ли считать большие языковые модели инструментами?

Да. Даже если они непредсказуемы или автоматизированы, они остаются инструментами, которыми люди управляют, интерпретируют и корректируют. Их полезность зависит от навыка оператора, а не от соблюдения строгих определений простоты или предсказуемости.

在他的 2026 年 10 月 11 日的文章《'AI' 不是一种工具》中，Rich Hickey 认为大型语言模型是自动化而非工具，因为它们无法被操作。我同意外包工作可能会让我们失去学习的机会。但他的结论并不成立。即使按照他的定义，大型语言模型也可以是人类操作的对象。并且使用它良好需要技巧，就像使用其他工具一样。拿起锯子并不能保证切出直线。拿着凿子并不会让你成为雕塑家。工具既能放大错误判断，也能放大正确判断。它们的有用性取决于操作者是否能够引导它们、解释反馈、识别错误并进行纠正。这些要求同样适用于大型语言模型。

大型语言模型的不可预测性是一个有意义的局限。但可预测性、可靠性、简单性和有限功能是我们评估工具的标准，而不是成为工具的前提条件。一个工具并不会因为难以控制或易于误用而停止成为工具。Hickey 在工具和自动化之间的区分也制造了一个虚假的二分。自动化可以是工具的一个特性。编译器在程序员不需要持续指导每个操作的情况下完成大量工作。电子表格在无需有人手动进行每次计算的情况下自动重新计算结果。我们仍然通过指定输入、检查结果并决定下一步操作来使用这些系统。为什么自动生成文本会让一个仪器失去工具的资格，而自动翻译代码或计算数字却不会？

声称使用大型语言模型缺乏意图、反馈、方向和专业知识尤其难以辩驳。程序员可以让大型语言模型解释不熟悉的代码，质疑该解释，检查源代码，测试一个提出的更改，拒绝它，并优化请求。这是一个由人类引导、出于目的的反馈循环。要做好这一点，需要知道该问什么、什么证据重要以及何时答案是错误的。专业知识可以让这种仪器更有用。Hickey 对阅读的担忧在特定使用场景下是成立的：接受摘要而不阅读全文可能会失去阅读所带来的很多东西。但有人也可以先阅读全文，然后使用大型语言模型来质疑自己的解释，探索一个异议，或识别出需要更仔细审查的内容。回避智力劳动的可能性并不能证明每种使用都在回避它。相关的问题是这个人实际上做了什么。

让我最失望的是依赖 AI 行业的拟人化词汇：“失控”、“逃脱 containment”、“阴谋”。重复这些表达可能会导致接受一种框架，使这些系统听起来像独立的存在。软件可能产生意外输出、未能遵循指令，或在被授予关键操作访问权时造成伤害。这些是真正的工程问题。称它们为“阴谋”暗示了人类动机，却没有任何依据。我不会声称大型语言模型总是完全按照人类的指令行事。它显然可能失败。但未能完全服从并不意味着它停止成为工具，就像成功使用并不能证明其操作者已经放弃判断一样。有用的区分在于：是熟练地操作工具，还是在缺乏足够理解或监督的情况下委托工作。这一区别同样适用于 AI，并且比宣布整类软件不能成为工具更具实用价值。

关键实体：人物：Rich Hickey

常见问题：大型语言模型可以被视为工具吗？

是的。即使它们不可预测或自动化，它们仍然是人类指导、解释和纠正的工具。它们的有用性取决于操作者的技能，而不是是否满足简单性或可预测性的严格定义。