2026年10月11日の彼の記事、「'AI' はツールではない」で、Rich Hickey は LLM がツールではなく自動化であると主張している。なぜなら、それらは操作できないからだ。仕事をアウトソースすることは学ぶ機会を奪う可能性があることに同意する。しかし、彼の結論はそれに従わない。彼の定義でも、LLM は人間が操作できるものになり得る。そして、それをうまく使うにはスキルが必要であり、他のツールを使うのと同じように。のこぎりを手に取っても真っ直ぐに切れるとは限らない。ノミを握っても彫刻家になれない。ツールは誤った判断も正しい判断も同じように増幅する。その有用性は、オペレーターがそれらをどのように操作し、フィードバックをどのように解釈し、ミスをどのように認識し、どのように修正するかによって決まる。これらの要件は LLM にも適用される。
LLM の予測不能性は意味のある制限である。だが、予測可能性、信頼性、単純さ、限定された機能は、ツールを評価する際の基準であり、ツールのカテゴリーに含まれるための前提条件ではない。ツールは、制御が難しかったり悪用されやすかったりしても、ツールであることに変わりはない。Hickey のツールと自動化の区別もまた、誤った二分を生んでいる。自動化はツールの特徴となり得る。コンパイラはプログラマーが各操作を継続的に指示しなくても相当な仕事を行う。スプレッドシートは誰かが手動で各計算を行わなくても結果を再計算する。私たちは依然として入力を指定し、結果を調べ、次に何をするかを決めることでこれらのシステムを操作している。なぜテキストの自動生成がツールとしての資格を奪うのか、コードの自動翻訳や数値の自動計算がツールとしての資格を奪わないのか？
LLM の使用が意図、フィードバック、方向、専門性を欠いているという主張は、特に擁護するのが難しい。プログラマーは LLM に unfamiliar なコードの説明を求め、その説明に異議を唱え、ソースを検査し、提案された変更をテストし、それを拒否し、リクエストを洗練させることができる。これは人間が目的を持って導くフィードバックループである。これをうまく行うには、何を尋ねるべきか、どの証拠が重要か、そして答えが間違っているときにそれを認識する知識が必要である。専門性はこの楽器をより有用にすることができる。Hickey の読書に関する懸念は特定の使用ケースに対して正当である：論文の要約を読む代わりに実際に論文を読むと、読むことから得られる多くのことを失う可能性がある。しかし、誰かは論文を読んでから LLM を使って自分の解釈に疑問を呈し、異議を探求したり、さらに詳しく調べるべきものを見つけたりすることができる。知的作業を回避する可能性があるからといって、すべての使用がそれを回避するわけではない。関係ある質問は、その人が実際に何をしているかである。
私が最も失望しているのは、AI 業界の人間中心的な語彙への依存だ：「暴走する」、「封じ込めから逃げ出す」、「陰謀を企てる」。これらの表現を繰り返すと、これらのシステムを独立した存在のように見せるフレームワークを受け入れるリスクがある。ソフトウェアは予期しない出力を生み出し、指示に従わなかったり、重大な行動へのアクセスを与えられたときに害を及ぼしたりする。これらは本当のエンジニアリングの問題だ。これを「陰謀」と呼ぶと、人間の動機を示唆するが、それを裏付けるものは何もない。LLM が人間の指示に常に従うわけではないと主張するわけではない。それは確かに失敗することがある。しかし、完全に従わないからといってそれがツールでなくなるわけではないし、成功した使用がオペレーターが判断を委ねたことを証明するわけでもない。有用な区別は、ツールをスキルを持って操作することと、十分な理解や監督なしに仕事を委任することの間にある。この区別は AI にも適用され、ソフトウェアの一クラス全体がツールでないと宣言するよりも実践的なものを与えてくれる。
主要エンティティ: 人物: Rich Hickey
よくある質問: 大規模言語モデルはツールとみなせますか？
はい。予測不能であろうと自動化であろうと、それらは人間が導き、解釈し、修正する楽器です。その有用性は、シンプルさや予測可能性の厳密な定義を満たすかどうかではなく、オペレーターのスキルに依存します。
出典: Hacker News · 要約：HeadlinesBriefing