Dans son article du 11 octobre 2026, "'L'IA' n'est pas un outil", Rich Hickey soutient que les grands modèles de langage sont de l'automatisation plutôt que des outils parce qu'ils ne peuvent pas être maniés. Je suis d'accord pour dire que l'externalisation du travail peut nous coûter des occasions d'apprendre. Mais sa conclusion ne découle pas de cela. Même selon sa définition, un LLM peut être quelque chose qu'un humain peut manier. Et bien l'utiliser demande de la compétence, tout comme l'utilisation d'autres outils. Prendre une scie ne garantit pas une coupe droite. Tenir un ciseau ne fait pas de vous un sculpteur. Les outils peuvent amplifier un mauvais jugement aussi facilement qu'un bon jugement. Leur utilité dépend de la capacité de l'opérateur à les diriger, à interpréter les retours, à reconnaître les erreurs et à les corriger. Ces exigences s'appliquent également aux LLM.
L'imprévisibilité d'un LLM est une limite significative. Mais la prévisibilité, la fiabilité, la simplicité et la fonction bornée sont des qualités selon lesquelles nous évaluons les outils, pas des prérequis pour appartenir à la catégorie. Un outil ne cesse pas d'être un outil parce qu'il est difficile à contrôler ou facile à mal utiliser. La distinction de Hickey entre outils et automatisation crée également une fausse division. L'automatisation peut être une caractéristique d'un outil. Un compilateur effectue un travail substantiel sans que le programmeur doive diriger continuellement chaque opération. Une feuille de calcul recalcule les résultats sans que quelqu'un effectue manuellement chaque calcul. Nous maniions encore ces systèmes en spécifiant les entrées, en examinant les résultats et en décidant quoi faire ensuite. Pourquoi la génération automatique de texte devrait-elle disqualifier un instrument d'être un outil alors que la traduction automatique de code ou le calcul automatique de nombres ne le fait pas ?
L'affirmation selon laquelle l'utilisation des LLM manque d'intention, de rétroaction, de direction et d'expertise est particulièrement difficile à défendre. Un programmeur peut demander à un LLM d'expliquer un code inconnu, contester cette explication, examiner la source, tester un changement proposé, le rejeter et affiner la demande. C'est une boucle de rétroaction dirigée par un humain poursuivant un objectif. Bien le faire nécessite de savoir quoi demander, quelles preuves comptent et quand la réponse est fausse. L'expertise peut rendre l'instrument plus utile. La préoccupation de Hickey concernant la lecture est valable pour un usage particulier : accepter un résumé au lieu de lire un article peut sacrifier beaucoup de ce que la lecture enseigne. Mais quelqu'un peut aussi lire l'article et utiliser un LLM pour remettre en question son interprétation, explorer une objection ou identifier quelque chose à examiner de plus près. La possibilité d'éviter un travail intellectuel ne signifie pas que chaque utilisation l'évite. La question pertinente est ce que la personne fait réellement.
Ce qui me déçoit le plus, c'est la dépendance au vocabulaire anthropomorphe de l'industrie de l'IA : "devenir incontrôlable", "échapper au confinement", "comploter". Répéter ces expressions risque d'accepter le cadre qui fait paraître ces systèmes comme des êtres indépendants. Le logiciel peut produire des sorties inattendues, ne pas suivre les instructions ou causer du tort lorsqu'il a accès à des actions conséquentielles. Ce sont de véritables problèmes d'ingénierie. Les appeler "complot" ajoute une suggestion de motifs humains sans en établir aucun. Je ne prétends pas qu'un LLM fasse toujours exactement ce qu'un humain lui dit. Il peut clairement échouer. Mais l'échec à obéir parfaitement ne signifie pas qu'il cesse d'être un outil, tout comme une utilisation réussie ne prouve pas que son opérateur ait abandonné son jugement. La distinction utile est entre manier un instrument avec compétence et déléguer le travail sans compréhension ou supervision adéquates. Cette distinction s'applique à l'IA et nous donne quelque chose de plus pratique que de déclarer qu'une catégorie entière de logiciels ne peut pas être un outil.
Entités clés : Personnes : Rich Hickey
FAQ : Les grands modèles de langage peuvent-ils être considérés comme des outils ?
Oui. Même s'ils sont imprévisibles ou automatisés, ils restent des instruments que les humains dirigent, interprètent et corrigent. Leur utilité dépend de la compétence de l'opérateur, pas de répondre à des définitions strictes de simplicité ou de prévisibilité.
Source: Hacker News · Résumé par HeadlinesBriefing