En su artículo del 11 de octubre de 2026, "'AI' No Es una Herramienta", Rich Hickey sostiene que los grandes modelos de lenguaje son automatización en lugar de herramientas porque no pueden ser manejados. Estoy de acuerdo en que externalizar el trabajo puede costarnos oportunidades de aprendizaje. Pero su conclusión no se sigue. Incluso según su definición, un LLM puede ser algo que un humano maneje. Y usarlo bien requiere habilidad, así como usar otras herramientas lo hace. Tomar una sierra no garantiza un corte recto. Sostener un cincel no te convierte en escultor. Las herramientas pueden amplificar el juicio deficiente tanto como el buen juicio. Su utilidad depende de la capacidad del operador para dirigirlas, interpretar el feedback, reconocer errores y hacer correcciones. Esos requisitos también se aplican a los LLMs.
La impredecibilidad de un LLM es una limitación significativa. Pero la previsibilidad, la fiabilidad, la simplicidad y la función acotada son cualidades por las que evaluamos las herramientas, no prerrequisitos para pertenecer a la categoría. Una herramienta no deja de ser una herramienta porque sea difícil de controlar o fácil de mal usar. La distinción de Hickey entre herramientas y automatización también crea una división falsa. La automatización puede ser una característica de una herramienta. Un compilador realiza un trabajo sustancial sin que el programador dirija continuamente cada operación. Una hoja de cálculo recalcula resultados sin que alguien realice manualmente cada cálculo. Todavía manejamos estos sistemas especificando entradas, examinando resultados y decidiendo qué hacer a continuación. ¿Por qué debería la generación automática de texto descalificar a un instrumento de ser una herramienta cuando traducir código o calcular números automáticamente no lo hace?
La afirmación de que el uso de LLM carece de intención, feedback, dirección y experiencia es especialmente difícil de defender. Un programador puede pedirle a un LLM que explique código desconocido, desafiar esa explicación, inspeccionar la fuente, probar un cambio propuesto, rechazarlo y refinar la solicitud. Eso es un bucle de retroalimentación dirigido por un humano que persigue un propósito. Hacerlo bien requiere saber qué preguntar, qué evidencia importa y cuándo la respuesta es incorrecta. La experiencia puede hacer que el instrumento sea más útil. La preocupación de Hickey sobre la lectura es válida para un uso particular: aceptar un resumen en lugar de leer un artículo puede sacrificar mucho de lo que la lectura enseña. Pero alguien también puede leer el artículo y usar un LLM para cuestionar su interpretación, explorar una objeción o identificar algo para examinar más de cerca. La posibilidad de evitar el trabajo intelectual no establece que cada uso lo evite. La pregunta relevante es qué hace realmente la persona.
Lo que más me decepciona es la dependencia del vocabulario antropomórfico de la industria de la IA: "irse fuera de control", "escapar del containment", "conspirar". Repetir esas expresiones corre el riesgo de aceptar el encuadre que hace que estos sistemas suenen como seres independientes. El software puede producir salidas inesperadas, fallar en seguir instrucciones o causar daño cuando se le da acceso a acciones consequenciales. Esos son problemas reales de ingeniería. Llamarlos "conspiración" añade una sugerencia de motivos humanos sin establecer ninguno. No afirmaría que un LLM siempre haga exactamente lo que un humano le dice. Claramente puede fallar. Pero el fallo en obedecer perfectamente no significa que deje de ser una herramienta, así como el uso exitoso no prueba que su operador haya renunciado a su juicio. La distinción útil es entre manejar un instrumento con habilidad y delegar el trabajo sin una comprensión o supervisión adecuadas. Esa distinción se aplica a la IA y nos da algo más práctico que declarar que toda una clase de software no puede ser una herramienta.
Entidades clave: Personas: Rich Hickey
Preguntas frecuentes: ¿Pueden los grandes modelos de lenguaje considerarse herramientas?
Sí. Incluso si son impredecibles o automatizados, siguen siendo instrumentos que los humanos dirigen, interpretan y corrigen. Su utilidad depende de la habilidad del operador, no de cumplir con definiciones estrictas de simplicidad o previsibilidad.
Fuente: Hacker News · Resumido por HeadlinesBriefing