В своей статье от 11 октября 2026 года "'ИИ' не является инструментом" Рич Хикки утверждает, что большие языковые модели (LLM) представляют собой автоматизацию, а не инструменты, потому что ими нельзя манипулировать. Я согласен, что аутсорсинг работы может лишить нас возможностей для обучения. Но его вывод не следует из этого. Даже по его определению, LLM может быть чем-то, чем человек может манипулировать. И использовать его хорошо требует навыка, так же как и использование других инструментов. Взять в руки пилу не гарантирует прямого реза. Держать в руках стамеску не делает вас скульптором. Инструменты могут усиливать плохое суждение так же легко, как и хорошее. Их полезность зависит от способности оператора направлять их, интерпретировать обратную связь, распознавать ошибки и исправлять их. Эти требования также применимы к LLM.
Непредсказуемость LLM является значительным ограничением. Но предсказуемость, надежность, простота и ограниченная функциональность — это качества, по которым мы оцениваем инструменты, а не предпосылки для принадлежности к категории. Инструмент не перестает быть инструментом потому, что им сложно управлять или легко злоупотреблять. Различие Хикки между инструментами и автоматизацией также создает ложное разделение. Автоматизация может быть характеристикой инструмента. Компилятор выполняет существенную работу без необходимости программиста постоянно направлять каждую операцию. Таблица пересчитывает результаты без необходимости кого-то вручную выполнять каждое вычисление. Мы по-прежнему манипулируем этими системами, указывая входные данные, изучая результаты и решая, что делать дальше. Почему автоматическая генерация текста должна дисквалифицировать инструмент как инструмент, когда автоматический перевод кода или автоматический подсчет чисел этого не делают?
Утверждение, что использование LLM лишено намерения, обратной связи, направления и экспертизы, особенно трудно защитить. Программист может попросить LLM объяснить незнакомый код, оспорить это объяснение, проверить источник, протестировать предложенное изменение, отвергнуть его и уточнить запрос. Это обратная связь, направляемая человеком, преследующим цель. Чтобы делать это хорошо, нужно знать, что спрашивать, какие доказательства важны и когда ответ неверен. Экспертиза может сделать инструмент более полезным. Озабоченность Хикки чтением оправдана для определенного использования: принятие резюме вместо чтения статьи может лишить нас многого из того, что дает чтение. Но человек также может прочитать статью и использовать LLM, чтобы оспорить свою интерпретацию, исследовать возражение или определить что-то для более тщательного изучения. Возможность избежать интеллектуальной работы не означает, что каждый ее избегает. Релевантный вопрос — что на самом деле делает человек.
Наиболее меня разочаровывает зависимость от антропоморфной лексики индустрии ИИ: "сойти с ума", "вырваться из containment", "заговорить заговором". Повторение этих выражений рискует принять рамку, которая заставляет эти системы выглядеть как независимые существа. Программное обеспечение может производить неожиданные выходы, не следовать инструкциям или причинять вред при предоставлении доступа к значимым действиям. Это настоящие инженерные проблемы. Называть их "заговором" подразумевает наличие человеческих мотивов без их установления. Я не буду утверждать, что LLM всегда делает точно то, что ему говорит человек. Оно явно может терпеть неудачу. Но неспособность perfectly подчиняться не означает, что оно перестает быть инструментом, так же как успешное использование не доказывает, что его оператор отказался от своего суждения. Полезное различие заключается между владением инструментом с навыком и делегированием работы без достаточного понимания или надзора. Это различие применимо к ИИ и дает нам что-то более практичное, чем заявление о том, что целый класс программного обеспечения не может быть инструментом.
Ключевые сущности: Люди: Rich Hickey
Часто задаваемые вопросы: Можно ли считать большие языковые модели инструментами?
Да. Даже если они непредсказуемы или автоматизированы, они остаются инструментами, которыми люди управляют, интерпретируют и корректируют. Их полезность зависит от навыка оператора, а не от соблюдения строгих определений простоты или предсказуемости.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing