Вытаскивая этот твит из апреля, потому что разрыв в общем понимании возможностей LLM *расширяется*. Теперь это уже не "две группы людей, говорящие в разных направлениях", а резкий воронка. Приблизительные расчеты показывают, что около 6 миллиардов человек (примерно 75% населения) едва сталкивались с LLM. Около 1–2 миллиардов (примерно 20%) — пользователи редко и нерегулярно бесплатных продуктов вроде ChatGPT. Эта группа видит неидеальные чат-боты и рассматривает их как улучшенный Google Search, помощник для написания или иное. Возможно, агент пытается забронировать вам билет. У моих нетех-друзей (разумно, по моему мнению) говорят, что им мало в чём польза. Многие профессионалы вне математики и программирования находятся в этом уровне. Например, исполнительные директора и другие функции тратят много времени на общение с другими людьми, поэтому, хотя они интеллектуально понимают, что происходит, это всё равно второстепенно и абстрактно. Теперь мы переходим к профессиональному использованию передовых LLM в математике и программировании. Около 20 миллионов человек (0,2%) видят в первую очередь, что сложные проекты, которые раньше занимали недели или месяцы, теперь могут быть выполнены агентами одной командой. Создание приложений, копирование приложений, перевод приложений, декомпиляция приложений из бинарных файлов... Всё это произошло очень быстро и недавно — менее года назад я вручную писал код, вводя запомненные команды в редактор символ за символом, иногда нажимая Tab для автодополнения небольшого фрагмента кода. И наконец, ~5000 человек (0,00006%) имеют доступ к передовым системам внутри. Внешний мир видел предварительный просмотр, который выглядит как стаи тысяч агентов, сотрудничающих в течение недель над крупными программными проектами: обнаружение уязвимостей нулевого дня, проведение кибератак и обороны со скоростью машины, открытие новых наук, продвижение границ математики. То, что раньше занимало у лучших профессионалов отрасли годы, теперь происходит. При этом человеческий обзор и понимание начинают отставать. Например, люди всё ещё заняты "археологией" инцидента OpenAI-HF, произошедшего несколько месяцев назад. Математики могут долго изучать 722 передовых математических рукописей. Воронка движется под воздействием комбинации факторов:1. Влияние растёт с амбициями, размером проблемы и горизонтом. Вопрос с ответом в виде абзаца не напрягает систему сильно. Нужно резервуар больших и сложных проблем, которые действительно вас интересуют. Это аспект, который движет потребительской/профессиональной стороной воронки.2. Неровность системы (о которой я писал много отдельно). Способность пик в цифровых, проверяемых и экономически ценных областях. Это потому, что способность LLM возникает из обучения с подкреплением на проверяемых наградах в курируемом смеси среды, движемого доходным потенциалом. Это аспект, который в основном движет стороной области (например, математика и программирование) воронки.3. Доступ. Бесплатный, платный, внутренний. Поэтому эта странная эпоха. Общество в целом в основном не взаимодействовало с этими системами. Когда они взаимодействовали, это выглядело как неидеальный чат-бот. Большинство профессионалов видят лишь незначительное улучшение. И небольшая группа профессионалов переживает головокружение от вертикального подъёма кривой. Всё это происходит одновременно.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing