HeadlinesBriefing favicon HeadlinesBriefing.com

Fireworks запускает Ember-1: Эффективная модель Kimi K3

Hacker News •
×

Ember-1 — это новая специализированная модель от Fireworks Research, которая обеспечивает качество Kimi K3 с 40% меньше токенов. Построенная на базе Kimi K3, она научилась сокращать ненужные рассуждения, сохраняя при этом необходимые мысли. Проверенная на внешних эталонах, живых A/B-тестах клиентов и внутренних задачах по программированию и работе агентов, качество осталось неизменным. Доступная сегодня, Ember-1 запускает серию специализированных моделей, созданных по потребностям разработчиков. Fireworks Research разработала Ember-1 после того, как пользователи попросили предоставить возможности программирования Kimi K3 по более низкой цене, поскольку длинные цепочки рассуждений сделали автоматизированное программирование дорогим в масштабе. Снижение параметров усилия требовало слишком большой жертвы в качествее, поэтому команда сосредоточилась на обучении модели более эффективному рассуждению. Более 50 экспериментов по обучению и 200 оценок были проведены, что привело к новым алгоритмам обучения, сокращающим рассуждения без потери точности. Обучение проходило на платформе Fireworks Serverless Training, что позволило быстро экспериментировать, использовать оплату по факту использования и ускорить циклы от исследования до запуска. Ember-1 была оценена на разнообразных задачах, чтобы гарантировать, что экономия токенов переносится на различные типы нагрузок, а затем проверена на Specialized Intelligence Index, публичных эталонах и живом производственном трафике. Модель решает проблему неэффективности в моделях рассуждений, таких как Kimi K3, которые тратят более 90% токенов на внутренние рассуждения, а не на ответы. Это становится дорого в многократных нагрузках на агентов, где предыдущие рассуждения повторно читаются и оплачиваются.

Ember-1 сохраняет полезные саморефлексии, устраняя избыточные рассуждения, используя обратную связь от задач и окружающей среды для изучения эффективных рассуждений. Обучение охватывало математику, программирование, выполнение инструкций, диалог, поиск, использование инструментов и программную инженерию, включая расширенные взаимодействия. Результаты подтверждают сохранение качества на семи эталонах и в производственном трафике двух клиентов.