Inception представила Mercury 3, которую компания называет самой мощной из выпущенных на сегодня диффузионных LLM. В ряде бенчмарков Mercury 3 превосходит GPT-6 Luna и Claude Haiku 5.5, при этом работает в 4–8 раз быстрее — 1 068 токенов в секунду на GPU NVIDIA. Модель более чем в 40 раз больше Mercury 1 и значительно умнее, оставаясь при этом такой же быстрой. Её контекстное окно выросло до 1 млн токенов с 260 тыс. у Mercury 2.5.
Стоимость составляет $0,20 за миллион входных токенов и $0,70 за миллион выходных токенов. На старте Mercury 3 продаётся со скидкой 50%: $0,10 за миллион входных и $0,35 за миллион выходных токенов. Кэшированные токены дешевле входной цены на 90%. Компания заявляет, что законы масштабирования, двигавшие прогресс авторегрессионных моделей, справедливы и для диффузии, а интеллект на стандартных бенчмарках вырос в 3 раза от Mercury 1 (mini) до Mercury 3.
Партнёры раннего доступа уже используют Mercury 3 для задач, чувствительных к задержкам. В одном тесте агент для работы с браузером на базе Mercury 3 выполнил 50% из 50 реальных навигационных задач Mind2Web, что заметно лучше GPT-6.1-Sol и при доле стоимости за токен. Другие партнёры сообщают о почти реальном времени в интерактивном обучении, где подсказки и обратная связь теперь приходят примерно за секунду, и в поиске в реальном времени: Octen зафиксировала медианное время генерации 0,9 секунды и медианный сквозной отклик 2,2 секунды.
Службы поддержки тоже внедряют модель. Lorikeet использует Mercury, чтобы обеспечивать точность диалоговых ответов клиентам регулируемых отраслей, где ошибочный ответ обходится дорого.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing