Maxwell — это новый тип передовой модели от doubleAI, которую компания называет моделью выполнения кода. Она находится между кодом и оборудованием и ускоряет программы во время их работы, при этом никто не меняет ни одной строки кода и человек не вмешивается в процесс.
В отличие от традиционных инструментов, Maxwell смотрит на программы изнутри, используя трассировки, данные профилирования и информацию о данных, проходящих через них. Он динамически адаптируется к окружению, включая оборудование, другие выполняющиеся нагрузки и структуру входных данных. Компания утверждает, что нынешний подход, при котором такие инструменты, как Claude или Codex, и инженеры снова и снова переоптимизируют код для каждого сценария оборудования и данных, является ненужным, неоптимальным и не масштабируется.
Maxwell наблюдает за программой во время её работы, переписывает бинарный код под конкретную машину и данные и формально доказывает, что каждое улучшение эквивалентно исходному коду. Собрав достаточно данных о выполнении, он внедряет эти оптимизации, пока программа продолжает работать. Он работает как на CPU, так и на GPU.
Компания сообщает о конвейерах обработки данных, которые работают в 38 раз быстрее, и ядрах инференса ИИ, которые работают в 4,25 раза быстрее. В одном из показательных примеров Maxwell почти вдвое ускорил генерацию 4K-видео в LTX-2.5, а в тесте преобразования речи в текст Whisper на RTX 4090 сократил время выполнения с 106,23 до 49,82 секунды. Ранний доступ открыт на сайте heymaxwell.ai.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing