Maxwell是doubleAI推出的一种全新前沿模型,该公司将其称为代码执行模型。它位于代码与硬件之间,可在程序运行期间使其运行得更快,无需任何人修改一行代码,也无需人工参与。
与传统工具不同,Maxwell从程序内部观察程序,利用执行轨迹、性能分析信息以及流经程序的数据。它会动态适应环境,包括硬件、其他正在运行的工作负载以及输入数据的形态。该公司认为,目前的做法是由Claude或Codex等工具和人类工程师针对每种硬件和数据场景反复重新优化代码,这种做法既无必要、效果欠佳,也无法规模化。
Maxwell在程序运行时对其进行监控,针对该特定机器和数据重写二进制代码,并以形式化方法证明每项改进与原始代码等价。一旦收集到足够的运行时数据,它就会在程序持续运行的同时换入这些优化。它同时适用于CPU和GPU。
该公司报告称,数据处理流水线的速度提升了38倍,AI推理内核的速度提升了4.25倍。在一个重点案例中,Maxwell使LTX-2.5的4K视频生成速度几乎提高了一倍;在RTX 4090上进行的Whisper语音转文字测试中,运行时间从106.23秒缩短至49.82秒。Maxwell现已开放抢先体验,网址为heymaxwell.ai。
来源: Hacker News · 由HeadlinesBriefing整理摘要