HeadlinesBriefing HeadlinesBriefing.com

Maxwell: um novo modelo de execução de código

Hacker News •
×

O Maxwell é um novo tipo de modelo de fronteira da doubleAI, que a empresa chama de modelo de execução de código. Ele fica entre o código e o hardware, fazendo os programas rodarem mais rápido enquanto executam, sem que ninguém altere uma única linha de código e sem intervenção humana.

Ao contrário das ferramentas convencionais, o Maxwell observa os programas por dentro, usando traces, informações de profiling e os dados que fluem por eles. Ele se adapta dinamicamente ao ambiente, incluindo o hardware, outras cargas de trabalho em execução e o formato das entradas. A empresa argumenta que a abordagem atual, em que ferramentas como Claude ou Codex e engenheiros humanos reotimizam repetidamente o código para cada cenário de hardware e dados, é desnecessária, subótima e não escala.

O Maxwell acompanha um programa enquanto ele roda, reescreve o binário para se ajustar àquela máquina e àqueles dados exatos e prova formalmente que cada melhoria é equivalente ao código original. Quando reúne dados de execução suficientes, ele substitui essas otimizações enquanto o programa continua em execução. Funciona tanto em CPUs quanto em GPUs.

A empresa relata pipelines de processamento de dados 38 vezes mais rápidos e kernels de inferência de IA 4,25 vezes mais rápidos. Em um caso em destaque, o Maxwell tornou a geração de vídeo 4K do LTX-2.5 quase duas vezes mais rápida e, em um teste de conversão de fala em texto com o Whisper em uma RTX 4090, reduziu o tempo de execução de 106,23 segundos para 49,82 segundos. O acesso antecipado está aberto em heymaxwell.ai.

Fonte: Hacker News · Resumido por HeadlinesBriefing