A Inception apresentou o Mercury 3, que descreve como o LLM baseado em difusão mais capaz lançado até hoje. Em uma série de benchmarks, o Mercury 3 supera o GPT-6 Luna e o Claude Haiku 5.5 e roda de 4 a 8 vezes mais rápido, a 1.068 tokens por segundo em GPUs NVIDIA. O modelo é mais de 40 vezes maior que o Mercury 1 e muito mais inteligente, ainda que igualmente rápido. Sua janela de contexto cresceu para 1 milhão de tokens, ante 260 mil do Mercury 2.5.
O preço é de US$ 0,20 por milhão de tokens de entrada e US$ 0,70 por milhão de tokens de saída. No lançamento, o Mercury 3 tem 50% de desconto, ficando em US$ 0,10 por 1 milhão de tokens de entrada e US$ 0,35 por 1 milhão de tokens de saída. Os tokens em cache têm 90% de desconto sobre o preço de entrada. A empresa afirma que as leis de escalonamento que impulsionaram o progresso dos modelos autorregressivos também valem para a difusão, e que a inteligência em benchmarks padronizados subiu 3 vezes do Mercury 1 (mini) para o Mercury 3.
Parceiros de acesso antecipado já usam o Mercury 3 em trabalhos sensíveis à latência. Em um teste, um agente de navegação baseado no Mercury 3 concluiu 50% de 50 tarefas de navegação ao vivo do Mind2Web, bem mais do que o GPT-6.1-Sol, por uma fração do custo por token. Outros parceiros relatam desempenho quase em tempo real na educação interativa, onde dicas e feedbacks agora chegam em cerca de um segundo, e na busca em tempo real, em que a Octen mediu um tempo mediano de geração de 0,9 segundo e uma resposta mediana de ponta a ponta de 2,2 segundos.
Equipes de suporte também estão adotando o modelo. A Lorikeet usa o Mercury para manter precisas as respostas conversacionais a clientes de empresas reguladas, onde uma resposta errada é cara.
Fonte: Hacker News · Resumido por HeadlinesBriefing