Inception hat Mercury 3 vorgestellt, das das Unternehmen als leistungsfähigstes bisher veröffentlichtes diffusionsbasiertes LLM bezeichnet. In einer Reihe von Benchmarks übertrifft Mercury 3 GPT-6 Luna und Claude Haiku 5.5 und arbeitet dabei 4- bis 8-mal schneller, mit 1.068 Token pro Sekunde auf NVIDIA-GPUs. Das Modell ist mehr als 40-mal größer als Mercury 1 und deutlich intelligenter, dabei aber genauso schnell. Sein Kontextfenster wuchs von 260.000 Token bei Mercury 2.5 auf 1 Million Token.
Der Preis liegt bei 0,20 US-Dollar pro einer Million Eingabe-Token und 0,70 US-Dollar pro einer Million Ausgabe-Token. Zum Start ist Mercury 3 um 50 Prozent reduziert, also 0,10 US-Dollar pro 1 Million Eingabe-Token und 0,35 US-Dollar pro 1 Million Ausgabe-Token. Zwischengespeicherte Token kosten 90 Prozent weniger als der Eingabepreis. Das Unternehmen erklärt, dass die Skalierungsgesetze, die den Fortschritt autoregressiver Modelle vorangetrieben haben, auch für Diffusionsmodelle gelten, und dass die Intelligenz in Standard-Benchmarks von Mercury 1 (mini) zu Mercury 3 um das Dreifache gestiegen sei.
Frühe Zugangspartner nutzen Mercury 3 bereits für latenzkritische Aufgaben. In einem Test schloss ein auf Mercury 3 basierender Browser-Agent 50 % von 50 Live-Navigationsaufgaben aus Mind2Web ab, deutlich mehr als GPT-6.1-Sol und zu einem Bruchteil der Kosten pro Token. Andere Partner berichten von nahezu Echtzeit-Leistung in der interaktiven Bildung, wo Hinweise und Rückmeldungen nun in etwa einer Sekunde erscheinen, und in der Echtzeitsuche, wo Octen eine mediane Generierungszeit von 0,9 Sekunden und eine mediane Ende-zu-Ende-Antwortzeit von 2,2 Sekunden maß.
Auch Support-Teams setzen das Modell ein. Lorikeet nutzt Mercury, um dialogbasierte Kundenantworten für regulierte Branchen korrekt zu halten, wo eine falsche Antwort teuer ist.
Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing