Ein reproduzierbarer Benchmark auf GitHub zeigt, dass die Aufforderung an LLMs, im cablese-Stil zu schreiben—dem knappen, kleingeschriebenen Stil von Telegrammen des 19. Jahrhunderts—zu einer Einsparung von 40–49% an Tokens führt, ohne das downstream-Verständnis zu beeinträchtigen. Bei Verwendung eines Benchmarks mit 50 Passagen und etwa 1.300 Fragen stellte die Studie fest, dass Modelle wie gemma-4-31b, qwen3.8-27b und GLM-5.3-Flash bei der Lektüre komprimierter Aufzeichnungen gegenüber Flachtext alle Wiederherstellungsquoten zwischen 0.99 und 1.10 erreichen.
Der Schlüssel besteht in einer einzelnen Kleinbuchstaben-Anweisung: Ohne sie fallen die Modelle auf ALLE GROSSBUCHSTABEN zurück, was zu einem Verlust von 14–19 Genauigkeitspunkten führt. Notably kann gpt-5-mini das Reasoning nicht deaktivieren, wodurch sich seine Kosten verdoppeln. Die Technik funktioniert bei vier Modellfamilien, einschließlich jener, die niemals auf cablese trainiert wurden, und belegt, dass die Fähigkeit bereits in ihren Gewichten vorhanden ist.
Die Kompression ist am effektivsten, wenn sie nachdem der Inhalt stabil ist, angewendet wird—nicht während der Komposition—um eine „Registrierungssteuer“ zu vermeiden. Das Ergebnis ist eine verifizierte, kostenfreie Optimierung, die den effektiven Kontext nahezu verdoppelt oder die Ausgabe-Kosten halbiert.
Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing