पिछले कुछ हफ्तों से Hacker News पर “compression है prediction” के दावे पर बहस हुई है। Luca Lombardo ने entropy और arithmetic coding पर 3Blue1Brown वीडियोज़ और ngrok आर्टिकल के माध्यम से इसका विश्लेषण किया है। मुख्य बुझ़ाव: probabilistic models conditional probabilities सेट करते हैं, और entropy coders इन्हें bits में बदलते हैं। मॉडल Q वाली sequence x₁:n के लिए आदर्श payload length है −log₂Q(x₁:n) = Σ−log₂Q(xᵢ|x<ᵢ), जो cumulative logarithmic loss के बराबर है। Lombardo ने mathematical equivalence की पुष्टि की, और यह बताया कि इसकी जड़ें Shannon की information theory में हैं। हालांकि, compression का अर्थ केवल मॉडल का उपयोग नहीं है—इसमें representation, alternatives, model availability और decoder operations पर सहमत होना भी शामिल है। असली सवाल यह है कि equivalence को लागू करने से पहले क्या fixed किया जाना चाहिए और कौन-से costs अब भी अनुपमापित हैं।