Ich habe alle drei Sampler in echter Forschung eingesetzt, oft ohne groß darüber nachzudenken, warum ich mich für den einen statt den anderen entschieden habe. emcee war mein erster Sampler, NUTS kam dazu, als ich meine Likelihoods zu JAX verlagerte, und dynesty tauchte immer dann auf, wenn jemand einen Bayes-Faktor wollte. Irgendwann wurde mir klar, dass ich nicht sagen konnte, welchem ich bei einem Problem vertrauen würde, das ich noch nicht vollständig verstehe.
Die meisten Sampler-Vergleiche messen die Geschwindigkeit, doch Geschwindigkeit bedeutet wenig, wenn die Samples falsch sind, und Falschheit lässt sich nur prüfen, wenn man die richtige Antwort kennt. Deshalb wählte ich drei Probleme, die klein genug sind, um sie exakt zu lösen, auf einem dichten Gitter oder analytisch, und bewertete jeden Sampler anhand der Wahrheit statt im Vergleich zu den anderen.
NUTS war am schnellsten, um den Faktor zwei bis vier bei glatten Problemen, scheiterte aber vollständig am multimodalen Problem, und seine Diagnosen zeigten das deutlich. emcee war bei den einfachen Problemen in Ordnung, lieferte aber beim multimodalen Problem selbstsicher falsche Antworten, ohne jede Warnung in der Standardausgabe. dynesty war der einzige Sampler, der alle Moden fand und eine korrekte Evidenz lieferte, wenngleich seine Fehlerbalken für die Evidenz optimistisch waren.
Die drei Testprobleme wurden schrittweise schwieriger. Das erste diente als Kontrolle: die Anpassung von Ωm und H0 in einem flachen ΛCDM an 40 simulierte Supernovae vom Typ Ia, was eine etwa elliptische Posterior-Verteilung ergibt. Das zweite war ein gekrümmter, schmaler Grat, bei dem Ωm und die Zustandsgleichung der Dunklen Energie bei festem H0 angepasst wurden. Das dritte war ein multimodales Problem: die Bestimmung der Frequenz einer Sinusschwingung, die an 40 Nächten über 80 Tage beobachtet wurde, was mehrere getrennte Spitzen erzeugt.
Wichtige Entitäten: Unternehmen: Towards Data Science | Personen: Arvi Z.
Quelle: Towards Data Science · Zusammengefasst von HeadlinesBriefing