MAP-uppskattning och prioriteringar

Bayesiansk slutledning kombinerar en sannolikhet, som beskriver hur sannolika de observerade data är under parametervärden, med en tidigare fördelning som representerar information eller antaganden innan man ser dessa data. Bayes regel ger en bakre fördelning som är proportionell mot sannolikheten gånger före. Maximum likelihood estimering (MLE) väljer den parameter som maximerar sannolikheten. Maximal a posteriori estimering (MAP) väljer det värde som maximerar den bakre densiteten. Att ta logaritmer förvandlar produkter till summor: log posterior är lika med log likelihood plus log prior plus en normaliseringskonstant som inte beror på parametrarna. Att maximera det bakre är därför likvärdigt med att maximera logsannolikheten plus log före. Om prior är centrerad vid noll och Gauss, bidrar dess logtäthet till en negativ term som är proportionell mot den kvadratiska koefficientstorleken. Att maximera den bakre delen motsvarar då att minimera en sannolikhetsbaserad förlust plus en L2-straff. En Laplace-prior bidrar med en term med absolut värde, vilket ger en straff i L1-stil. Den exakta ekvivalensen beror på hur sannolikheten, tidigare skalor och mål parametreras. I en hypotetisk smådataregression kan MLE passa en koefficient på 8 eftersom endast ett fåtal observationer driver uppskattningen. En nollcentrerad prior kunde dra MAP-uppskattningen mot noll. Detta är inte en godtycklig korrigering: det uttrycker en preferens för mindre koefficienter. Om den föregående är olämplig, kan MAP-uppskattningen vara partisk i en skadlig riktning. Rapportera antaganden och testa hur slutsatser förändras under rimliga alternativ. MAP returnerar en punktuppskattning, inte den fullständiga bakre fördelningen. Det kan vara användbart för optimering och reglerad förutsägelse, men det sammanfattar inte osäkerhet på det sätt som bakre intervall eller prover gör. Ett posteriort läge kan också bero på parametrering eftersom densiteter transformeras med koordinatsystemet. Skilj en sannolikhetstäthetsmod från ett parametervärde med störst integrerad sannolikhetsmassa. När beslut beror på osäkerhet, inspektera den bakre i stället för att presentera MAP enbart som komplett Bayesiansk analys.