Teorema de Bernstein-von Mises

En la inferència bayesiana, el teorema de Bernstein–von Mises proporciona la base per utilitzar conjunts bayesians creïbles per a declaracions de confiança en models paramètrics. Afirma que sota algunes condicions, una distribució posterior convergeix en el límit de dades infinites a una distribució normal multivariant centrada en l'estimador de màxima versemblança amb matriu de covariància donada per $n^{-1}I({\theta }_0{)}^{-1}$, on ${\theta }_0$ és el veritable paràmetre de població i $I({\theta }_0)$ és la matriu d'informació de Fisher al valor del paràmetre de població real:

$P(\theta |x_1,\dots x_n)=𝒩({\theta }_0,n^{-1}I({\theta }_0{)}^{-1})\text{ per }n\to \mathrm{\infty }.$

El teorema de Bernstein–von Mises enllaça la inferència bayesiana amb la inferència freqüentista. Assumeix que hi ha un veritable procés probabilístic que genera les observacions, com en el freqüentisme, i després estudia la qualitat dels mètodes bayesians per recuperar aquest procés i fer declaracions d'incertesa sobre aquest procés. En particular, afirma que els conjunts Bayesians creïbles d'un cert nivell de credibilitat $\alpha$ seran asimptòticament conjunts de confiança de nivell de confiança $\alpha$, que permet la interpretació de conjunts creïbles bayesians.

Declaració heurística

En una maqueta $(P_{\theta }:\theta \in \mathrm{\Theta })$, sota determinades condicions de regularitat (dimensional finita, ben especificada, suau, existència de proves), si la distribució prèvia $\mathrm{\Pi }$ activat $\theta$ té una densitat respecte a la mesura de Lebesgue que és prou suau (prop ${\theta }_0$ limitada lluny de zero), la distància de variació total entre la distribució posterior reescalada (centrant i reescalant a $\sqrt{n}(\theta -{\theta }_0)$) i una distribució gaussiana centrada en qualsevol estimador eficient i amb la informació de Fisher inversa com a variància convergirà en probabilitat a zero.

Bernstein–von Mises i estimació de màxima versemblança

En cas que l'estimador de màxima probabilitat sigui un estimador eficient, podem connectar-ho i recuperar una versió comuna, més específica, del teorema de Bernstein–von Mises.

Implicacions

La implicació més important del teorema de Bernstein-von Mises és que la inferència bayesiana és asimptòticament correcta des d'un punt de vista freqüentista. Això vol dir que per a grans quantitats de dades, es pot utilitzar la distribució posterior per fer, des d'un punt de vista freqüentista, afirmacions vàlides sobre l'estimació i la incertesa.

Història

El teorema rep el nom de Richard von Mises i SN Bernstein, encara que la primera demostració pròpia la va donar Joseph L. Doob el 1949 per a variables aleatòries amb espai de probabilitat finit. Més tard Lucien Le Cam, la seva estudiant de doctorat Lorraine Schwartz, David A. Freedman i Persi Diaconis van ampliar la prova sota supòsits més generals.