Estimador centrat de mínima variància

De testwiki
Salta a la navegació Salta a la cerca

En estadística un estimador centrat de mínima variància és aquell que té menor variància que qualsevol altre estimador centrat (o no esbiaixat) per tots els possibles valors del paràmetre.

Per als problemes estadístics pràctics, és important determinar si existeix aquest estimador, ja que, naturalment, s'evitarien procediments subòptims, mantenint constant la resta de les condicions. Això ha portat al desenvolupament substancial de la teoria estadística relacionada amb el problema de l'estimació òptima. Encara que la memòria particular de "òptim" aquí - que requereix que no hi hagi biaix i mesurar la "bondat" amb la variància - pot no ser sempre el que es vol per a qualsevol situació pràctica donada, és una on es troben els resultats útils i d'aplicació general.

Definició

Considerem l'estimació g(θ) basada en les dades d'una mostra X1,X2,,Xn d'algun membre de la família de les densitats pθ,θΩ, on Ω és l'espai de paràmetres. Un estimador δ(X1,X2,,Xn) de g(θ) és no esbiaixat (o centrat) de variància mínima si θΩ es compleix:

var(δ(X1,X2,,Xn))var(δ~(X1,X2,,Xn))

per a qualsevol altre estimador no esbiaixat δ~.

Si un estimador no esbiaixat de g(θ) existeix, aleshores es pot provar que hi ha una Estimador centrat de mínima variància essencialment únic. Usant el Teorema de Rao-Blackwell també es pot provar que la determinació de l'Estimador centrat de mínima variància és simplement una qüestió de trobar un estadístic complet i suficient per a la família de paràmetres pθ,θΩ i condicionament qualsevol estimador imparcial sobre el mateix.

A més, pel teorema de Lehmann-Scheffé, un estimador centrat és una funció d'una completa, i l'estadístic suficient és l'estimador UMVUE.

Formalment, suposem δ(X1,X2,,Xn) és imparcial per a g(θ), i que T és un estadístic suficient i complet per a la família de densitats. Llavors

η(X1,X2,,Xn)=E(δ(X1,X2,,Xn)|T)

és el MVUE per g(θ).

Un cas anàleg bayesià és un estimador de Bayes, en particular amb error quadràtic mitjà mínim (MMSE).

Selecció de l'estimador

Un estimador eficient no té per què existir, però si ho fa i si és imparcial, és el MVUE. Ja que l'error quadràtic mitjà (MSE) d'un estimador és δ

MSE(δ)=var(δ)+[bias(δ)]2 

la MVUE minimitza MSE entre els estimadors no esbiaixats. En alguns casos, estimadors esbiaixats tenir menor MSE perquè tenen una variància més petita que ho fa qualsevol estimador centrat.

Exemple

Considerem la possibilitat que les dades són una sola observació d'una distribució absolutament contínua a amb la densitat:

pθ(x)=θex(1+ex)θ+1

i desitgem trobar l'estimador de UMVU

g(θ)=1θ2

En primer lloc, reconeixem que la densitat es pot escriure com

ex1+exexp(θlog(1+ex)+log(θ))

Què és una família exponencial amb estadístic suficient T=log(1+ex). De fet, aquesta és una família exponencial de rang complet i, per tant, T és complet i suficient. Veure família exponencial per a una derivació que mostra

E(T)=1θ,var(T)=1θ2

Per tant

E(T2)=2θ2

Clarament δ(X)=T22 és no esbiaixat, per la qual cosa l'estimador és UMVU

η(X)=E(δ(X)|T)=E(T22|T)=T22=log(1+eX)22

Aquest exemple il·lustra com una funció imparcial de l'estadístic suficient i complet és un estimador centrat de mínima variància.

Referències