14 Evaluacion de estimadores

Hemos visto distintos metodos para construir estimadores de un parametro desconocido $\theta$ . Pero una pregunta importante es como saber si un estimador es bueno.

SI $T$ es un estimador de $\theta$ , al utilizar $T$ para estimar el parametro cometemos un error $T-\theta$ .

Como $T$ es una variable aleatoria, este error depende de la muestra obtenida. Por tanto, necesitamos medidas globales de la calidad de un estimador.

Para eliminar el signo del error consideramos

(T-\theta)^{2}

Como $T$ es una variable aleatoria, podemos estudiar el valor medio de este error.

Definición V.4.

Se define el error cuadratico medio como

ECM(T)=E_{\theta}[(T-\theta)^{2}]

El ECM mide, en promedio, cuanto nos alejamos del verdadero valor del parametro. Puede descomponerse como:

ECM(T)=E[(T-E(T)+E(T)-\theta)^{2}]=Var(T)+(E(T)-\theta)^{2}

Por tanto,

ECM(T)=Var(T)+\text{Sesgo}(T)^{2}

Definición V.5.

Llamamos sesgo a

\text{Sesgo}(T)=E(T)-\theta

El error cuadratico medio combina dos fuentes de error:

\underbrace{Var(T)}_{\text{variabilidad}}+\underbrace{\text{Sesgo}(T)^{2}}_{% \text{desplazamiento}}

Definición V.6.

Un estimador $T$ de $\theta$ es insesgado si

E(T)=\theta

En ese caso, se cumple $\text{Sesgo}(T)=0$ . Por tanto,

ECM(T)=Var(T)

El estimador no presenta un desplazamiento sistematico respecto al verdadero valor del parametro. Pero insesgado no es lo mismo que necesariamente mejor estimador: un estimador sesgado puede tener menor ECM que uno insesgado.

Ejemplo V.10 (Estimadores de la normal).

Sea $X_{1},\ldots,X_{n}\sim N(\mu,\sigma^{2})$ . Sabemos que $E(\overline{X})=\mu$ , $E(S^{2})=\sigma^{2}$ . Por tanto, $\overline{X}$ y $S^{2}$ son estimadores insesgados.

Sus errores cuadraticos medios coinciden con sus varianzas:

\displaystyle ECM(\overline{X})

\displaystyle{}=Var(\overline{X})=\frac{\sigma^{2}}{n}

\displaystyle ECM(S^{2})

\displaystyle{}=Var(S^{2})=\frac{2\sigma^{4}}{n-1}

Vamos a demostrarlo. Usamos que la distribucion de $S^{2}$ es

\frac{(n-1)S^{2}}{\sigma^{2}}\sim\chi^{2}_{n-1}

Una $\chi^{2}_{\nu}=\Gamma(\nu/2,1/2)$ y por tanto $Var(\chi^{2}_{\nu}=\frac{\nu/2}{(1/2)^{2}})=2\nu$ .

Por las propiedades de la varianza: $Var(aY)=a^{2}Var(Y)$ , luego

Var(\frac{(n-1)S^{2}}{\sigma^{2}})=\frac{(n-1)^{2}}{\sigma^{4}}Var(S^{2})

Como $\frac{(n-1)S^{2}}{\sigma^{4}}\sim\chi^{2}_{n-1}$ , su varianza es $2(n-1)$ :

\frac{(n-1)^{2}}{\sigma^{4}}Var(S^{2})=2(n-1)\Rightarrow Var(S^{2})=\frac{2% \sigma^{4}}{n-1}