12 Obtención de estimadores

Supongamos que una población se describe mediante un modelo paramétrico:

f(x∣θ)f(x\mid\theta)

donde θ\theta es un paramétro desconocido.

Disponemos de una muestra aleatoria simple

X1,…,XnX_{1},\ldots,X_{n}

y queremos utilizarla para obtener informacion sobre θ\theta.

Para saber qué información de la muestra necesitamos conservar, puede bastar con un estadístico suficiente. Sin embargo, ahora nos interesa saber como utilizamos esa informacion para estimar θ\theta, y construimos

θ^=g(T(X)).\hat{\theta}=g(T(X))\mathchar 46\relax

Pasamos de conservar informacion a utilizarla para estimar.

Ejemplo IV.1.

Supongamos que X∼N(μ,θ2)X\sim N(\mu,\theta^{2}) con μ\mu desconocida. Observamos una muestra X1,…,XnX_{1},\ldots,X_{n}.

Queremos utilizar los datos para estimar μ\mu. Una posibilidad es utilizar la media muestral

μ^=X¯=1n∑i=1nXi\hat{\mu}=\overline{X}=\frac{1}{n}\sum_{i=1}^{n}X_{i}
Observación IV.1.

μ\mu es el paramétro poblacional, fijo y desconocido, X¯\overline{X} es una funcion de la muestra (variable aleatoria, estimador) y, una vez observados los datos, x¯\overline{x} es un valor concreto (estimación).

Definición IV.1 (Estimador puntual).

Sea X1,…,XnX_{1},\ldots,X_{n} una muestra aleatoria. Un estimador puntual de θ\theta es un estadístico

θ^=T(X1,…,Xn)\hat{\theta}=T(X_{1},\ldots,X_{n})

Al observar los datos X1=x1,…,Xn=xnX_{1}=x_{1},\ldots,X_{n}=x_{n} obtenemos la estimacion:

θ^=T(x1,…,xn)\hat{\theta}=T(x_{1},\ldots,x_{n})

Notemos que θ^\hat{\theta} es una variable aleatoria porque depende de la muestra elegida. Ademas, cualquier estadistico es un estimador puntual.

Por tanto, el estimador es la regla de calculo (variable aleatoria), mientras que la estimacion es el resultado obtenido (numero constante) cuando se observan los valores de una muestra concreta.

En este tema estudiaremos dos metodos principales para buscar una funcion T(X1,…,Xn)T(X_{1},\ldots,X_{n}) que proporcione informacion util sobre θ\theta: método de los momentos y máxima verosimilitud.

12.1 Método de los momentos

Ejemplo IV.2.

Lanzamos una moneda trucada con probabilidad pp de obtener cara nn veces. El valor esperado teorico es E(X)=pE(X)=p.

Si lanzamos la moneda n=100n=100 veces y obtenemos 6262 caras, la media muestral es

x¯=62100=0,62\overline{x}=\frac{62}{100}=0,62

La idea intuitiva del metodo de los momentos es igualar ambas cantidades:

E(X)=X¯⇒p~MM=X¯=0,62E(X)=\overline{X}\Rightarrow\tilde{p}_{MM}=\overline{X}=0{,}62

En general: se aproximan los momentos poblacionales mediante los muestrales.

Definición IV.2.

Sea X1,…,XnX_{1},\ldots,X_{n} una muestra de una distribucion con kk parametros: f(x∣θ1,…,θk)f(x\mid\theta_{1},\ldots,\theta_{k}). Se define

  • ​

    Momento muestral de orden jj:

    mj=1n∑i=1nXjitemm_{j}=\frac{1}{n}\sum_{i=1}^{n}X^{j}_{item}
  • ​

    Momento poblacional de orden jj:

    μj=E(Xj)=μj(θ1,…,θk)\mu_{j}=E(X^{j})=\mu_{j}(\theta_{1},\ldots,\theta_{k})

Para obtener estimadores de θ1,…,θk\theta_{1},\ldots,\theta_{k}:

  1. 1.
    ​

    Calculamos los kk primeros momentos muestrales

    mj=1n∑i=1nXji,j=1,…,km_{j}=\frac{1}{n}\sum_{i=1}^{n}X^{j}_{i},\quad j=1,\ldots,k
  2. 2.
    ​

    Calculamos los correspondientes momentos poblacionales:

    μj(θ1,…,θk)=Eθ(Xj)\mu_{j}(\theta_{1},\ldots,\theta_{k})=E_{\theta}(X^{j})
  3. 3.
    ​

    Planteamos el sistema de ecuaciones:

    mj=μj(θ1,…,θk),j=1,…,k.m_{j}=\mu_{j}(\theta_{1},\ldots,\theta_{k}),\quad j=1,\ldots,k\mathchar 46\relax
  4. 4.
    ​

    Resolvemos el sistema para despejar θ^1,…,θ^k\hat{\theta}_{1},\ldots,\hat{\theta}_{k}.

Ejemplo IV.3.

Sean X1,…,Xn∼N(μ,σ2)X_{1},\ldots,X_{n}\sim N(\mu,\sigma^{2}) con μ\mu y θ2\theta^{2} desconocidos (k=2k=2).

  • ​

    Momentos poblacionales:

    μ1=E(X)=μ\mu_{1}=E(X)=\mu
    μ2=E(X2)=Var(X)+[E(X)]2=σ2+μ2\mu_{2}=E(X^{2})=Var(X)+[E(X)]^{2}=\sigma^{2}+\mu^{2}
  • ​

    Momentos muestrales:

    m1=X¯,m2=1n∑i=1nX2im_{1}=\overline{X},\quad m_{2}=\frac{1}{n}\sum_{i=1}^{n}X^{2}_{i}