44 Teoremas del limite central

Example 44.1.

Consideremos una coleccion {Xi}i\left\{X_{i}\right\}_{i\in\mathbb{N}} de variables aleatorias e identicamente distribuidas con distribucion comun

XiExp(0.5)X_{i}\sim Exp(0.5)
  1. 1.

    Cuales son la esperanza y la varianza de i=1nXi\sum_{i=1}^{n}X_{i}? E(Sn)=nE(Xi)=2nE(S_{n})=nE(X_{i})=2n, V(Sn)=nV(Xi)=4nV(S_{n})=nV(X_{i})=4n.

  2. 2.

    Que ocurre con la varianza de i=1nXi\sum_{i=1}^{n}X_{i} cuando nn tiende a infinito? Tiende a infinito.

  3. 3.

    Puede decirse algo sobre la distribucion de probabilidad de i=1nXi\sum_{i=1}^{n}X_{i} cuando nn tiende a infinito? Su distribucion tipificada tiende a la normal estandar por el TCL.

Los teoremas del limite central establecen cual es la distribucion limite de i=1nXi\sum_{i=1}^{n}X_{i} (y tambien de Xn¯\overline{X_{n}}) en situaciones de este tipo.

Recordemos que cualquier combinacion lineal de distribuciones normales sigue tambien una distribucion normal. Por tanto, si X1,,XnX_{1},\ldots,X_{n} son variables aleatorias independientes y con distribucion normal de esperanza μ\mu y varianza σ2\sigma^{2}, es decir, si

X1,,Xni.i.d.N(μ,σ2),X_{1},\ldots,X_{n}\overset{i.i.d.}{\sim}N(\mu,\sigma^{2}),

entonces:

  • La distribucion de la suma de estas nn variables es

    Sn=i=1nXi=X1++XnN(nμ,nσ2)S_{n}=\sum_{i=1}^{n}X_{i}=X_{1}+\cdots+X_{n}\sim N(n\mu,n\sigma^{2})
  • La distribucion del promedio de estas nn variables es

    Xn¯=X1++XnnN(μ,σ2n)\overline{X_{n}}=\frac{X_{1}+\cdots+X_{n}}{n}\sim N\left(\mu,\frac{\sigma^{2}}% {n}\right)

Nos planteamos ahora que ocurre con el promedio Xn¯\overline{X_{n}} y la distribucion de la suma SnS_{n} si X1,,XnX_{1},\ldots,X_{n} son variables aleatorias i.i.d. pero su distribucion comun no es gaussiana. Vamos a ver un resultado que nos dice que, si nn es suficientemente grande, las distribuciones de Xn¯\overline{X_{n}} y SnS_{n} se asemejan mucho a una normal.

Para poder enunciar esto correctamente, se debe definir otra forma de convergencia estocastica.

Definition 44.2.

Se dice que una sucesion de variables aleatorias {Xn}n\left\{X_{n}\right\}_{n\in\mathbb{N}} converge en distribucion a una variable aleatoria XX si verifica

limnFXn(x)=FX(x)\lim\limits_{n\to\infty}F_{X_{n}}(x)=F_{X}(x)

en todos los puntos xx donde FX(x)F_{X}(x) es continua. Esto se denota por Xn𝑑XX_{n}\overset{d}{\to}X.

A partir de esto, podemos pasar a enunciar el teorema del limite central en su version mas sencilla:

Theorem 44.3.

Sea X1,X2,X_{1},X_{2},\ldots una sucesion de variables aleatorias i.i.d. con μ=E(Xi)\mu=E(X_{i}) y σ2=V(Xi)<\sigma^{2}=V(X_{i})<\infty. Definimos

Xn¯=i=1nXin\overline{X_{n}}=\frac{\sum_{i=1}^{n}X_{i}}{n}

y sea Gn(x)G_{n}(x) la funcion de distribucion de la variable aleatoria Xn¯μσ/n\frac{\overline{X_{n}}-\mu}{\sigma/\sqrt{n}}. Entonces, para todo xx\in\mathbb{R} se verifica

limnGn(x)=x12πey22𝑑y=Φ(x)\lim\limits_{n\to\infty}G_{n}(x)=\int^{x}_{-\infty}\frac{1}{\sqrt{2\pi}}e^{-% \frac{y^{2}}{2}}dy=\Phi(x)

es decir, la variable aleatoria

Xn¯μσ/n\frac{\overline{X_{n}}-\mu}{\sigma/\sqrt{n}}

converge en distribucion a la normal estandar, ZZ.

Este resultado es valido para variables discretas como continuas, sean simetricas o asimetricas, unimodales o multimodales, etc. Mas exactamente, lo que asegura este teorema es que si X1,X2,,XnX_{1},X_{2},\ldots,X_{n} son i.i.d. con E(Xi)=μE(X_{i})=\mu, V(Xi)=σ2V(X_{i})=\sigma^{2}, entonces la funcion de distribucion de la variable aleatoria

X¯μσ/n\frac{\overline{X}-\mu}{\sigma/\sqrt{n}}

tiende a Φ\Phi cuando nn\to\infty.

Es decir, esta version para variables i.i.d. del teorema del limite central establece que, si la varianza comun es finita, entonces,

Xn¯μσ/n𝑑Z\frac{\overline{X_{n}}-\mu}{\sigma/\sqrt{n}}\overset{d}{\to}Z

donde ZZ denota, como es habitual, la distribucion normal estandar.

Example 44.4.

Vamos a usar el caso de lanzamiento de un dado equilibrado. El resultado de cada lanzamiento es una variable aleatoria discreta, XX, con funcion de masa

X(123456161616161616)X\equiv\begin{pmatrix}1&2&3&4&5&6\\ \frac{1}{6}&\frac{1}{6}&\frac{1}{6}&\frac{1}{6}&\frac{1}{6}&\frac{1}{6}\\ \end{pmatrix}

La distribucion de XX difiere mucho de una normal. Observemos que la esperanza de XX es

E(X)=116+216++616=216=3.5E(X)=1\cdot\frac{1}{6}+2\cdot\frac{1}{6}+\cdots+6\cdot\frac{1}{6}=\frac{21}{6}% =3.5

Ademas

E(X2)=1216+2216++6216=916=15.17E(X^{2})=1^{2}\cdot\frac{1}{6}+2^{2}\cdot\frac{1}{6}+\cdots+6^{2}\cdot\frac{1}% {6}=\frac{91}{6}=15.17

Por tanto la varianza de XX es

V(X)=E(X2)E2(X)=15.173.52V(X)=E(X^{2})-E^{2}(X)=15.17-3.5^{2}

Supongamos ahora que no lanzamos el dado una sola vez, sino nn veces. Los nn lanzamientos son nn variables aleatorias independientes y todas con la misma distribucion:

X1,X2,,Xn(123456161616161616)X_{1},X_{2},\ldots,X_{n}\equiv\begin{pmatrix}1&2&3&4&5&6\\ \frac{1}{6}&\frac{1}{6}&\frac{1}{6}&\frac{1}{6}&\frac{1}{6}&\frac{1}{6}\\ \end{pmatrix}

El promedio de las nn puntuaciones es otra variable aleatoria

X¯=X1+X2++Xnn\overline{X}=\frac{X_{1}+X_{2}+\cdots+X_{n}}{n}

El TCL implica que, cuando nn es grande, se tiene

X¯N(μ=3.5,σ2=2.92n)\overline{X}\simeq N(\mu=3.5,\sigma^{2}=\frac{2.92}{n})
[Uncaptioned image]

La clave de la demostracion deeste resultado es que la normalidad se obtiene por la suma de cantidades “pequeñas” e independientes. Notese que es necesario asumir varianzas finitas para obtener normalidad.

En general no sabemos como de rapido se da esta convergencia a la normalidad. Es necesario comprobarlo para cada distribucion.

Example 44.5.

Supongamos que simulamos muestras aleatorias de tamaño nn de una variable aleatoria XX que sigue una distribucion exponencial con media 1010, es decir, cuya funcion de densidad es

f(x)={0 si x<0110ex10 si x0f(x)=\begin{cases}0\quad&\text{ si }x<0\\ \frac{1}{10}e^{-\frac{x}{10}}&\text{ si }x\geq 0\end{cases}

Se simularon muetras de la variable exponencial anterior, con tamaños muestrales n=5n=5 y n=25n=25. Esto se repitio 10001000 veces, es decir, 10001000 veces se generaron muestras de la v.a.v.a. exponencial con esos dos tamaños, y para cada muestra de las 10001000 se calculo la media, es decir

X5¯=X1++X55\overline{X_{5}}=\frac{X_{1}+\cdots+X_{5}}{5}

o bien

X25¯=X1+X2++X2525\overline{X_{25}}=\frac{X_{1}+X_{2}+\cdots+X_{25}}{25}

El histograma de frecuencias relativas de las medias muestrales obtenidas en las 10001000 repeticiones, para n=5n=5, es

[Uncaptioned image]

y para n=25n=25,

[Uncaptioned image]

Por el TCP sabemos que

X¯N(μX¯,σX¯2)\overline{X}\approx N(\mu_{\overline{X}},\sigma^{2}_{\overline{X}})

con μX¯=E(X¯)=μ=10\mu_{\overline{X}}=E(\overline{X})=\mu=10 y σX¯2=Var(X¯)=σ2n=100n\sigma^{2}_{\overline{X}}=Var(\overline{X})=\frac{\sigma^{2}}{n}=\frac{100}{n}.

Cual es la distribucion asintotica de Sn=i=1nXiS_{n}=\sum_{i=1}^{n}X_{i}? Como consecuencia del teorema del limite central,

Snnμnσ𝑑Z.\frac{S_{n}-n\mu}{\sqrt{n}\sigma}\overset{d}{\to}Z.

En consecuencia, para nn suficientemente grande, se puede usar la aproximacion

Sn=i=1nXi=X1++XnN(nμ,nσ2)S_{n}=\sum_{i=1}^{n}X_{i}=X_{1}+\cdots+X_{n}\approx N(n\mu,n\sigma^{2})