Ley de los números grandes

En la teoría de la probabilidad, bajo el término genérico de ley de los grandes números se engloban varios teoremas que describen el comportamiento del promedio de una sucesión de variables aleatorias conforme aumenta su número de ensayos.

Estos teoremas prescriben condiciones suficientes para garantizar que dicho promedio converja (en los sentidos explicados abajo) al promedio de las esperanzas de las variables aleatorias involucradas. Las distintas formulaciones de la ley de los grandes números (y sus condiciones asociadas) especifican la convergencia de formas distintas.

Las leyes de los grandes números explican por qué el promedio de una muestra al azar de una población de gran tamaño tenderá a estar cerca de la media de la población completa.

Cuando las variables aleatorias tienen una varianza finita, el teorema central del límite extiende nuestro entendimiento de la convergencia de su promedio describiendo la distribución de diferencias estandarizadas entre la suma de variables aleatorias y el valor esperado de esta suma: sin importar la distribución subyacente de las variables aleatorias, esta diferencia estandarizada converge a una variable aleatoria normal estándar.

La frase "ley de los grandes números" es también usada ocasionalmente para referirse al principio de que la probabilidad de que cualquier evento posible (incluso uno improbable) ocurra al menos una vez en una serie aumenta con el número de eventos en la serie. Por ejemplo, la probabilidad de que un individuo gane la lotería es bastante baja; sin embargo, la probabilidad de que alguien gane la lotería es bastante alta, suponiendo que suficientes personas comprasen boletos de lotería.

El matemático italiano Gerolamo Cardano (1501–1576) afirmó sin pruebas que la precisión de las estadísticas empíricas tienden a mejorar con el número de intentos.^[1]​ Después esto fue formalizado como una ley de los grandes números. Una forma especial de la ley (para una variable aleatoria binaria) fue demostrada por primera vez por Jacob Bernoulli.^[2]​ Le llevó más de 20 años desarrollar una prueba matemática suficientemente rigurosa que fue publicada en su Ars Conjectandi [El arte de la conjetura] en 1713. Bernouilli le llamó su «Teorema dorado», pero llegó a ser conocido generalmente como «teorema de Bernoulli". Este no debe confundirse con el principio físico de igual nombre, el nombre del sobrino de Jacob, Daniel Bernoulli. En 1837, S.D. Poisson describió con más detalle bajo el nombre de «la loi des grands nombres» (la ley de los grandes números).^[3]​^[4]​ A partir de entonces, se conoce con ambos nombres, pero se utiliza con mayor frecuencia la «ley de los grandes números».

Después de que Bernoulli y Poisson publicasen sus esfuerzos, otros matemáticos también contribuyeron al refinamiento de la ley, como Chebyshev,^[5]​ Markov, Borel, Cantelli y Kolmogorov y Khinchin, que finalmente proporcionó una prueba completa de la ley de los grandes números para variables arbitrarias.^[6]​ Estos nuevos estudios han dado lugar a dos formas prominentes de la ley de los grandes números: una se llama la ley "débil" y la otra la ley "fuerte", en referencia a dos modos diferentes de convergencia de la muestra acumulada significa el valor esperado; en particular, como se explica a continuación, la forma fuerte implica la débil.^[6]​

La ley débil de los grandes números establece que si X₁, X₂, X₃, ... es una sucesión infinita de variables aleatorias independientes que tienen el mismo valor esperado ${displaystyle mu }$ y varianza ${displaystyle sigma ^{2}}$, entonces el promedio

converge en probabilidad a μ. En otras palabras, para cualquier número positivo ε se tiene

La ley fuerte de los grandes números establece que si X₁, X₂, X₃, ... es una sucesión infinita de variables aleatorias independientes e idénticamente distribuidas que cumplen E(|X_i|) < ∞   y tienen el valor esperado μ, entonces

es decir, el promedio de las variables aleatorias converge a μ casi seguramente (en un conjunto de probabilidad 1).

Esta ley justifica la interpretación intuitiva del valor esperado de una variable aleatoria como el "promedio a largo plazo al hacer un muestreo repetitivo".

Para demostrar el teorema haremos uso del siguiente lema:

Desigualdad Maximal. Sean ${displaystyle Z_{1},...,Z_{N},}$ variables aleatorias independientes y sean ${displaystyle epsilon _{1},,,epsilon _{2}}$ y ${displaystyle eta ,!}$ constantes positivas que cumplen ${displaystyle mathbb {P} {|Z_{i}+Z_{i+1}+...+Z_{N}|leq epsilon _{2}}geq 1/eta }$ para cada i. Luego

Demostración del lema: Sean ${displaystyle S_{i}:=Z_{1}+...+Z_{i},}$ y ${displaystyle T_{i}:=S_{N}-S_{i},}$. Definamos asimismo la variable aleatoria

${displaystyle au =left{{egin{matrix}{ ext{primer i para el cual }}|S_{i}|>epsilon _{1}+epsilon _{2}\N,,{ ext{si }}|S_{i}|leq epsilon _{1}+epsilon _{2},,{ ext{para todo }}iend{matrix}} ight.}$

Tenemos entonces:

Ahora bien, si ${displaystyle |S_{i}|>epsilon _{1}+epsilon _{2},}$ y ${displaystyle |T_{i}|leq epsilon _{2}}$ entonces implica que ${displaystyle |S_{i}|>epsilon _{1},}$ por ende:

con lo que se concluye el lema. (Fin demostración del lema)

Sigamos con la demostración del teorema: Definamos

Tenemos entonces que la serie ${displaystyle sum _{k}V(n_{k})/n_{k}^{2}}$ es convergente pues:

La convergencia c.t.p. que asegura el teorema es equivalente a:

Por el lema de Borel-Cantelli, es suficiente demostrar que, para todo ${displaystyle epsilon >0,!}$

( 1)${displaystyle sum _{k}mathbb {P} left{max _{nin B_{k}}{frac {|S_{n}|}{n}}>epsilon ight}<infty }$

Cada probabilidad en la suma anterior puede ser acotada por:

Ahora se aplica la desigualdad maximal:

La última desigualdad de la línea anterior se justifica por la desigualdad de Chebyshev. Una nueva aplicación de esta misma desigualdad nos permite acotar los ${displaystyle eta _{k},}$:

Es decir, hemos logrado acotar cada sumando de la (1) por una constante por los términos de una sumatoria que sabemos convergente, demostrando la convergencia de dicha sumatoria y concluyendo via Borel-Cantelli la convergencia fuerte del teorema.

(Fin de la demostración)${displaystyle lacksquare }$

Definamos ${displaystyle Y_{i}=X_{i}chi _{{|X_{i}|leq i}},}$ y ${displaystyle mu _{i}=mathbb {P} Y_{i},}$. Tenemos que ${displaystyle 0=mathbb {P} X_{i}=mu _{i}+mathbb {P} X_{i}chi _{{|X_{i}|>i}}}$. Además, usando la hipótesis de distribuciones idénticas, podemos en general reemplazar (no siempre) una distribución ${displaystyle X_{i},}$ genérica por un representante, digamos ${displaystyle X_{1},}$. Tenemos entonces:

(1)${displaystyle left|{frac {1}{n}}sum _{ileq n}mu _{i} ight|leq mathbb {P} {frac {1}{n}}sum _{ileq n}|X_{1}|chi _{{|X_{1}|>i}}leq mathbb {P} left{|X_{1}|min left(1,{frac {|X_{1}|}{n}} ight) ight} ightarrow 0}$

La última convergencia a cero viene dada por la convergencia puntual más convergencia dominada por ${displaystyle ,|X_{1}|}$ . También tenemos que:

(2)${displaystyle {egin{array}{rcl}sum _{i=1}^{infty }mathbb {P} {X_{i} eq Y_{i}}&=&sum _{i=1}^{infty }mathbb {P} {|X_{i}|>i}\&=&sum _{i=1}^{infty }mathbb {P} {|X_{1}|>i}\&=&sum _{i=1}^{infty }i,mathbb {P} {{|X_{1}|>i,|X_{1}|leq i+1}}\&leq &mathbb {P} |X_{1}|<infty end{array}}}$

La tercera igualdad viene de que para cualquier variable aleatoria se cumple que:

La (2) implica, por Borel-Canteli, que el conjunto ${displaystyle {X_{i} eq Y_{i},,{ ext{para infinitos i}}}}$ tiene probabilidad cero. Por lo tanto, en un conjunto de probabilidad 1 se cumple:

(3)${displaystyle left|{frac {1}{n}}sum _{ileq n}X_{i}-{frac {1}{n}}sum _{ileq n}Y_{i} ight| ightarrow 0}$

De la desigualdad ${displaystyle mathbb {P} (Y_{i}-mu _{i})^{2}leq mathbb {P} Y_{i}^{2}=mathbb {P} (X_{1}^{2}chi _{{|X_{1}|leq i}}),}$ podemos deducir que:

Por el teorema anteriormente demostrado tenemos:

(4)${displaystyle {frac {1}{n}}sum _{ileq n}(Y_{i}-mu _{i}) ightarrow 0}$

casi seguramente. Como además tenemos que:

Entonces, de las ecuaciones (1), (3) y (4) se deduce que ${displaystyle left|{frac {1}{n}}sum _{ileq n}X_{i} ight| ightarrow 0,}$ en casi en todos los puntos, concluyendo el teorema.

(Fin de la demostración)${displaystyle lacksquare }$

---