Teorema del límit central

En matemàtiques, el Teorema del límit central (o Teorema central del límit) diu que la distribució de la suma estandarditzada de variables aleatòries independents amb variància finita tendeix a una distribució normal estàndard quan el nombre de termes de la suma creix indefinidament. Com a conseqüència d'aquest teorema, s'explica el fet que moltes variables aleatòries siguin aproximadament normals i justifica la importància teòrica i pràctica de la distribució normal.

Aquest teorema, pertanyent a la Teoria de la probabilitat, troba aplicació en molts camps relacionats, com ara l'Estadística inferencial o la Teoria de renovació.

Teorema

Enunciat

Existeixen diverses versions del teorema (segons les hipòtesis escollides). L'enunciat més simple és aquest:

Teorema de Lindeberg-Lévy:

Donada una successió $(X_n{)}_{n\in {\mathbb{N}}^{\ast }}$ de variables aleatòries (${\mathbb{N}}^{*}=\{1,2,\dots \}$) independents i idènticament distribuïdes (abreujadament i.i.d.), amb variància finita, es posa:$$\mu =\mathrm{E}(X_n)\text{i}\sigma =\sqrt{\mathrm{Var}(X_n)},$$on se suposa que $\sigma >0$.

Si es defineix per a tot n:

$$\overline{X_n}=\frac{X_1+\cdots +X_n}{n}$$ i

$$\overline{X_n}{}^{\ast }=\frac{\overline{X_n}-\mathrm{E}\left(\overline{X_n}\right)}{\sqrt{\mathrm{Var}\left(\overline{X_n}\right)}}=\frac{\overline{X_n}-\mu }{\sigma /\sqrt{n}},$$(variable aleatòria estandarditzada associada a $\overline{X_n}$), aleshores la successió $(\overline{X_n}{}^{\ast }{)}_{n\in {\mathbb{N}}^{\ast }}$ convergeix en distribució cap a una variable aleatòria normal estàndard, $$\overline{X_n}{}^{*}⟶{\mathrm{\backslash limits}}^{𝒟}𝒩(0,1).$$

Altrament dit: $\mathrm{\forall }t\in ℝ,$$$\underset{n\to \mathrm{\infty }}{\lim }\mathbb{P}(\overline{X_n}{}^{\ast }\le t)=\mathrm{\Phi }(t).$$ (Vegeu límit d'una successió),

on $\mathrm{\Phi }$ és la funció de la distribució normal estàndard $𝒩(0,1)$: per a tot nombre $t\in ℝ$,

$$\mathrm{\Phi }(t)=\frac{1}{\sqrt{2\pi }}\underset{-\mathrm{\infty }}{\overset{t}{\int }}{e}^{-\frac{u^2}{2}}du.$$Remarques:

1. L'expressió variable aleatòria normalitzada vol dir que és una variable amb esperança 0 i variància 1. Concretament,

$$E\left[\overline{X_n}{}^{*}\right]=0\text{i}\text{Var}\left(\overline{X_n}{}^{*}\right)=1.$$
2. Un enunciat lleugerament diferent (però equivalent) és aquest, amb les mateixes hipòtesis: Si es defineix per a tot $n$:

$$S_n=X_1+\cdots +X_n\text{i}{S}_n^{\ast }=\frac{S_n-\mathrm{E}\left(S_n\right)}{\sqrt{\mathrm{Var}\left(S_n\right)}}=\frac{S_n-n\mu }{\sigma \sqrt{n}},$$ ($S_n^{*}$ és la variable aleatòria estandarditzada associada a $S_n$), aleshores la successió ${\left(S_n^{\ast }\right)}_{n\in {\mathbb{N}}^{\ast }}$ convergeix en distribució cap a una variable aleatòria normal estàndard.

Altrament dit: $\mathrm{\forall }t\in ℝ,$

$$\underset{n\to \mathrm{\infty }}{\lim }\mathbb{P}(S_n^{\ast }\le t)=\mathrm{\Phi }(t).$$

En efecte, és clar que per a tot $n$, $S_n^{\ast }=\overline{X_n}{}^{\ast }$.

3. Atès que la funció de distribució $\mathrm{\Phi }$ és contínua, per a $s<t$ tenim $$\underset{n\to \mathrm{\infty }}{\lim }\mathbb{P}(s\le \overline{X_n}{}^{\ast }\le t)=\underset{n\to \mathrm{\infty }}{\lim }\mathbb{P}(s<\overline{X_n}{}^{\ast }\le t)=\underset{n\to \mathrm{\infty }}{\lim }\mathbb{P}(s<\overline{X_n}{}^{\ast }<t)=\underset{n\to \mathrm{\infty }}{\lim }\mathbb{P}(s\le \overline{X_n}{}^{\ast }<t)=\mathrm{\Phi }(t)-\mathrm{\Phi }(s).$$

Interpretació

En estadística, el teorema del límit central s'interpreta i s'utilitza així: sigui $X_1$, $X_2$, ..., $X_n$ una mostra aleatòria de mida n d'una distribució amb mitjana μ i variància σ² finites (σ ≠ 0).

Llavors, si n és prou gran (una condició freqüent és: $n\ge 30$):

• la variable aleatòria $\bar{X}=\frac{1}{n}\sum _{i=1}^n{X}_i$ (mitjana mostral) té aproximadament una distribució (o llei) normal amb mitjana ${\mu }_{\bar{X}}=\mu$ i variància ${\sigma }_{\bar{X}}^2={\sigma }^2/n$. Es diu que $\bar{X}$ és asimptòticament normal amb mitjana $\mu$ i variància ${\sigma }^2/n$, i s'escriu $$\overline{X_n}\text{és}𝒜𝒩(\mu ,\frac{{\sigma }^2}{n}).$$
• També es compleix que la variable aleatòria $S_n=X_1+\cdots +X_n$ té aproximadament una distribució normal amb mitjana ${\mu }_S=n\mu$ i variància ${{\sigma }_S}^2=n{\sigma }^2$ ; amb la notació anterior$$S_n\text{és}𝒜𝒩(n\mu ,n{\sigma }^2).$$

Com més gran sigui el valor de n, millor serà l'aproximació. L'aproximació entre les dues distribucions és, en general, major en el centre que en els extrems o cues, motiu pel qual s'anomena "Teorema del límit central" ("central" fa referència al límit de la successió estandarditzada, més que no al teorema).

Importància pràctica

Aquesta propietat d'aproximació té aplicacions pràctiques importants. Sovint, no es coneix la distribució "exacta" d'una variable aleatòria, però es pot aproximar per una distribució normal; fins i tot quan es coneix la distribució exacta, pot resultar més senzill aproximar-la per una distribució normal — sempre que sigui justificat; vegeu més avall el Teorema de De Moivre-Laplace.

Demostració del teorema de Lindeberg-Lévy

Per demostrar aquest teorema, s'utilitzen les funcions característiques i el teorema de continuïtat de Lévy.

Exemple

Basat en un exemple de Richard Durrett. Considerem una ruleta europea (és a dir, amb els nombres del 0 al 36; la ruleta americana utilitza, a més, el 00). Estudiarem l'aposta més senzilla que consisteix a apostar 10 € que sortirà un nombre parell; el zero no es considera ni parell ni senar. Si surt un nombre parell ($2,4,\dots ,36$), el jugador guanya 10 € i si surt un nombre senar o el zero, aleshores perd 10 €. El joc és favorable al casino, perquè el 0 desequilibra les apostes: és més probable obtenir 0 o senar (19 resultats favorables) que parell (18 resultats favorables) . Quantifiquem probabilísticament els guanys i pèrdues del jugador i del casino. Suposem un jugador que està jugant diverses partides, i designem per $X_1$ el guany o la pèrdua de la primera partida, per $X_2$ el corresponent a la segona, i així successivament. Tenim una successió $X_1,X_2,\dots ,$ de variables aleatòries independents, i totes amb la mateixa distribució: $$X_i=\{\begin{array}{cc}10,& \text{amb probabilitat }\frac{18}{37}\text{(surt parell)},\\ \\ -10,& \text{amb probabilitat }\frac{19}{39}\text{(surt 0 o senar)}.\end{array}$$L'esperança d'aquestes variables és $$E(X_i)=10\cdot \frac{18}{37}-10\cdot \frac{19}{37}=-\frac{10}{37}\approx -0,27.$$D'acord amb la llei dels grans nombres,

$$\underset{n\to \mathrm{\infty }}{\lim }\frac{1}{n}\sum _{i=1}^n{X}_i=-0,27\text{quasi segurament}.$$Això vol dir que si el jugador juga $n$ vegades ($n$ gran), pot tenir bona sort unes quantes partides, però, si insisteix, en mitjana haurà perdut aproximadament 0,27 € per partida. Més concretament, si, posem, juga 100 partides, aleshores haurà perdut, aproximadament, 27 €. Amb les notacions anteriors, si escrivim$$S_n=\sum _{i=1}^n{X}_i,$$tenim $$S_{100}\approx -27\text{euros}.$$

Amb ajuda del teorema del límit central podem estimar la probabilitat que el jugador, després de 100 partides, no hagi perdut diners, $\mathbb{P}(S_{100}\ge 0)$. Amb aquest objectiu, necessitem calcular la desviació típica $\sigma$ de $X_i$. Tenim que $$E(X_i^2)=10^2\cdot \frac{18}{37}+(-10{)}^2\cdot \frac{19}{37}=100,$$ d'on $${\sigma }^2=E(X_i^2)-(E(X_i){)}^2=100-(\frac{10}{37}{)}^2=99,97.$$

Així, $$\sigma =\sqrt{99,97}\approx 10.$$Aleshores, normalitzant la variable $S_{100}$, $$\frac{S_{100}-100\mu }{\sigma \sqrt{100}}=\frac{S_{100}+27}{100}.$$Llavors, $$\mathbb{P}(S_{100}\ge 0)=\mathbb{P}(\frac{S_{100}+27}{100}\ge \frac{27}{100})=\mathbb{P}(\frac{S_{100}+27}{100}\ge 0,27)\approx 1-\mathrm{\Phi }(0,27)\approx 0,39.$$(Per calcular aquest nombre s'utilitzen unes taules de la llei normal estàndard). Per tant, aproximadament el 39% de persones que juguen 100 partides guanyen alguna cosa, o, d'una altra manera, al contrari, el 61 % dels jugadors, després de 100 partides, perden diners.

De la mateixa manera podem calcular que la probabilitat que guanyi 200 € és $$\mathbb{P}(S_{100}\ge 200)=\mathbb{P}(\frac{S_{100}+27}{100}\ge \frac{200+27}{100})=\mathbb{P}(\frac{S_{100}+27}{100}\ge 2,27)\approx 1-\mathrm{\Phi }(2,27)\approx 0,01.$$

i així, és pràcticament impossible que el jugador guany 200 €, que no seria guany excessiu, ja que per apostar 100 cops 10 € necessita un bon capital (tenint en compte que a vegades guanya i a vegades perd).

D'altra banda, si ara considerem el casino, que té diverses taules de ruleta i nombrosos jugadors a cada taula, quan s'han fet 10000 jugades, el guany total dels jugadors serà $S_{10000}$. Repetim els càlculs anteriors i calculem la probabilitat que $S_{10000}\le -700$ : $$\mathbb{P}(S_{10000}\le -700)=\mathbb{P}(\frac{S_{10000}+2700}{10\sqrt{10000}}\le \frac{-700+2700}{10\sqrt{10000}})=\mathbb{P}(\frac{S_{10000}+2700}{10\sqrt{10000}}\le 2)\approx \mathrm{\Phi }(2)\approx 0,98.$$Així, el casino, de forma lenta però pràcticament segura, haurà guanyat almenys 700 €.

Il·lustració gràfica

Una densitat de probabilitat

Densitat de probabilitat inicial

La densitat de probabilitat $f_1$ representada aquí és discontínua i no té cap simetria. Si una variable aleatòria segueix la distribució definida per aquesta densitat, aleshores la seva mitjana és 0 i la seva variància és 1.

Considerem aquí variables aleatòries independents i idènticament distribuïdes $X_1$, $X_2$, $X_3$ ... que segueixen la distribució definida per aquesta densitat.

Densitat de la suma de dues variables

Suma de dues variables aleatòries

Després determinem la densitat $f_2$ de $S_2=X_1+X_2$ (per convolució de $f_1$ per $f_1$).

La densitat de probabilitat representada és la de la variable aleatòria estandarditzada $S_2^{\ast }$ associada a $S_2$.

Aquesta densitat ja és més regular (més "llisa") que la densitat inicial. Tanmateix, s'hi veuen punts angulosos.

Densitat de la suma de tres variables

Suma de tres variables aleatòries

Després determinem la densitat $f_3$ de $S_3=X_1+X_2+X_3$ (per convolució de $f_1$ per $f_2$).

La densitat de probabilitat representada és la de la variable aleatòria estandarditzada $S_3^{\ast }$ associada a $S_3$.

Aquesta densitat és encara més regular que la precedent.

Densitat de la suma de quatre variables

Suma de quatre variables aleatòries

Finalment, determinem la densitat $f_4$ de $S_4=X_1+X_2+X_3+X_4$ (per convolució de $f_1$ per $f_3$).

La densitat de probabilitat representada és la de la variable aleatòria estandarditzada $S_4^{\ast }$ associada a $S_4$.

A ull nu, no es pot distingir aquesta densitat de la densitat normal estàndard. Plantilla:Clear

Cas particular: el teorema de De Moivre-Laplace

Aquest cas particular del teorema del límit central en va ser històricament la primera atestació.

S'enuncia així:

Sigui una successió $(X_n{)}_{n\in {\mathbb{N}}^{\ast }}$ de variables aleatòries de Bernoulli independents amb paràmetre (comú) p, on $0<p<1$. Per a tot n,

$$\mathrm{E}(X_n)=p\text{ i }\mathrm{Var}(X_n)=p(1-p)$$ són finites.

Llavors, el teorema del límit central és aplicable. En aquest cas, $S_n=X_1+\cdots +X_n$ és una variable aleatòria binomial de paràmetres $n$ i $p$, i per tant, amb esperança $np$ i variància $np(1-p)$. Aleshores, si designem per $B(n,p)$ una distribució binomial de paràmetres $n$ i $p$, amb les noacions que hem introduit abans,

$$B(n,p)\text{és}𝒜𝒩(np,np(1-p)).$$Remarques:

1. Aquesta aproxiamció s'acepta per a $np(1-p)>18$. La qualitat de l'aproximació millora amb la simetria de la funció de probabilitat de la binomial: com més propera sigui $p$ a 1/2, millor serà l'aproximació.
2. Correcció per continuïtat. Siguin $a\le b$ dos nombres naturals. A l'utilitzar l'aproximació normal per calcular $$\mathbb{P}(a\le B(n,p)\le b))$$ es recomana canviar l'interval $[a,b]$ per $(a-0^{\prime }5,b+0^{\prime }5)$, en altres paraules, per $n$ gran, $$\mathbb{P}(a\le B(n,p)\le b))\approx \mathrm{\Phi }((b+0^{\prime }5-np)/\sqrt{np(1-p)})-\mathrm{\Phi }((a-0^{\prime }5-np)/\sqrt{np(1-p)}).$$
   Quan l'aproximació es fa d'aquesta manera es diu que s'ha fet una correcció per continuïtat.
3. De Moivre va estudiar el cas de les variables aleatòries de Bernoulli amb paràmetre $p=1/2$ (joc de cara o creu) l'any 1714 i Laplace el va generalitzara qualsevol $p$ l'any 1812 .
4. Si n és prou gran, la variable aleatòria $\overline{X_n}$ té aproximadament una distribució normal amb mitjana $p$ i variància $\frac{p(1-p)}{n}$. En estadística inferencial, es pot utilitzar aquesta aproximació per construir intervals de confiança per a una proporció desconeguda p .

Aplicació: simulació de la distribució normal estàndard

Sigui una successió $(X_n{)}_{n\in {\mathbb{N}}^{\ast }}$ de variables aleatòries independents i idènticament distribuïdes amb distribució uniforme contínua sobre l'interval [0, 1]. Se sap que per a tot n,

$\mathrm{E}(X_n)=\frac{1}{2}\text{ i }\mathrm{Var}(X_n)=\frac{1}{12}$ són finites.

El teorema del límit central és aplicable. Si es defineix per a tot n:

$S_n=X_1+\cdots +X_n$ i

$T_n=S_n^{\ast }=\frac{S_n-\mathrm{E}\left(S_n\right)}{\sqrt{\mathrm{Var}\left(S_n\right)}}=\frac{S_n-\frac{n}{2}}{\sqrt{\frac{n}{12}}}$,

aleshores la successió $(T_n{)}_{n\in {\mathbb{N}}^{\ast }}$ convergeix en distribució cap a una variable aleatòria normal estàndard. Tenint en compte la simetria de la distribució uniforme contínua sobre l'interval [0, 1], la convergència és molt ràpida: es considera que a partir del valor n = 12, l'aproximació de la distribució de $T_n$ per la distribució normal estàndard és excel·lent; en particular, es pot considerar que la distribució de

$$T_{12}=S_{12}-6=X_1+\cdots +X_{12}-6$$

és pràcticament normal estàndard.

En un llenguatge de programació on existeix un generador de nombres pseudoaleatoris (sovint anomenat "random") simulant una variable aleatòria amb distribució uniforme contínua sobre l'interval [0, 1], és fàcil simular una variable aleatòria (pràcticament) normal estàndard. Heus aquí un algorisme en Pascal:

T := - 6.0;

for k := 1 to 12 do T : = T + random;

La variable T, que simula la variable aleatòria $T_{12}$, és (pràcticament) normal estàndard.

Contraexemple quan no existeix l'esperança

En totes les versions del teorema del límit central, se suposa l'existència de la variància (finita) de cadascuna de les variables aleatòries de la successió.

Sigui una successió $(X_n{)}_{n\in {\mathbb{N}}^{\ast }}$ de variables aleatòries independents i idènticament distribuïdes amb distribució de Cauchy simètrica $𝒞(0,\gamma )$; no tenen ni mitjana ni variància.

Aleshores, per a tot n, la variable aleatòria

$\overline{X_n}=\frac{X_1+\cdots +X_n}{n}$

segueix la mateixa distribució de Cauchy $𝒞(0,\gamma )$ que cadascuna de les variables aleatòries $X_1,X_2,\dots$ (és fàcil demostrar-ho mitjançant les funcions característiques): no hi ha convergència cap a una distribució normal.

Teorema del límit central multidimensional

Sigui $({𝑿}_n{)}_{n\in {\mathbb{N}}^{*}}$ una successió de vectors aleatoris independents i idènticament distribuïts, tals que totes les components tinguin variància finita, amb vector d'esperances $\mathit{\mu }$ i matriu de variàncies covariàncies $\mathrm{\Sigma }$. Aleshores $$\sqrt{n}(\frac{1}{n}\sum _{i=1}^n{𝑿}_i-\mathit{\mu })⟶{\mathrm{\backslash limits}}^{𝒟}𝒩(0,\mathrm{\Sigma }),$$on $𝒩(0,\mathrm{\Sigma })$ és una distribució normal multidimensional centrada amb matriu de variàncies covariàncies $\mathrm{\Sigma }$.

Bibliografia

• De Moivre (Abraham) — The Doctrine of Chances, or a Method of Calculating the Probabilities of Events in Play. — London, 1756
• Laplace (Pierre-Simon) — Théorie analytique des probabilités. — Paris, 1812
• Feller (William) — An Introduction to Probability Theory and Its Applications. (vol. 2) — New York, 1971. John Wiley & Sons

Enllaços externs

• Animated examples of the CLT (una il·lustració gràfica de la convergència en el cas de la distribució uniforme contínua sobre l'interval [0, 1]; vegeu supra el paràgraf relatiu a un mètode de simulació de la distribució normal estàndard)
• Central Limit Theorem Java Plantilla:Webarchive
• Central Limit Theorem interactive simulation to experiment with various parameters