Convergència de variables aleatòries

En teoria de la probabilitat, l'estudi de la convergència de variables aleatòries és fonamental, tant per la seva riquesa matemàtica (lleis dels grans nombres, teorema del límit central, llei del logaritme iterat, etc.) com per les seves aplicacions a l'Estadística. En aquest article s'estudien les convergències més habituals: en distribució o llei, en probabilitat, quasi segura i en mitjana d'ordre $p$. La referència general d'aquesta pàgina és Serfling on es troben les demostracions o les referències corresponents, i nombrosos exemples i contraexemples.

Convergència en distribució o llei

Introducció

Des d'un punt de vista aplicat, la convergència en distribució és important perquè permet aproximar una probabilitat del tipus $P(Y\in B)$, relativa a una variable aleatòria $Y$, per $P(X\in B)$, més senzilla de calcular, on $X$ és una altra variable aleatòria $X$. El cas més important és el teorema central del límit, on les probabilitats relatives a una suma de variables aleatòries independents amb variància finita es poden calcular aproximadament mitjançant una variable normal. Veurem un exemple d'una altra aproximació clàssica, on la distribució de Poisson s'utilitza per aproximar una distribució binomial.

Exemple. Llencem dos daus 100 cops. Volem calcular la probabilitat d'obtenir 3 o menys vegades un doble 6 (si voleu, vegeu la pàgina variable aleatòria per la modelització i el càlcul de les probabilitats relacionades amb el llançament de dos daus). La probabilitat d'obtenir un doble 6 és 1/36 ≈0'028. Designem per $Y$ la variable aleatòria que compta el nombre de vegades que obtenim un doble 6 en llançar 100 cops dos daus, que té una distribució binomial de paràmetres $n=100$ i $p=0^{\prime }028$: $Y\sim B(100,0^{\prime }028)$. Volem calcular $P(Y\le 3)$ : $$P(Y\le 3)=\sum _{j=0}^3(\genfrac{}{}{0ex}{}{100}{j})0^{\prime }028^j{0}^{\prime }972^{100-j}\approx 0^{\prime }6926.(*)$$D'altra banda, després veurem que una distribució binomial $B(n,p)$ amb $n$ gran, $p$ petita, i $np$ petita respecte a $n$, es pot aproximar raonablement bé per una distribució de Poisson de paràmetre $\lambda =np$ ; en el nostre cas, tenim que $\lambda =100\cdot 0^{\prime }028=2^{\prime }8.$ Sigui $X$ una variable de Poisson de paràmetre $\lambda =2^{\prime }8$, és a dir, $X\sim Poiss(2^{\prime }8)$. Aleshores, $$P(Y\le 3)\approx P(X\le 3)=\sum _{j=0}^3{e}^{-2^{\prime }8}\frac{2^{\prime }{8}^j}{j!}=e^{-2^{\prime }8}\sum _{j=0}^2\frac{2^{\prime }{8}^j}{j!}=0^{\prime }6919.(**)$$Com veiem, (*) i (**) són és molt semblants. Però l'expressió de (**) és molt més senzilla de calcular que la de (*).

Nota. La probabilitat (**) també pot calcular-se de manera molt ràpida utilitzant la relació entre la distribució de Poisson i la distribució ${\chi }^2$ : $$P(X\le 3)=P({\chi }_{2(3+1)}^2>2\cdot 2^{\prime }8)=P({\chi }_8^2>5^{\prime }6)=0^{\prime }6919,$$on ${\chi }_8^2$ és una variable ${\chi }^2$ amb 9 graus de llibertat.

Primera definició

Considerem una successió de variables aleatòries $X_1,X_2,\dots$ i sigui $X$ una altra variable aleatòria, amb funcions de distribució $F_1,F_2,\dots$ i $F$ respectivament. Es diu que la successió convergeix en distribució (o llei) a $X$ si $$\underset{n\to \mathrm{\infty }}{\lim }{F}_n(t)=F(t),\text{en tot punt}t\text{on}F\text{és contínua}.(1)$$S'escriu $$\underset{n\to \mathrm{\infty }}{\lim }{X}_n=X,\text{en distribució (o en llei)}.$$També s'utilitza la notació $$X_n⟶\underset{n\to \mathrm{\infty }}{\overset{𝒟}{\mathrm{\backslash limits}}}X\text{o}{X}_n⟶{\mathrm{\backslash limits}}^{𝒟}X,\text{o expressions similars.}$$

Comentaris

1. Atès que la propietat (1) només depèn de les funcions de distribució, els espais de probabilitat on estan definides les variables no tenen cap paper; de fet, ni cal que les variables estiguin definides en el mateix espai de probabilitat. A vegades, si la distribució del límit és d'un tipus conegut, per exemple, si és una llei normal de mitjana $\mu$ i variància ${\sigma }^2$ s'escriu $$X_n⟶{\mathrm{\backslash limits}}^{𝒟}𝒩(\mu ,{\sigma }^2).$$Això fa que algunes propietats de la convergència en llei semblin antiintuïtives; per exemple, com comentarem més endavant, el límit no és únic, només ho és la seva distribució.

Figura 1. Funció de distribució d'una variable aleatòria constant igual a 0

Figura 2. Funció de distribució d'una variable aleatòria constant igual a 1/n

2. Malgrat el comentari anterior, per simplificar l'exposició, suposarem que totes les variables estan definides al mateix espai $(\mathrm{\Omega },𝒜,P)$. La propietat (1) equival a que per tot punt $t$ on $F$ sigui contínua, $$\underset{n\to \mathrm{\infty }}{\lim }P(X_n\le t)=P(X\le t),$$ o, escrit d'una altra manera, $$\underset{n\to \mathrm{\infty }}{\lim }P(X_n\in (-\mathrm{\infty },t])=P(X\in (-\mathrm{\infty },t]).$$ L'objectiu de la convergència en llei és donar condicions per poder aproximar les probabilitats relatives a $X_n$, del tipus $P(X_n\in B)$, per probabilitats $P(X\in B)$, les quals se suposa que són més fàcils de calcular. Però demanar que $\underset{n}{\lim }P(X_n\in B)=P(X\in B)$ per tot conjunt borelià $B$ és massa exigent, com es veu en el següent exemple. Sigui $X_n=1/n$ (variable degenerada en 1/n) i $X=0$ (variable degenerada en 0) ; sembla molt clar que $X_n$ hauria de convergir a $X$, però si considerem el conjunt $B=\{0\}$, tenim que $$\text{per tot}n\ge 1,P(X_n\in B)=0,\text{però}P(X\in B)=1.$$ En canvi, aquesta successió sí que compleix la propietat (1). En efecte, la funció de distribució de $F$ és $$F(t)=\{\begin{array}{cc}0,& \text{si}t<0,\\ 1,& \text{si}t\ge 0.\end{array}$$i, per tant, $F$ no és contínua en $t=0$ Vegeu la Figura 1. D'altra banda, $$F_n(t)=\{\begin{array}{cc}0,& \text{si}t<\frac{1}{n},\\ 1,& \text{si}t\ge \frac{1}{n}.\end{array}$$ Vegeu la Figura 2. Per $t\ne 0$ tenim que $\underset{n}{\lim }{F}_n(t)=F(t)$. Per tant, $X_n⟶{\mathrm{\backslash limits}}^{𝒟}X$.

Exemple

Figura 3. Funció de distribució d'una variable uniforme en el conjunt {1/5,2/5,3/5,4/5, 1}

Sigui $X_n$ una variable aleatòria uniforme discreta en el conjunt $\{\frac{1}{n},\frac{2}{n},\dots ,\frac{n-1}{n},1\}$ i $X$ una variable aleatòria uniforme contínua a l'interval [0,1]. Aleshores $X_n⟶{\mathrm{\backslash limits}}^{𝒟}X$. En efecte, la funció de distribució de $X_n$ és (vegeu la Figura 3):$$F_n(t)=\{\begin{array}{cc}0,& \text{si}t<\frac{1}{n},\\ [8pt]\frac{1}{n},& \text{si}t\in [\frac{1}{n},\frac{2}{n}),\\ [8pt]\frac{2}{n},& \text{si}t\in [\frac{2}{n},\frac{3}{n}),\\ [8pt]⋮& \\ \frac{n-1}{n},& \text{si}t\in [\frac{n-1}{n},1),\\ [8pt]1,& \text{si}t\ge 1.\end{array}$$Equivalentment, aquesta funció es pot escriure com $$F_n(t)=\{\begin{array}{cc}0,& \text{si}t<0,\\ [8pt]\frac{[nt]}{n},& \text{si}t\in [0,1],\\ [8pt]1,& \text{si}t>1,\end{array}$$on $[a]$ és la part entera del nombre $a$. D'altra banda, la funció de distribució de $X_n$ és (vegeu la Figura 4):

Figura 4. Funció de distribució d'una variable uniforme en el conjunt [0,1]

$$F(t)=\{\begin{array}{cc}0,& \text{si}t<0,\\ [8pt]t,& \text{si}t\in [0,1],\\ [8pt]1,& \text{si}t>1,\end{array}$$Atès que $F$ és contínua a tot arreu, hem de veure la convergència $\underset{n}{\lim }{F}_n(t)=F(t)$ per tot $t\in ℝ$, la qual cosa es dedueix del fet que $\underset{n\to \mathrm{\infty }}{\lim }\frac{[nt]}{n}=t$.

Una definició alternativa

De la següent propietat s'obté una definició alternativa:

$X_n⟶{\mathrm{\backslash limits}}^{𝒟}X$ si i només si per qualsevol funció $f:ℝ⟶ℝ$ afitada i contínua $$\underset{n\to \mathrm{\infty }}{\lim }E[f(X_n)]=E[f(X)].(2)$$Les convergències (1) i (2) semblen molt diferents. Per veure la seva relació, notem que $$F_n(t)=P(X\le t)=E[1_{(-\mathrm{\infty },t]}(X_n)]=E[f(X_n)],$$on $f(x)=1_{(-\mathrm{\infty },t]}(x),$ és la funció indicatriu del conjunt $(-\mathrm{\infty },t]$; recordem que per un conjunt qualsevol $A$, $$1_A(x)=\{\begin{array}{cc}1,& \text{si}x\in A,\\ [5pt]0,& \text{si}x\in ̸A.\end{array}$$ Però el pas de (1) a (2) no és directe ja la funció $f(x)=1_{(-\mathrm{\infty },t]}(x)$ no és contínua, i llavors cal fer una aproximació a $f$ per funcions contínues.

Alguns autors prefereixen utilitzar la condició (2) per definir la convergència en distribució perquè es pot estendre directament a variables aleatòries definides en espais més generals.

Figura 5. Aproximació de Riemann a la integral (n=5).

Continuació de l'exemple de les variables uniformes. Sigui $f:ℝ⟶ℝ$ contínua i afitada. Llavors $$E[f(X_n)]=\sum _{i=1}^n\frac{1}{n}f\left(\frac{i}{n}\right),$$ que convergeix a $\underset{0}{\overset{1}{\int }}f(x)dx=E[f(X)]$, ja que el sumatori anterior és una suma de Riemann que aproxima a la integral. Vegeu la Figura 5.

Propietats de la convergència en distribució

1. Unicitat del límit. $$\begin{array}{c}{X}_n⟶{\mathrm{\backslash limits}}^{𝒟}X\\ \\ X_n⟶{\mathrm{\backslash limits}}^{𝒟}Y\end{array}\}⟹X\text{i}Y\text{tenen la mateixa distribució.}$$ 2. Convergència en distribució de variables que només prenen valors naturals. Si les variables $X_n$ i $X$ només prenen valors naturals, aleshores $X_n⟶{\mathrm{\backslash limits}}^{𝒟}X$ si i només si $$\underset{n\to \mathrm{\infty }}{\lim }P(X_n=k)=P(X=k),\mathrm{\forall }k\in \mathbb{N}.$$

3. La convergència de les funcions de densitat implica la convergència en distribució. Suposem que totes les variables involucrades tenen funció de densitat, i designem per $f_n$ la densitat de $X_n$ i per $f$ la densitat de $X$. Si per a tot $x\in ℝ,$ $\underset{n}{\lim }{f}_n(x)=f(x),$ llavors $X_n⟶{\mathrm{\backslash limits}}^{𝒟}X$.

Aquest resultat és conseqüència de l'anomenat lema de Scheffé: Siguin $f_n$ i $f$ funcions de densitat. Si per a tot $x\in ℝ,$ $\underset{n}{\lim }{f}_n(x)=f(x),$ llavors $$\underset{n\to \mathrm{\infty }}{\lim }\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}|f_n(x)-f(x)|dx=0.$$

4. Composició amb una funció contínua. $$\begin{array}{c}{X}_n⟶{\mathrm{\backslash limits}}^{𝒟}X\\ \\ g:ℝ⟶ℝ\text{contínua}\end{array}\}⟹g(X_n)⟶{\mathrm{\backslash limits}}^{𝒟}g(X).$$

5. Operacions amb successions convergents en distribució.

A. Si $X_n⟶{\mathrm{\backslash limits}}^{𝒟}X$, llavors:

(a) $X_n+a⟶{\mathrm{\backslash limits}}^{𝒟}X+a.$

(b) $a{X}_n⟶{\mathrm{\backslash limits}}^{𝒟}aX.$

B. Teorema de Slutsky. Si $X_n⟶{\mathrm{\backslash limits}}^{𝒟}X$ i $Y_n⟶{\mathrm{\backslash limits}}^{𝒟}b$, on $b\in ℝ$ és una constant, aleshores,

(a) $X_n+Y_n⟶{\mathrm{\backslash limits}}^{𝒟}X+b.$

(b) $X_n{Y}_n⟶{\mathrm{\backslash limits}}^{𝒟}bX.$

(c) $X_n/Y_n⟶{\mathrm{\backslash limits}}^{𝒟}X/b$, si $b\ne 0$.

6. Vegeu més avall, a l'apartat de la convergència q.s., el teorema de representació de Skorohod.

Convergència en distribució i funcions característiques

Les funcions característiques són una eina essencial per la convergència en llei. Els següents resultats són essencialment deguts al genial Paul Lévy.

Teorema. Designem per ${\phi }_n$ i $\phi$ les funcions característiques de $X_n$ i $X$ respectivament. $$X_n⟶{\mathrm{\backslash limits}}^{𝒟}X⟺\underset{n\to \mathrm{\infty }}{\lim }\phi (t)=\phi (t),\text{per a tot}t\in ℝ.(3)$$De fet, es té una propietat encara més forta:

Teorema. Considerem una successió de variables aleatòries $X_1,X_2,\dots$ Designem per ${\phi }_n$ la funció característica de $X_n$. Suposem que $$\underset{n\to \mathrm{\infty }}{\lim }\phi (t)=\gamma (t),\text{per a tot}t\in ℝ,$$ on $\gamma$ és una funció contínua en el 0. Aleshores $\gamma$ és una funció característica i existeix una variable aleatòria $X$ amb funció característica $\gamma$ i $X_n⟶{\mathrm{\backslash limits}}^{𝒟}X$ .

Aquest últim teorema és important perquè estableix que no necessitem conèixer per endavant el límit de la successió. D'altra banda, proporciona un mètode per construir funcions característiques o reconèixer que determinada funció és una funció característica, la qual cosa no sempre és fàcil.

Exemple. Aproximació de la distribució binomial per una distribució de Poisson. Sigui $X_1,X_2,\dots$ una successió de variables aleatòries tals que $X_n$ té una distribució binomial de paràmetre $p_n$,

amb $\underset{n}{\lim }n{p}_n=\lambda >0.$ Aleshores $X_n⟶{\mathrm{\backslash limits}}^{𝒟}X$ on $X$ té una distribució de Poisson de paràmetre $\lambda$.

La prova consisteix senzillament en utilitzar que la funció característica d'una binomial $B(n,p_n)$ és $${\phi }_n(t)=(p_n{e}^{it}+1-p_n{)}^n=(p_n(e^{it}-1)+1{)}^n,$$i calcular el límit tipus número e: és a dir, utilitzant que si $z_1,z_2,\dots$ són nombres complexos tals que $\underset{n}{\lim }{z}_n=z\ne 0$, aleshores $\underset{n\to \mathrm{\infty }}{\lim }(1+z_n/n{)}^n=e^z$. Llavors tenim $$\underset{n}{\lim }{\phi }_n(t)=\underset{n}{\lim }(p_n(e^{it}-1)+1{)}^n=\underset{n}{\lim }(\frac{n{p}_n(e^{it}-1)}{n}+1{)}^n=e^{\lambda (e^{it}-1)},$$que és, precisament, la funció característica d'una distribució de Poisson de paràmetre $\lambda$

Molt sovint per construir l'aproximació es pren $p_n=\lambda /n$, on $\lambda >0$. O, més general, es parteix d'una successió ${\lambda }_1,{\lambda }_2\dots$ tal que $0<{\lambda }_n\le n$ $\underset{n}{\lim }{\lambda }_n=\lambda$ i es pren $p_n={\lambda }_n/n$ .

Tal com hem comentat a l'exemple introductori, aquesta propietat també es formula dient una distribució binomial $B(n,p)$ amb $n$ gran, $p$ petita, i $np$ petita respecte a $n$, es pot aproximar per una distribució de Poisson de paràmetre $\lambda =np$ .

Aquesta propietat és la formulació en termes de convergència en distribució de l'aproximació deguda a Poisson (1873).

Cas multidimensional

La convergència en llei de vectors aleatoris de dimensió $k$ es formula exactament igual com el cas de les variables aleatòries, ja sigui amb la definició (1) utilitzant funcions de distribució multidimensionals, o amb la (2) amb funcions $f:{ℝ}^k⟶ℝ$ afitades i contínues. L'equivalència amb la convergència de les corresponents funcions característiques també és certa. A la pràctica, però, el que més s'utilitza és el següent resultat degut a Cramer i Wold i que s'anomena <<Cramer-Wold device>>, que permet reduir el cas multidimensional a l'unidimensional.

Teorema. Sigui ${𝑿}_1,{𝑿}_2,\dots$ una successió de vectors aleatoris $k$ dimensionals i sigui $𝑿$ un altre vector aleatori de dimensió $k$. Aleshores $${𝑿}_n⟶{\mathrm{\backslash limits}}^{𝒟}𝑿$$ si i només si tota combinació lineal de les components de ${𝑿}_n$ convergeix en distribució a la mateixa combinació lineal de les components de $𝑿$.

Convergència en probabilitat

Sigui $X_1,X_2,\dots$ una successió de variables aleatòries i $X$ una altra variable aleatòria definides en un espai de probabilitat $(\mathrm{\Omega },𝒜,P)$. Es diu que la successió convergeix en probabilitat a $X$ si per qualsevol $\epsilon >0$, $$\underset{n\to \mathrm{\infty }}{\lim }P(|X_n-X|\ge \epsilon )=0.(4)$$En aquest cas, s'escriu, $$\underset{n\to \mathrm{\infty }}{\lim }{X}_n=X,\text{en probabilitat},$$ o $$X_n⟶{\mathrm{\backslash limits}}^{P}X.$$ Observacions.

1. La condició (4) és equivalent a $\underset{n\to \mathrm{\infty }}{\lim }P(|X_n-X|<\epsilon )=1$. Tant en aquesta condició com a (4) es poden canviar les desigualtats per desigualtats estrictes, ja que la condició ha de ser veritat per a qualsevol $\epsilon >0$.
2. En paraules, aquesta convergència diu que la probabilitat que les variables $X_n$ i $X$ siguin gaire diferents (diferència més gran que $\epsilon$) es tant petita com es vulgui quan $n\to \mathrm{\infty }$.

Exemple. Suposem que les variables $X_n$ venen donades per $$X_n=\{\begin{array}{cc}0,& \text{amb probabilitat}1-\frac{1}{n},\\ n,& \text{amb probabilitat}\frac{1}{n}.\end{array}$$Vegem que $X_n⟶{\mathrm{\backslash limits}}^{P}0$: en efecte, donat qualsevol $\epsilon >0$, si $n>\epsilon$, $$P(|X_n-0|\ge \epsilon )=P(X_n=n)=\frac{1}{n}⟶{\mathrm{\backslash limits}}_{n\to \mathrm{\infty }}0.$$

Propietats de la convergència en probabilitat

1. Unicitat de límit. El límit d'una successió convergent en probabilitat és únic (q.s.): $$\begin{array}{c}{X}_n⟶{\mathrm{\backslash limits}}^{P}X\\ X_n⟶{\mathrm{\backslash limits}}^{P}Y\end{array}\}⟹X=Y,\text{q.s.}$$ 2. Propietat de Cauchy. Si $X_n⟶{\mathrm{\backslash limits}}^{P}X$ aleshores la successió és de Cauchy en probabilitat, és a dir, per a qualsevol $\epsilon >0$, $$\underset{n,m\to \mathrm{\infty }}{\lim }P\{|X_n-X_m|\ge \epsilon \}=0.$$ Recíprocament, si una successió és de Cauchy en probabilitat, aleshores convergeix en probabilitat.

3. Composició amb una funció contínua. $$\begin{array}{c}{X}_n⟶{\mathrm{\backslash limits}}^{P}X\\ \\ g:ℝ⟶ℝ\text{contínua}\end{array}\}⟹g(X_n)⟶{\mathrm{\backslash limits}}^{P}g(X).$$ 4. Operacions amb successions convergents en probabilitat. $$\begin{array}{c}{X}_n⟶{\mathrm{\backslash limits}}^{P}X\\ Y_n⟶{\mathrm{\backslash limits}}^{P}Y\\ h:{ℝ}^2⟶ℝ\text{contínua}\end{array}\}⟹h(X_n,Y_n)⟶{\mathrm{\backslash limits}}^{P}h(X,Y).$$El mateix és cert per a $k$ successions i $h:{ℝ}^k⟶ℝ$ contínua.

D'aquí es dedueix: $$\begin{array}{c}{X}_n⟶{\mathrm{\backslash limits}}^{P}X\\ Y_n⟶{\mathrm{\backslash limits}}^{P}Y\end{array}\}⟹X_n+Y_n⟶{\mathrm{\backslash limits}}^{P}X+Y\text{i}{X}_n{Y}_n⟶{\mathrm{\backslash limits}}^{P}XY.$$

5. Relacions amb la convergència en llei

(a) $X_n⟶{\mathrm{\backslash limits}}^{P}X⟹X_n⟶{\mathrm{\backslash limits}}^{𝒟}X$.

(b) $X_n⟶\underset{n\to \mathrm{\infty }}{\overset{𝒟}{\mathrm{\backslash limits}}}a⟹X_n⟶\underset{n\to \mathrm{\infty }}{\overset{P}{\mathrm{\backslash limits}}}a$, on $a$ és una constant.

La propietat (a) també es formula dient que la convergència en probabilitat és més forta que la convergència en distribució, o que la convergència en distribució és més feble que la convergència en probabiliat.

6. Teorema de convergència dominada (vegeu a l'apartat de convergència en mitjana una altra versió d'aquest teorema). Suposem que $X_n⟶\underset{n\to \mathrm{\infty }}{\overset{P}{\mathrm{\backslash limits}}}X$ i sigui $Y$ una variable aleatòria positiva amb $E[Y]<\mathrm{\infty }$ tal que per a tot $n$ tenim $|X_n|\le Y$ (es diu que la successió està dominada per $Y$). Aleshores totes les variables $X_n$ i $X$ tenen esperança finita i $$\underset{n\to \mathrm{\infty }}{\lim }E[X_n]=E[X].$$

Metrització de la convergència en probabilitat

Recordem que es diu que dues variables aleatòries $X$ i $Y$ són iguals quasi segurament (o amb probabilitat 1) si existeix un esdeveniment $N\in 𝒜$ de probabilitat zero, $P(N)=0$, tal que per a qualsevol $\omega \in N^c$$$X(\omega )=Y(\omega ).$$ S'escriu $$X=Y,\text{q.s.}$$ Designem per ${ℒ}^0$ el conjunt de totes les variables aleatòries, que és un espai vectorial. Definim la relació $$X\sim Y⟺X=Y,\text{q.s.}$$Es demostra que és una relació d'equivalència i designem el conjunt quocient per $L^0$. En general s'utilitza la mateixa notació per a una variable aleatòria i per a la seva classe d'equivalència, i tàcitament es tracten les classes d'equivalència com si fossin variables aleatòries; això es pot fer perquè moltes propietats només depenen de la classe d'equivalència: per exemple, si un element d'una classe té esperança finita, aleshores tots els elements de la classe tenen esperança finita, i l'esperança és la mateixa per a tots. A $L^0$ definim $$d_{\text{Pr}}(X,Y)=E\left[\frac{|X-Y|}{1+|X-Y|}\right].$$Es comprova que és una distància:

1. $d_{\text{Pr}}(X,Y)=d_{\text{Pr}}(Y,X).$
2. $d_{\text{Pr}}(X,Y)\ge 0\text{i}{d}_{\text{Pr}}(X,Y)=0⟺X=Y.$
3. $d_{\text{Pr}}(X,Y)\le d_{\text{Pr}}(X,Z)+d_{\text{Pr}}(Z,Y).$

Finalment, es demostra que $$X_n⟶\underset{n\to \mathrm{\infty }}{\overset{P}{\mathrm{\backslash limits}}}X⟺\underset{n}{\lim }{d}_{Pr}(X_n,X)=0.$$ Es diu que la convergència en probabilitat és metritzable. Aquesta és una propietat important, ja que les convergències en espais mètrics tenen moltes propietats que es poden aplicar directament a la convergència en probabiitat. Atès que hem vist que les successions de Cauchy en probabilitat són convergents en probabilitat, tenim que $L^0$ amb la distància $d_{Pr}$ és un espai mètric complet.

Cas multidimensional

Sigui ${𝑿}_1,{𝑿}_2,\dots$ una successió de vectors aleatoris $k$ dimensionals i sigui $𝑿$ un altre vector aleatori de dimensió $k$. Es diu que la successió convegeix en probabilitat a $𝑿$ si per qualsevol $\epsilon >0$ ,$$\underset{n\to \mathrm{\infty }}{\lim }P(\Vert {𝑿}_n-𝑿\Vert \ge \epsilon )=0,$$on $\Vert \cdot \Vert$ és la norma habitual de ${ℝ}^k$ : si $z=(z_1,\dots .z_k)\in {ℝ}^k$, $\Vert 𝒛\Vert =(\sum _{i=1}^k{z}_i{)}^{1/2}$ .

Tenim la següent propietat: siguin ${𝑿}_1=(X_1^{(1)},\dots ,X_1^{(k)})$, ${𝑿}_2=(X_2^{(1)},\dots ,X_2^{(k)})$,..., i $𝑿=(X^{(1)},\dots ,X^{(k)})$. Aleshores $${𝑿}_n⟶{\mathrm{\backslash limits}}^P𝑿⟺X_n^{(i)}⟶{\mathrm{\backslash limits}}^P{X}^{(i)},i=1,\dots ,k.$$

Convergència quasi segura

Sigui $X_1,X_2,\dots$ una successió de variables aleatòries i $X$ una altra variable aleatòria definides en un espai de probabilitat $(\mathrm{\Omega },𝒜,P)$. Es diu que la successió convergeix quasi segurament a $X$ si sexisteix un esdeveniment $N\in 𝒜$ de probabilitat zero, $P(N)=0$, tal que per a qualsevol $\omega \in N^c$, $$\underset{n\to \mathrm{\infty }}{\lim }{X}_n(\omega )=X(\omega ).$$S'escriu $$\underset{n\to \mathrm{\infty }}{\lim }{X}_n=X,\text{q.s.}\text{o}{X}_n⟶{\mathrm{\backslash limits}}^{q.s.}X.$$Malgrat l'aparent simplicitat de la definició, en general és difícil provar la convergència q.s., ja que normalment es coneixen les probabilitats associades amb les variables, però no el seu valor per a cada $\omega$. El següent criteri és de molta utilitat. Noteu que el criteri diu que si una successió convergeix en probabilitat de manera ràpida aleshores hi ha convergència q.s.

Criteri de convergència q.s.

Si per qualsevol $\epsilon >0$ tenim $$\sum _{n}P\{|X_n-X|>\epsilon \}<\mathrm{\infty },$$aleshores $$X_n⟶{\mathrm{\backslash limits}}^{q.s.}X.$$

Exemple 1. (Aquest exemple és trivial però ens ajudarà a veure la dificultat que comentavem abans.) Sigui $Y$ una variable aleatòria i definim $$X_n=\frac{1}{n}Y.$$Aleshores és evident que $$X_n⟶{\mathrm{\backslash limits}}^{q.s.}0.$$Exemple 2. Sigui $Y_1,Y_2,\dots ,$ una successió de variables aleatòries independents, totes amb la mateixa distribució (i.i.d.), amb esperança finita. Definim $$X_n=\frac{1}{n}{Y}_n.$$Anem a veure que $$X_n⟶{\mathrm{\backslash limits}}^{q.s.}0.$$Aquest cas, però, és completament diferent que l'exemple 1, ja que ara el valor de $Y_n(\omega )$ pot canviar amb $n$. Malgrat que la convergència a 0 sembla força intuitiva, la demostració ja no és directa i utilitzarem el criteri de convergència q.s. Per qualsevol $\epsilon >0$ tenim $$P\{|X_n-0|\ge \epsilon \}=P\{|X_n|\ge \epsilon \}=P\{|Y_n|\ge \epsilon n\}=P\left\{\right|\frac{Y_1}{\epsilon }|\ge n\},$$ ja que totes les variables $Y_n$tenen la mateixa distribució. Llavors, $$\sum _{n=1}^{\mathrm{\infty }}P\left\{\right|\frac{Y_1}{\epsilon }|\ge n\}\le E\left[\right|\frac{Y_1}{\epsilon }\left|\right]=\frac{1}{\epsilon }E[|Y_1|]<\mathrm{\infty },$$on hem utilitzat que per una varible aleatòria positiva $Z$ (vegeu), $$\sum _{n=1}^{\mathrm{\infty }}P\{Z\ge n\}\le E[Z].$$

Propietats de la convergència q.s.

1. Unicitat del límit. Evidentment, el límit d'una successió convergent q.s. és únic q.s.

2. Operacions amb successions que convergeixen q.s. La convergència q.s. hereta moltes de les propietats de les successions de nombres reals. Per exemple, $$\begin{array}{c}{X}_n⟶\underset{n\to \mathrm{\infty }}{\overset{q.s.}{\mathrm{\backslash limits}}}X\\ Y_n⟶\underset{n\to \mathrm{\infty }}{\overset{q.s.}{\mathrm{\backslash limits}}}Y\end{array}\}⟹X_n+Y_n⟶\underset{n\to \mathrm{\infty }}{\overset{q.s.}{\mathrm{\backslash limits}}}X+Y\text{i}{X}_n{Y}_n⟶\underset{n\to \mathrm{\infty }}{\overset{q.s.}{\mathrm{\backslash limits}}}XY.$$

3. Composició amb funcions contínues. També tenim $$\begin{array}{c}{X}_n⟶\underset{n\to \mathrm{\infty }}{\overset{q.s.}{\mathrm{\backslash limits}}}X\\ \\ g:ℝ⟶ℝ\text{contínua}\end{array}\}⟹g(X_n)⟶\underset{n\to \mathrm{\infty }}{\overset{q.s.}{\mathrm{\backslash limits}}}g(X).$$

4. Relacions entre la convergència q.s. i la convergència en probabilitat.

(a) La convergència q.s. iimplica la convergència en probabilitat:

$$X_n⟶\underset{n\to \mathrm{\infty }}{\overset{q.s.}{\mathrm{\backslash limits}}}X⟹X_n⟶\underset{n\to \mathrm{\infty }}{\overset{P}{\mathrm{\backslash limits}}}X.$$

Es diu que la convergència q.s. és més forta que la convergència en probabilitat, o que la convergència en probabilitat és més feble que la convergència q.s. Com a conseqüència de les propetats de la convergència en probabilitat, es té que la convergència q.s. també és més forta que la convergència en distribució.

(b) Si $X_n⟶{\mathrm{\backslash limits}}^{P}X$, aleshores existeix una successió parcial $X_{n_1},X_{n_2},\dots ,$ tal que $X_{n_j}⟶{\mathrm{\backslash limits}}^{q.s.}X$

5. Teorema de convergència dominada (vegeu a l'apartat de convergència en mitjana una altra versió d'aquest teorema). El teorema de convergència dominada també és veritat si tenim convergència q.s. Suposem que $X_n⟶\underset{n\to \mathrm{\infty }}{\overset{q.s}{\mathrm{\backslash limits}}}X$ i sigui $Y$ una variable aleatòria positiva amb $E[Y]<\mathrm{\infty }$ tal que per a tot $n$ tenim $|X_n|\le Y$. Aleshores totes les variables $X_n$ i $X$ tenen esperança finita i $$\underset{n\to \mathrm{\infty }}{\lim }E[X_n]=E[X].$$6. Teorema de representació de Skorohod. Suposem que $X_n⟶{\mathrm{\backslash limits}}^{𝒟}X$. Aleshores existeix un espai de probabilitat $({\mathrm{\Omega }}^{\prime },{𝒜}^{\prime },P^{\prime })$, una successió de variables aleatòries ${X_1}^{\prime },{X_2}^{\prime },\dots$ i una variable aleatòria $X^{\prime }$, definides en aquest espai, tals que:

1. Per a $n\ge 1$, $X_n$ i tenen ${X_n}^{\prime }$ la mateixa distribució.
2. $X$ i $X^{\prime }$ tenen la mateixa distribució.
3. ${X_n}^{\prime }⟶{\mathrm{\backslash limits}}^{q.s.}{X}^{\prime }$

Convergència en mitjana d'ordre p

Considerem un nombre real $p>0$ i sigui $X_1,X_2,\dots$ una successió de variables aleatòries i $X$ una altra variable aleatòria definides en un espai de probabilitat $(\mathrm{\Omega },𝒜,P)$, totes les variables amb moment d'ordre $p$, és a dir, $E[|X_n{|}^p]<\mathrm{\infty }$ i $E[|X{|}^p]<\mathrm{\infty }$. Direm que la successió convergeix a $X$ en mitjana d'ordre $p$ o en $L^p$ si $$\underset{n\to \mathrm{\infty }}{\lim }E[|X_n-X{|}^p]=0.$$ En aquest cas s'escriu $$\underset{n\to \mathrm{\infty }}{\lim }{X}_n=X,\text{en mitjana d'ordre}p\text{o}\text{en}{L}^p,$$ o bé $$X_n⟶{\mathrm{\backslash limits}}^{m_p}X\text{o}{X}_n⟶{\mathrm{\backslash limits}}^{L^p}X.$$Quan $p=1$ s'anomena convegència en mitjana i $p=2$ convergència en mitjana quadràtica.

Propietats de la convergència en mitjana d'ordre $𝒑$

1. Unicitat del límit. El límit d'una successió convergent en mitjana d'ordre $p$ és únic q.s.

2. Si $0<r<s$, i $X_n⟶{\mathrm{\backslash limits}}^{L^s}X$, llavors $X_n⟶{\mathrm{\backslash limits}}^{L^r}X$.

3. Convergència dels moments. Si $X_n⟶{\mathrm{\backslash limits}}^{L^p}X$, llavors$$\underset{n\to \mathrm{\infty }}{\lim }E[X_n^p]=E[X^p]\text{i}\underset{n\to \mathrm{\infty }}{\lim }E[|X_n{|}^p]=E[|X{|}^p].$$En particular, aplicant les propietats 2 i 3, si $p=2$, tenim que $$\underset{n\to \mathrm{\infty }}{\lim }\text{Var}(X_n)=\text{Var}(X).$$

4. Operacions amb successions.

(a) $$\begin{array}{c}{X}_n⟶{\mathrm{\backslash limits}}^{L^p}X\\ Y_n⟶{\mathrm{\backslash limits}}^{L^p}Y\end{array}\}⟹X_n+Y_n⟶{\mathrm{\backslash limits}}^{L^p}X+Y.$$

(b) $$\begin{array}{c}{X}_n⟶{\mathrm{\backslash limits}}^{L^2}X\\ Y_n⟶{\mathrm{\backslash limits}}^{L^2}Y\end{array}\}⟹X_n{Y}_n⟶{\mathrm{\backslash limits}}^{L^1}XY.$$

(c) Més generalment, si $p>1$ i $1/p+1/q=1$, aleshores $$\begin{array}{c}{X}_n⟶{\mathrm{\backslash limits}}^{L^p}X\\ Y_n⟶{\mathrm{\backslash limits}}^{L^q}Y\end{array}\}⟹X_n{Y}_n⟶{\mathrm{\backslash limits}}^{L^1}XY.$$

(d) Si les variables $X_n,n\ge 1$ i $X$ són independents de les variables $Y_n,n\ge 1$ i $Y$, aleshores $$\begin{array}{c}{X}_n⟶{\mathrm{\backslash limits}}^{L^1}X\\ Y_n⟶{\mathrm{\backslash limits}}^{L^1}Y\end{array}\}⟹X_n{Y}_n⟶{\mathrm{\backslash limits}}^{L^1}XY.$$ 5. Propietat de Cauchy. Si $X_n⟶{\mathrm{\backslash limits}}^{L^p}X$, aleshores la successió $X_1,X_2,\dots$ és de Cauchy en mitjana d'ordre $p$: $$\underset{n,m\to \mathrm{\infty }}{\lim }E[|X_n-X_m{|}^p]=0.$$ Recíprocament, tota successió de Cauchy en mitjana d'ordre $p$ convergeix en mitjana d'ordre $p$.

6. La convergència en mitjana d'ordre $p$ implica la convergència en probabilitat: $$X_n⟶\underset{n\to \mathrm{\infty }}{\overset{L^p}{\mathrm{\backslash limits}}}X⟹X_n⟶\underset{n\to \mathrm{\infty }}{\overset{P}{\mathrm{\backslash limits}}}X.$$ 7. Teorema de convergència dominada. Suposem que $X_n⟶{\mathrm{\backslash limits}}^{q.s.}X$ o $X_n⟶{\mathrm{\backslash limits}}^{P}X$ i sigui $Y$ una variable aleatòria positiva amb $E[Y^p]<\mathrm{\infty }$ tal que per a tot $n$ tenim $|X_n|\le Y$, aleshores $X_n⟶{\mathrm{\backslash limits}}^{L^p}X$.

Espais ${𝑳}^{𝒑}$

Els espais $L^p$ corresponents a un espai de probabilitat són un cas particular dels espais $L^p$ associats a un espai de mesura general, i aquí ens limitarem a comentar les propietats relacionades amb la convergència de variables aleatòries. Designarem per ${ℒ}^p$ el conjunt de les variables aleatòries amb moment d'ordre $p$. Es tracta d'un espai vectorial. A l'igual com hem fet en l'apartat de la convergència en probabilitat, considerem la relació d'equivalència $$X\sim Y⟺X=Y,\text{q.s.}$$ i designem per $L^p$ el conjunt quocient.

Quan $0<p<1$, definim $$d_p(X,Y)=E[|X-Y{|}^p],$$que és una distància a $L^p$.

Quan $p\ge 1,$ tenim que $$\Vert X{\Vert }_p=(E[X^p]{)}^{1/p}$$és una norma en $L^p$ i

defineix una distància en aquest espai:$$d_p(X,Y)=\Vert X-Y{\Vert }_p.$$En ambdós casos tenim que $$X_n⟶\underset{n\to \mathrm{\infty }}{\overset{L^p}{\mathrm{\backslash limits}}}X⟺\underset{n}{\lim }{d}_p(X_n,X)=0.$$La propietat de Cauchy que hem esmentant abans implica que els espais mètrics $L^p$ són complets. A més, quan $p\ge 1,$ $L^p$ és un espai de Banach.

El cas $p=2$ mereix atenció especial, ja que es pot definir un producte escalar: $$<X,Y>=E[XY].$$Aleshores $L^2$ és un espai de Hilbert.

Quadre de les implicacions entre els diversos tipus de convergència

Resum de les relacions entre els diversos tipus de convergències de variables aleatòries