Distribució gamma

Plantilla:Distribució de probabilitat

En la teoria de la probabilitat i l'estadística, la distribució gamma és una família de distribucions contínues amb dos paràmetres que inclouen com a casos particulars moltes distribucions importants, com la distribució exponencial, khi quadrat o Erlang. Té un paràmetre d'escala θ i un paràmetre de forma k. Si k és un nombre sencer aleshores la distribució representa la suma de k variables aleatòries exponencials, cadascuna de les quals té mitjana θ. La referència bàsica d'aquest article és Johnson et al.Plantilla:Sfn.

Funció de densitat i parametritzacions

Hi ha dues parametritzacions diferents de la distribució gamma. La primera utilitza un paràmetre d'escala $\theta \in (0,\mathrm{\infty })$ i un paràmetre de forma $k\in (0,\mathrm{\infty })$, i és àmpliament utilitzada tant en Estadística com en Probabilitats; a més, és la més habitual en el programari estadístic. La funció de densitat és

Plantilla:Equation box 1

on $\mathrm{\Gamma }(k)$ és la funció gamma. Si $X$ és una variable aleatòria amb aquesta distribució, s'escriu $X\sim \mathrm{\Gamma }(k,\theta )$ o $X\sim \text{Gamma}(k,\theta )$ .

La segona parametrització utilitza un paràmetre d'escala inversa, que també s'anomena paràmetre de taxa (rate parameter), $\beta \in (0,\mathrm{\infty })$, $\beta =1/\theta$, i el paràmetre de forma $\alpha =k\in (0,\mathrm{\infty })$. Aquesta parametrització també s'utilitza molt, per exemple en teoria de la probabilitat o en Estadística bayesiana. La funció de densitat, amb aquesta parametrització és $$f(x;\alpha ,\beta )=\{\begin{array}{cc}\frac{{\beta }^{\alpha }}{\mathrm{\Gamma }(\alpha )}{x}^{\alpha -1}{e}^{-\beta x},& \text{si}x>0,\\ 0,& \text{si}x\le 0.\end{array}$$

En aquest article utilitzarem la primera parametrització.

Funció de distribució

$$F(x;k,\theta )=\{\begin{array}{cc}\frac{1}{\mathrm{\Gamma }(k)}\gamma (k,\frac{x}{\theta }),& \text{si}x\ge 0\\ 0,& \text{si}x<0,\end{array}$$on $\gamma (k,x)$ és la funció gamma incompleta inferior.

Propietat d'escala

Sigui $X\sim \mathrm{\Gamma }(k,\theta )$. Aleshores per qualsevol $c>0$, tenim que $cX\sim \mathrm{\Gamma }(k,c\theta )$. Aquesta propietat es comprova calculant la funció de densitat de $cX$.

En particular, si $X\sim \mathrm{\Gamma }(k,\theta )$, aleshores $\frac{X}{\theta }\sim \mathrm{\Gamma }(k,1)$ i, recíprocament, si $Y\sim \mathrm{\Gamma }(k,1)$, aleshores $\theta Y\sim \mathrm{\Gamma }(k,\theta )$; Johnson et alPlantilla:Sfn anomenen distribució gamma estàndard a la distribució $\mathrm{\Gamma }(k,1)$.

En termes de les funcions de densitat tenim la relació$$f(x;k,\theta )=\frac{1}{\theta }f(\frac{x}{\theta };k;1),$$ que és una de les característiques dels paràmetres d'escala.

La propietat d'escala permet reduir diverses propietats (per exemple el càlcul dels moments) a casos més senzills.

Moments

La distribució gamma té moments de tots els ordres. Si $X\sim \mathrm{\Gamma }(k,\theta )$, aleshores per a $n\ge 1$,

Plantilla:Equation box 1

En particular, $$E[X^2]={\theta }^{2}k(k+1),$$ d'on $$\text{Var}(X)=E[X^2]-(E[X]{)}^2={\theta }^{2}k.$$

Plantilla:Equation box 1

Plantilla:Caixa desplegable

Funció generatriu de moments i funció característica

La distribució gamma $\mathrm{\Gamma }(k,\theta )$ té funció generatriu de moments en una semirecta que conté el zero: $$M(t)=\frac{1}{(1-\theta t{)}^k},t\in (-\mathrm{\infty },\frac{1}{\theta }).$$

Plantilla:Caixa desplegable

La funció característica és $$\phi (t)=\frac{1}{(1-i\theta t{)}^k}=\exp \{-k\log (1-i\theta t)\},t\in ℝ,$$ on $\log$ és la branca principal del logaritme, és a dir, amb la part imaginària a $(-\pi ,\pi )$ .

Caràcter reproductiu

Si $X_1\sim \mathrm{\Gamma }(k_1,\theta )$ i $X_2\sim \mathrm{\Gamma }(k_2,\theta )$ independents, aleshores $X_1+X_2\sim \mathrm{\Gamma }(k_1+k_2,\theta )$; és diu que la distribució $\mathrm{\Gamma }(k,\theta )$ és reproductiva respecte el paràmetre $k$ . Aquesta propietat es demostra utilitzant les funcions característiques (o les funcions generatrius de moments) de $X_1$ i $X_2$.

Més generalment, si $X_1,\dots ,X_n$ són independents, $X_i\sim \mathrm{\Gamma }(k_i,\theta )$ , aleshores $$\sum _{i=1}^n{X}_i\sim \mathrm{\Gamma }(\sum _{i=1}^n{k}_i,\theta ).$$ .

La distribució gamma és infinitament divisible

La distribució gamma $\mathrm{\Gamma }(k,\theta )$ és infinitament divisible (o infinitament descomposable), això és, sigui $X\sim \mathrm{\Gamma }(k,\theta )$, aleshores per a qualsevol enter $n\ge 1$, existeixen (en algun espai de probabilitat) variables aleatòries $X_1,\dots ,X_n$ independents i idènticament distribuïdes tals que $$X\stackrel{𝒟}{=}{X}_1+\cdots +X_n,$$on $\stackrel{𝒟}{=}$ indica la igualtat en distribució o llei. Aquí cal prendre $X_i\sim \mathrm{\Gamma }(k/n,\theta ),i=1,\dots ,n$ .

La representació de Lévy-Khintchine de la funció característica és $$\phi (t)=\exp \left\{k\underset{0}{\overset{\mathrm{\infty }}{\int }}\right(e^{itx}-1\left)\frac{e^{-x/\theta }}{x}dx\right\}.$$ Per tant, la mesura de Lévy té densitat $$g(x)=k\frac{e^{-x/\theta }}{x},x>0,$$ i la part gaussiana i la deriva (drift) són zero (vegeu Sato per a les definicions d'aquests termes).

Aproximació de la distribució gamma per la distribució normal

En aquest apartat suposarem que el paràmetre $k$ és un nombre natural. Sigui $X_k\sim \mathrm{\Gamma }(k,1)$, aleshores, com conseqüència del teorema central de límit, $$\frac{X_k-k}{\sqrt{k}}\underset{k\to \mathrm{\infty }}{\stackrel{𝒟}{⟶}}𝒩(0,1).$$(Vegeu les notacions a convergència de variables aleatòries.) En altres paraules, per a $k$ gran, $X_k$ és aproximadament normal $𝒩(k,k)$ .

Però aquesta aproximació a la distribució normal és molt lenta i el següent resultat dona una aproximació més ràpida: Sigui $X_k\sim \mathrm{\Gamma }(k,1)$. Aleshores $$2(\sqrt{X_k}-\sqrt{k-\frac{1}{4}})\underset{k\to \mathrm{\infty }}{\stackrel{𝒟}{⟶}}𝒩(0,1).$$ És a dir, per a $k$ gran, $\sqrt{X_k}$ és aproximadament normal $𝒩(\sqrt{k-\frac{1}{4}},\frac{1}{4})$.

Altres propietats

Família exponencial

La distribució gamma pertany a la família exponencial de dos paràmetres i té paràmetres naturals $k-1$ i $1/\theta$, i estadístics naturals $X$ i $\ln (X)$.

Moda

Quan $k\ge 1$, la funció de densitat de la distribució $\mathrm{\Gamma }(k,\theta )$ té un únic màxim al punt $\theta (k-1)$; és diu que aquest valor és la moda de la distribució i que la distribució és unimodal. El valor del màxim és $(k-1{)}^{k-1}{e}^{-(k-1)}/(\theta \mathrm{\Gamma }(k))$, que per la fórmula de Stirling, per a valors grans de $k$ es pot aproximar per $1/\left(\theta \sqrt{2\pi (k-1)}\right)$.

Quan $k\in (0,1)$, aleshores la densitat no està afitada, ja que, en aquest cas, $\underset{x\to 0^{+}}{\lim }f(x;k,\theta )=\mathrm{\infty }.$

Entropia

L'entropia ve donada per

$\frac{-1}{{\theta }^k\mathrm{\Gamma }(k)}\underset{0}{\overset{\mathrm{\infty }}{\int }}\frac{x^{k-1}}{e^{x/\theta }}[(k-1)\ln x-x/\theta -k\ln \theta -\ln \mathrm{\Gamma }(k)]dx$

$=-[(k-1)(\ln \theta +\psi (k))-k-k\ln \theta -\ln \mathrm{\Gamma }(k)]$

$=k+\ln \theta +\ln \mathrm{\Gamma }(k)+(1-k)\psi (k)$

on ψ(k) és la funció digamma.

Divergència Kullback-Leibler

La divergència Kullback-Leibler entre una Γ(α₀, β₀) (la distribució veritable) i una Γ(α, β) (la distribució que l'aproxima) ve donada per

$D_{\mathrm{K}\mathrm{L}}(\alpha ,\beta ||{\alpha }_0,{\beta }_0)=\log \left(\frac{\mathrm{\Gamma }({\alpha }_0){\beta }_0^{{\alpha }_0}}{\mathrm{\Gamma }(\alpha ){\beta }^{{\alpha }_0}}\right)+(\alpha -{\alpha }_0)\psi (\alpha )+\alpha \frac{\beta -{\beta }_0}{{\beta }_0}$

Transformada de Laplace

La transformada de Laplace de la distribució gamma és:

$F(s)=\frac{{\beta }^{\alpha }}{(s+\beta {)}^{\alpha }}$

Estimació dels paràmetres

Màxima versemblança

La funció de versemblança per a N observacions iid $(x_1,\dots ,x_N)$ és

$L(\theta )=\prod _{i=1}^{N}f(x_i;k,\theta )$

de la qual podem calcular la log-versemblança

$\ell (\theta )=(k-1)\sum _{i=1}^N\ln (x_i)-\sum x_i/\theta -Nk\ln (\theta )-N\ln \mathrm{\Gamma }(k).$

L'estimador màxim-versemblant s'obté maximitzant la log-versemblança, és a dir, calculant-ne la derivada i igualant a zero (es pot demostrar que la funció és convexa i que per tant té un sol extrem). Procedint d'aquesta manera trobem que:

$\hat{\theta }=\frac{1}{kN}\sum _{i=1}^N{x}_i.$

Substituint aquest resultat a l'expressió de la log-versemblança dona

$\ell =(k-1)\sum _{i=1}^N\ln (x_i)-Nk-Nk\ln \left(\frac{\sum x_i}{kN}\right)-N\ln (\mathrm{\Gamma }(k)).$

Per trobar el màxim respecte de k cal calcular la derivada i igualar-la a zero, amb què s'obté:

$\ln (k)-\psi (k)=\ln \left(\frac{1}{N}\sum _{i=1}^N{x}_i\right)-\frac{1}{N}\sum _{i=1}^N\ln (x_i)$

on

$\psi (k)=\frac{{\mathrm{\Gamma }}^{\prime }(k)}{\mathrm{\Gamma }(k)}$

és la funció digamma. No existeix cap fórmula tancada per a k, però la funció es comporta bé numèricament (és convex) i, per tant, és senzill trobar-ne una solució numèrica, per exemple amb el mètode de Newton. És possible trobar un valor inicial per a k emprant el mètode dels moments, o emprant l'aproximació

$\ln (k)-\psi (k)\approx \frac{1}{k}(\frac{1}{2}+\frac{1}{12k+2}).$

Si definim

$s=\ln \left(\frac{1}{N}\sum _{i=1}^N{x}_i\right)-\frac{1}{N}\sum _{i=1}^N\ln (x_i),$

aleshores k és aproximadament

$k\approx \frac{3-s+\sqrt{(s-3{)}^2+24s}}{12s}$

que és dins d'un 1,5% del valor correcte.

Estimador Bayesià

Si considerem que k és conegut i $\theta$ és desconegut, la funció de densitat a posteriori per a $\theta$ és (assumint que la distribució a priori és proporcional a $1/\theta$)

$P(\theta |k,x_1,...,x_N)\propto 1/\theta \prod _{i=1}^{N}f(x_i;k,\theta ).$

Definint

$y\equiv \sum _{i=1}^N{x}_i,P(\theta |k,x_1,\dots ,x_N)=C(x_i){\theta }^{-Nk-1}{e}^{-y/\theta }.$

Per tal de calcular l'esperança cal calcular la integral respecte &theta, el qual pot dur-se a terme emprant un canvi de variables que revela que 1/&theta segueix una distribució gamma amb paràmetres $\alpha =Nk,\beta =y$.

$\underset{0}{\overset{\mathrm{\infty }}{\int }}{\theta }^{-Nk-1+m}{e}^{-y/\theta }d\theta =\underset{0}{\overset{\mathrm{\infty }}{\int }}{x}^{Nk-1-m}{e}^{-xy}dx=y^{-(Nk-m)}\mathrm{\Gamma }(Nk-m).$

Els moments podem calcular-se especificant diferents valors per a m a la següent expressió

$E(x^m)=\frac{\mathrm{\Gamma }(Nk-m)}{\mathrm{\Gamma }(Nk)}{y}^m,$

Per exemple, l'esperança +/- la desviació estàndard de la distribució a posteriori de $\theta$ és:

$\frac{y}{Nk-1}$ +/- $\frac{y^2}{(Nk-1{)}^2(Nk-2)}.$

També és possible obtenir estimadors Bayesians sense assumir que k és conegut, però en general no és possible obtenir-ne una expressió senzilla.

Generació de valors d'una distribució gamma

Tenint en compte la propietat d'escala esmentada anteriorment, és suficient generar una variable gamma amb β = 1 i després transformar-la a qualsevol altre valor de β amb una simple divisió.

Emprant el fet que una distribució Γ(1, 1) és el mateix que una distribució exponencial Exp(1), i tenint en compte el mètode per generar variables aleatòries exponencials, arribem a la conclusió que si U prové d'una distribució uniforme en (0, 1], aleshores -ln(U) segueix una Γ(1, 1). Emprant la propietat de què la suma de variables aleatòries gamma independents segueix novament una distribució gamma, extenem el resultat:

$\sum _{k=1}^n-\ln U_k\sim \mathrm{\Gamma }(n,1),$

on U_k són uniformement distribuïdesen (0, 1] i independents.

Tanmateix aquesta estratègia només funciona si n és un nombre sencer. Ara veurem com generar observacions d'una Γ(δ, 1) per a 0 < δ < 1, ja que després podem aplicar la propietat de la suma per al cas 1 < &delta.

A continuació presenten un algoritme, sense demostració. Es tracta d'un cas particular del mètode d'acceptació-rebuig:

1. Sigui m= 1.
2. Generar $V_{2m-1}$ i $V_{2m}$ — independents i uniformement distribuïdes a (0, 1].
3. Si $V_{2m-1}\le v_0$, on $v_0=\frac{e}{e+\delta }$, aleshores anar a 4, altrament anar a 5.
4. Sigui ${\xi }_m=V_{2m-1}^{1/\delta },{\eta }_m=V_{2m}{\xi }_m^{\delta -1}$. Anar a 6.
5. Sigui ${\xi }_m=1-\ln V_{2m-1},{\eta }_m=V_{2m}{e}^{-{\xi }_m}$.
6. Si ${\eta }_m>{\xi }_m^{\delta -1}{e}^{-{\xi }_m}$, aleshores incrementar m i tornar a 2.
7. Assumim que $\xi ={\xi }_m$ és l'observació d'una $\mathrm{\Gamma }(\delta ,1)$

Per resumir,

$\theta (\xi -\sum _{i=1}^{[k]}\ln U_i)\sim \mathrm{\Gamma }(k,\theta ),$

on [k] és la part sencera de k, i ξ ha estat generat emprant l'algoritme que hem presentat δ = {k} (la part fraccional de k), U_k i V_l segueixen la distribució explicada anteriorment i són independents.

La Llibreria científica GNU disposa de rutines robustes per a generar observacions de moltes distribucions, incloent la distribució Gamma.

Distribucions relacionades

Casos particulars

• Si $X\sim \mathrm{\Gamma }(k=1,\theta =1/\lambda )$, aleshores X segueix una distribució exponencial amb paràmetre λ.
• Si $X\sim \mathrm{\Gamma }(k=v/2,\theta =2)$, aleshores X és idènticament distribuïda a una χ²(ν), la distribució khi-quadrat amb ν graus de llibertat.
• Si $k$ és un nombre sencer, la distribució gamma es denomina distribució d'Erlang que serveix per a modelar el temps d'arribada fins a la $k$-ena "arribada" en un procés de Poisson d'una dimensió amb intensitat 1/θ.

• Si $X^2\sim \mathrm{\Gamma }(3/2,2a^2)$, aleshores X segueix una distribució de Maxwell-Boltzmann amb paràmetre a.
• $X\sim \mathrm{S}\mathrm{k}\mathrm{e}\mathrm{w}\mathrm{L}\mathrm{o}\mathrm{g}\mathrm{i}\mathrm{s}\mathrm{t}\mathrm{i}\mathrm{c}(\theta )$, aleshores $\mathrm{l}\mathrm{o}\mathrm{g}(1+e^{-X})\sim \mathrm{\Gamma }(1,\theta )$

Altres

• Si X segueix una Γ(k, θ) aleshores 1/X segueix una distribució gamma inversa amb paràmetres k i θ^-1.
• Si X i Y són Γ(α, θ) i Γ(β, θ) independents, respectivament, aleshores X / (X + Y) segueix una distribució beta amb paràmetres α i β.
• Si X_i són Γ(α_i,θ) independents, aleshores el vector (X₁ / S, ..., X_n / S), on S = X₁ + ... + X_n, segueix una distribució de Dirichlet amb paràmetres α₁, ..., α_n.

Distribució gamma amb tres paràmetres

Johnson et al.Plantilla:Sfn introdueixen la distribució gamma amb tres paràmetres: a més dels paràmetres de forma i escala $k,\theta \in (0,\mathrm{\infty })$, consideren un paràmetre de posició $\gamma \in ℝ$; la distribució ve definida per la funció de densitat $$f(x;k,\theta ,\gamma )=\{\begin{array}{cc}\frac{1}{{\theta }^k\mathrm{\Gamma }(k)}(x-\gamma {)}^{k-1}{e}^{-(x-\gamma )/\theta },& \text{si}x>\gamma ,\\ 0,& \text{si}x\le \gamma .\end{array}$$

Bibliografia

• Hogg, R. V. and Craig, A. Introduction to Mathematical Statistics, 4th edition. Nova York: Macmillan, 1978. (Vegeu la secció 3.3.)
• Plantilla:Ref-llibre

• Choi, S. C: and R. Wette, R. (1969) Maximum Likelihood Estimation of the Parameters of the Gamma Distribution and Their Bias, Technometrics, 11(4) 683-69

Enllaços externs

• Plantilla:MathWorld
• Engineering Statistics Handbook