Momentová vytvořující funkce

Momentová vytvořující funkce (anglicky moment-generating function) náhodné veličiny je v teorii pravděpodobnosti a statistice alternativní popis rozdělení pravděpodobnosti, založený na vytvořující funkci posloupnosti momentů daného rozdělení. Momentová vytvořující funkce umožňuje dostat se k analytickým výsledkům jinou cestou než přímým používáním hustot pravděpodobnosti nebo distribučních funkcí. Velmi jednoduché je použití momentové vytvořující funkce definované váženými součty náhodné proměnné.

Momentovou vytvořující funkci lze definovat nejen pro jednorozměrná rozdělení, ale i pro vektorové nebo maticové náhodné proměnné a lze ji dokonce rozšířit i na obecnější případy.

Na rozdíl od charakteristické funkce nemusí ani pro reálné argumenty momentová vytvořující funkce vždy existovat. Existují vztahy mezi chováním momentové vytvořující funkce rozdělení a vlastnostmi rozdělení, jako například existence momentů.

Definice

V teorii pravděpodobnosti a statistice se momentová vytvořující funkce náhodné proměnné X definuje jako

$M_{X}(t):=\mathbb {E} \!\left[e^{tX}\right],\quad t\in \mathbb {R} ,$

kdekoli tato střední hodnota existuje. Jinak řečeno, momentovou vytvořující funkci lze interpretovat jako střední hodnotu náhodné proměnné $e^{tX}$.

$M_{X}(0)$ vždy existuje a rovná se 1.

Klíčový problém s momentovou vytvořující funkcí je, že momenty a momentová vytvořující funkce nemusí existovat, protože potřebné integrály nekonvergují absolutně. Charakteristická funkce naproti tomu existuje vždy (protože je integrálem omezené funkce na prostoru konečné míry) a proto může být používána místo ní.

Pokud $\mathbf {X} =(X_{1},\ldots ,X_{n})$^T je n-rozměrný náhodný vektor, pak používáme $\mathbf {t} \cdot \mathbf {X} =\mathbf {t} ^{\mathrm {T} }\mathbf {X}$ místo tX:

$M_{\mathbf {X} }(\mathbf {t} ):=\mathbb {E} \!\left(e^{\mathbf {t} ^{\mathrm {T} }\mathbf {X} }\right).$

Důvodem pro definování této funkce je, že ji lze použít pro nalezení všech momentů rozdělení. Rozvinutí řady e^tX je:

$e^{t\,X}=1+t\,X+{\frac {t^{2}\,X^{2}}{2!}}+{\frac {t^{3}\,X^{3}}{3!}}+\cdots +{\frac {t^{n}\,X^{n}}{n!}}+\cdots .$

Odtud:

${\begin{aligned}M_{X}(t)=\mathbb {E} (e^{t\,X})&=1+t\,\mathbb {E} (X)+{\frac {t^{2}\,\mathbb {E} (X^{2})}{2!}}+{\frac {t^{3}\,\mathbb {E} (X^{3})}{3!}}+\cdots +{\frac {t^{n}\,\mathbb {E} (X^{n})}{n!}}+\cdots \\&=1+tm_{1}+{\frac {t^{2}m_{2}}{2!}}+{\frac {t^{3}m_{3}}{3!}}+\cdots +{\frac {t^{n}m_{n}}{n!}}+\cdots ,\end{aligned}}$

kde m_n je n-tý moment.

Derivováním M_X(t) i krát podle t a položením t = 0 dostaneme i-tý moment o počátek, m_i, viz kapitola Výpočet momentů níže.

Příklady

Následující tabulka obsahuje příklady momentová vytvořující funkce a charakteristická funkce pro porovnání. Je vidět, že charakteristická funkce je Wickovou rotací momentové vytvořující funkce M_x(t), pokud tato existuje.

Distribuce	Momentová vytvořující funkce MX(t)	Charakteristická funkce φ(t)
Alternativní $\,P(X=1)=p$	$\,1-p+pe^{t}$	$\,1-p+pe^{it}$
Geometrické $(1-p)^{k-1}\,p\!$	${\frac {pe^{t}}{1-(1-p)e^{t}}}\!$  $\forall t<-\ln(1-p)\!$	${\frac {pe^{it}}{1-(1-p)\,e^{it}}}\!$
Binomické B(n, p)	$\,(1-p+pe^{t})^{n}$	$\,(1-p+pe^{it})^{n}$
Poissonovo Pois(λ)	$\,e^{\lambda (e^{t}-1)}$	$\,e^{\lambda (e^{it}-1)}$
Rovnoměrné (spojité) U(a, b)	$\,{\frac {e^{tb}-e^{ta}}{t(b-a)}}$	$\,{\frac {e^{itb}-e^{ita}}{it(b-a)}}$
Rovnoměrné (diskrétní) U(a, b)	$\,{\frac {e^{at}-e^{(b+1)t}}{(b-a+1)(1-e^{t})}}$	$\,{\frac {e^{iat}-e^{i(b+1)t}}{(b-a+1)(1-e^{it})}}$
Normální N(μ, σ2)	$\,e^{t\mu +{\frac {1}{2}}\sigma ^{2}t^{2}}$	$\,e^{it\mu -{\frac {1}{2}}\sigma ^{2}t^{2}}$
Chí kvadrát χ2k	$\,(1-2t)^{-k/2}$	$\,(1-2it)^{-k/2}$
Gamma Γ(k, θ)	$\,(1-t\theta )^{-k}$	$\,(1-it\theta )^{-k}$
Exponenciální Exp(λ)	$\,(1-t\lambda ^{-1})^{-1},\,(t<\lambda )$	$\,(1-it\lambda ^{-1})^{-1}$
Vícerozměrné normální N(μ, Σ)	$\,e^{t^{\mathrm {T} }\mu +{\frac {1}{2}}t^{\mathrm {T} }\Sigma t}$	$\,e^{it^{\mathrm {T} }\mu -{\frac {1}{2}}t^{\mathrm {T} }\Sigma t}$
Degenerované δa	$\,e^{ta}$	$\,e^{ita}$
Laplaceovo L(μ, b)	$\,{\frac {e^{t\mu }}{1-b^{2}t^{2}}}$	$\,{\frac {e^{it\mu }}{1+b^{2}t^{2}}}$
Negativně binomické NB(r, p)	$\,{\frac {(1-p)^{r}}{(1-pe^{t})^{r}}}$	$\,{\frac {(1-p)^{r}}{(1-pe^{it})^{r}}}$
Cauchyho Cauchy(μ, θ)	neexistuje	$\,e^{i\mu t-\theta |t|}$

Výpočet

Momentová vytvořující funkce je střední hodnota funkce náhodné proměnné, což lze napsat:

• Obecně: $M_{X}(t)=\int _{-\infty }^{\infty }e^{tx}\,dF(x)$, kde F je distribuční funkce a je použit Riemannův–Stieltjesův integrál.

• Pro diskrétní pravděpodobnostní funkce: $M_{X}(t)=\sum _{i=1}^{\infty }e^{tx_{i}}\,p_{i}$

• Pro spojité hustoty pravděpodobnosti: $M_{X}(t)=\int _{-\infty }^{\infty }e^{tx}f(x)\,dx$

Pokud X má spojitou hustotu pravděpodobnosti ƒ(x), pak M_X(−t) je oboustrannou Laplaceovou transformací funkce ƒ(x).

${\begin{aligned}M_{X}(t)&=\int _{-\infty }^{\infty }e^{tx}f(x)\,dx\\&=\int _{-\infty }^{\infty }\left(1+tx+{\frac {t^{2}x^{2}}{2!}}+\cdots +{\frac {t^{n}x^{n}}{n!}}+\cdots \right)f(x)\,dx\\&=1+tm_{1}+{\frac {t^{2}m_{2}}{2!}}+\cdots +{\frac {t^{n}m_{n}}{n!}}+\cdots ,\end{aligned}}$

kde m_n je n-tý moment.

Součet nezávislých náhodných proměnných

Pokud $S_{n}=\sum _{i=1}^{n}a_{i}X_{i}$, kde X_i jsou nezávislé náhodné proměnné a a_i jsou konstanty, pak hustota pravděpodobnosti pro S_n je konvoluce hustoty pravděpodobnosti všech X_i, a momentová vytvořující funkce S_n je dána jako

$M_{S_{n}}(t)=M_{X_{1}}(a_{1}t)M_{X_{2}}(a_{2}t)\cdots M_{X_{n}}(a_{n}t)\,.$

Vektorové náhodné proměnné

Pro vektorové náhodné proměnné X s reálnými složkami je momentová vytvořující funkce dána vzorcem

$M_{X}(t)=E\left(e^{\langle t,X\rangle }\right)$

kde t je vektor a $\langle \cdot ,\cdot \rangle$ je skalární součin.

Důležité vlastnosti

Momentové vytvořující funkce jsou kladné a logaritmicky konvexní funkce s M(0) = 1.

Důležitou vlastností momentové vytvořující funkce je, že pokud dvě rozdělení mají stejné momentové vytvořující funkce, pak jsou rozdělení identická skoro všude. Neboli pokud pro všechny hodnoty t,

$M_{X}(t)=M_{Y}(t),\,$

pak

$F_{X}(x)=F_{Y}(x)\,$

pro všechny hodnoty x (nebo ekvivalentně: X a Y mají stejné rozdělení). Toto tvrzení není ekvivalentní s tvrzením „jestliže dvě rozdělení mají stejné momenty, pak jsou identická ve všech bodech“. Důvodem je, že v některých případech momenty existují, ale momentová vytvořující funkce ne, protože limita

$\lim _{n\rightarrow \infty }\sum _{i=0}^{n}{\frac {t^{i}m_{i}}{i!}}$

nemusí existovat. Příkladem je logaritmicko-normální rozdělení.

Výpočet momentů

Název momentová vytvořující funkce vyjadřuje, že pokud existuje na otevřeném intervalu v okolí t = 0, pak je exponenciální vytvořující funkcí momentů rozdělení:

$m_{n}=E\left(X^{n}\right)=M_{X}^{(n)}(0)={\frac {d^{n}M_{X}}{dt^{n}}}(0).$

Kde n je nezáporné celé číslo.

Jiné vlastnosti

Hoeffdingovo lemma dává omezení momentové vytvořující funkce pro omezenou náhodnou proměnnou s nulovým průměrem.

Vztah k jiným funkcím

Momentové vytvořující funkci se podobá několik dalších transformací, které se často používají v teorii pravděpodobnosti:

Charakteristická funkce

Charakteristická funkce $\varphi _{X}(t)$ má souvislost s momentovou vytvořující funkcí danou vztahem $\varphi _{X}(t)=M_{iX}(t)=M_{X}(to)$: charakteristická funkce je momentová vytvořující funkce iX nebo momentová vytvořující funkce X vyhodnocená na imaginární ose. Tuto funkci můžeme také považovat za Fourierovu transformaci hustoty pravděpodobnosti, která z ní může být odvozena inverzní Fourierovou transformací.

Kumulantová vytvořující funkce

Kumulantová vytvořující funkce je definována jako logaritmus momentové vytvořující funkce; někteří autoři definují kumulantovou vytvořující funkci jako logaritmus charakteristické funkce, jiní takto definovanou funkci nazývají druhou kumulantovou vytvořující funkcí.

Pravděpodobnostní vytvořující funkce

Pravděpodobnostní vytvořující funkce je definována jako $G(z)=E[z^{X}].\,$ Odtud okamžitě vyplývá, že $G(e^{t})=E[e^{tX}]=M_{X}(t).\,$

Odkazy

Reference

V tomto článku byl použit překlad textu z článku Moment-generating function na anglické Wikipedii.

• CASELLA, George; BERGER, Roger. Statistical Inference. 2. vyd. [s.l.]: [s.n.] ISBN 978-0-534-24312-8. 

• GRIMMETT, Geoffrey; WELSH, Dominic. Probability - An Introduction. 1. vyd. [s.l.]: [s.n.] ISBN 978-0-19-853264-4. 

Externí odkazy

• Momentová vytvořující funkce