確率変数の和 -合成積との関係- - 初級Mathマニアの寝言

前の記事では確率変数という概念を導入しました。今回は確率変数の和の確率分布関数はどうなるかを考えてみましょう。つまり、下の図のように二つの確率変数 $X_1,\,X_2$ が与えられたとき $X:=X_1+X_2$ という新しい確率変数の確率分布はどうなるか？ということを説明したいと思います。

f:id:ogyahogya:20140922103417p:plain

その前に、二つの確率変数の独立性というものを定義します。

●確率変数の独立性

二つの確率変数があると、その確率変数たちの関係性を論じることができます。中にはまったく関係のない確率変数たちもあるわけで、そのような確率変数たちは互いに独立であるといいます。厳密には、二つの確率変数が独立であるとは、同時確率分布が各々の確率変数の確率分布の積となるときにいいます。

f:id:ogyahogya:20140922103513p:plain

また、確率変数 $X_1,\,X_2$ が確率密度関数を持ち、独立であるときは次のことが言えます。

f:id:ogyahogya:20140922110520p:plain

●確率変数の和の確率分布関数

応用上、確率変数には確率密度関数が存在することが多いので、確率密度関数が存在すると仮定します（確率密度関数がないとしても、一般化された枠組みで同じことが言えます）。このとき、次のことが言えます。

f:id:ogyahogya:20140927101640p:plain

確率変数の和の確率密度関数を考えると二つの確率変数の確率密度関数の合成積と言われるものがでてきました。ここで、関数 $f$ と $g$ の合成積というのは $(f*g)(x):=\int_{-\infty}^{\infty} f(x-y)g(y) dy$ で定義されます。つまり、 $X$ の確率密度関数はこの記号を使って、

f:id:ogyahogya:20140927101710p:plain

と書けます。同様に、確率変数 $X_1,\,X_2,\,\cdots,\, X_n$ が独立で確率密度関数 $p^{X_1}(x_1),p^{X_2}(x_2),\cdots,p^{X_n}(x_n)$ を持つとすると、 $X:=X_1+X_2+\cdots +X_n$ の確率密度関数は

f:id:ogyahogya:20140927101730p:plain

となります。つまり、確率変数の和の確率密度関数は各確率変数が独立ならば確率密度関数たちの合成積によって特徴付けられるのです。よって、合成積の特徴を知ることで、確率変数の和の特徴を知ることが可能です。

●関数の合成積とは

前の記事で述べたように数学とは集合の性質を写像を通して調べる学問です。このことを意識して合成積のことをもっと深く考えてみましょう。そのために、まず対象とする関数が住む空間を設定します。

f:id:ogyahogya:20140922135054p:plain

関数 $f\in L^1[-\infty,\infty$ ] と $g\in L^{\infty}[-\infty,\infty$ ] の合成積とは次のように写像のことだと考えられます。

f:id:ogyahogya:20140922134706p:plain

確率密度関数は $(-\infty,\infty)$ で積分すると1になりますので $L^1[-\infty,\infty$ ]に入っていると考えられます。よって、二つの独立な確率変数 $X_1, X_2$ が与えられたとき、片方の確率密度関数が $L^{\infty}[-\infty,\infty$ ] に入っていれば合成積の定義は可能です。また、合成積 $\mathcal{C}$ が有界であることは、 $||\mathcal{C}g||_{\infty} \leq ||f||_1 ||g||_{\infty}$ からきています。このことから、 $L^1[-\infty,\infty$ ] の要素と $L^{\infty}[-\infty,\infty$ ] の要素の合成積をしても発散することはないということが保障されます。

●合成積の意味

合成積は数学的には上のように写像として定義されるのですが、具体的には次のような特徴を備えています。

f:id:ogyahogya:20140922140900p:plain

実際に、資料の p117とp118にあるように次のように合成積を繰り返すことで滑らかさが上がる様子が確認できます。図の中の $\Pi$ と $f$ は確率密度関数です。

f:id:ogyahogya:20140922141454p:plain

f:id:ogyahogya:20140922141507p:plain 図を見ると、独立な確率変数たち $X_1,\cdots,X_n$ の確率密度関数の合成積で $X:=X_1+X_2+\cdots +X_n$ の確率分布関数はガウス分布 (正規分布) となることが予想できます。これはある仮定のもとで正しく、中心極限定理と呼ばれています。このことは確率密度関数のフーリエ変換を考えることで分かりやすくなるので、まずフーリエ変換の説明を次回したいと思います。