第 2 回 Q-Qプロット、第2回課題

本日の内容

• 2-1. 確率(1)
• 2-2. Q-Qプロット

このドキュメントは http://edu.net.c.dendai.ac.jp/ 上で公開されています。

2-1. 確率(1)

定義

事象により、確率変数 $X$ はある値をとる。 $X$の変域として実数を考える。 $X$が $x$以下の 値を取る確率 $Pr\left(X\le x\right)$ を累積分布関数 $F\left(x\right)$ という。 累積分布関数 $F$ の導関数 $f$ を確率密度関数といい、 $F\left(x\right)={\int }_{\mathrm{-\infty }}^{x}f\left(t\right)dt$ で定義する。 これは $F\left(\mathrm{-\infty }\right)=0$ 、 $F\left(\mathrm{\infty }\right)={\int }_{\mathrm{-\infty }}^{\mathrm{\infty }}dF\left(t\right)={\int }_{\mathrm{-\infty }}^{\mathrm{\infty }}f\left(t\right)dt=1$ を満たす。 $Pr\left(X<a,Y<b\right)=Pr\left(X<a\right)Pr\left(Y<b\right)$ のとき、 $X$ と $Y$ は独立であると言う。

平均 $\mu =Ex\left(X\right)$ は ${\int }_{\mathrm{-\infty }}^{\mathrm{\infty }}xdF\left(x\right)={\int }_{\mathrm{-\infty }}^{\mathrm{\infty }}xf\left(x\right)dx$ である。 分散は ${\sigma }^2=\mathrm{Var}\left(X\right)=Ex\left({(x-\mu )}^2\right)$

確率変数 $X$ が平均 0、分散1のとき、 $Y=\sigma X+\mu$ は平均 $\mu$、分散 ${\sigma }^2$ になる。 $X$ の 確率密度関数が $f\left(x\right)$ であるとき、 $Y$ の 確率密度関数は $Pr\left(Y\le y\right)=Pr\left(\sigma X+\mu \le y\right)={\int }_{\mathrm{-\infty }}^{\frac{y-\mu }{\sigma }}f\left(t\right)dt={\int }_{\mathrm{-\infty }}^y\frac{1}{\sigma }f\left(\frac{s-\mu }{\sigma }\right)ds$ より $\frac{1}{\sigma }f\left(\frac{x-\mu }{\sigma }\right)$ となる。

モーメント母関数(積率母関数)を $M_X\left(t\right)=Ex\left({\mathrm{e}}^{tX}\right)$

特性関数を ${\phi }_X\left(t\right)=Ex\left({\mathrm{e}}^{itX}\right)={\int }_{\mathrm{-\infty }}^{\mathrm{\infty }}{e}^{itx}dF\left(x\right)={\int }_{\mathrm{-\infty }}^{\mathrm{\infty }}{e}^{itx}f\left(x\right)dx$ とする。 これは確率密度関数のフーリエ変換になるので、 逆フーリエ変換を考えると次が成り立つ。 $f\left(x\right)=\frac{1}{2\mathrm{\pi }}{\int }_{\mathrm{-\infty }}^{\mathrm{\infty }}{e}^{itx}{\phi }_X\left(t\right)dt$

中心極限定理と正規分布

$X_1,...,X_n$ を 独立で、 平均が $\mu$で 分散が ${\sigma }^2$ となる、任意の同じ確率分布の確率変数とする。 このとき、 $S_n=X_1+...+X_n$ は $n$が大きくなると 平均 $n\mu$ 、 分散 $n{\sigma }^2$ の正規分布に収束する。

証明

$Z_n=\frac{S_n-n\mu }{\sqrt{n{\sigma }^2}}$ が平均0, 分散 1 の正規分布に従うことを示す。

$Z_n$ の積率母関数を考える。

特性関数は ${\phi }_{Z_n}\left(t\right)=M_{Z_n}(it)={\mathrm{e}}^{-\frac{t^2}{2}}$ となるので、これを逆フーリエ変換して確率密度関数関数を求める。

Q.E.D.

平均 $\mu$ 分散 ${\sigma }^2$ の正規分布を $N(\mu ,{\sigma }^2)$ で表す。 確率密度関数は $\frac{1}{\sqrt{2\mathrm{\pi }}\sigma }{\mathrm{e}}^{-\frac{1}{2}{\left(\frac{x-\mu }{\sigma }\right)}^2}$ 。 $\Phi \left(x\right)=\frac{1}{\sqrt{2\mathrm{\pi }}}{\int }_{\mathrm{-\infty }}^x{\mathrm{e}}^{-\frac{t^2}{2}}dt$ とすると、累積分布関数は $\Phi \left(\frac{x-\mu }{\sigma }\right)$ 。

様々な確率分布(1)

指数分布

平均 $1/\lambda$ 、 分散 $1/{\lambda }^2$ の指数分布の確率密度関数は $f\left(x\right)=\lambda {\mathrm{e}}^{-\lambda x}$ 、累積分布関数は $f\left(x\right)=\lambda {\mathrm{e}}^{-\lambda x}$ 。 モーメント母関数は $\frac{1}{1-t/\lambda }$ 。

対数正規分布

確率密度関数は $\frac{1}{\sqrt{2\mathrm{\pi }{\sigma }^2}x}exp\left(-\frac{1}{2}{\left(\frac{lnx-\mu }{\sigma }\right)}^2\right)$ 、累積分布関数は $\Phi \left(\frac{lnx-\mu }{\sigma }\right)$

再生性

確率分布族に含まれる確率分布 $F_1$, $F_2$ に従う確率変数 $X_1$, $X_2$ に対して、 $Y=X_1+X_2$ の確率分布が同じ確率分布族に含まれるとき、 その確率分布族は再生性があると言います。

直接確率分布を計算する他に、モーメント母関数から求める方法がありま す。 $Y$のモーメント母関数は $Ex\left({\mathrm{e}}^{Yt}\right)=Ex\left({\mathrm{e}}^{(X_1+X_2)t}\right)==Ex\left({\mathrm{e}}^{X_{1}t}\right)Ex\left({\mathrm{e}}^{X_{2}t}\right)$ より、モーメント母関数の積が同じ確率分布族になる場合、再生性がある と言える。

正規分布

$N({\mu }_1,{\sigma }_1^2)$ , $N({\mu }_2,{\sigma }_2^2)$ のそれぞれのモーメント母関数 ${\mathrm{e}}^{{\mu }_{1}t+\frac{{\sigma }_1^2}{2}{t}^2}$ , ${\mathrm{e}}^{{\mu }_{2}t+\frac{{\sigma }_2^2}{2}{t}^2}$ の積を考えると ${\mathrm{e}}^{({\mu }_1+{\mu }_2)t+\frac{({\sigma }_1^2+{\sigma }_2^2)}{2}{t}^2}$ となり、 $N({\mu }_1+{\mu }_2,{\sigma }_1^2+{\sigma }_2^2)$ のモーメント母関数となるため、再生性を持つ。

指数分布

対数正規分布

2-2. Q-Qプロット

Q-Qプロットの Q は quantiles分位数を意味します。 累積分布関数$F$を持つ確率分布に従うとき、 $q$分位数 $Q_q$は $q=F\left(Q_q\right)$ となる値である。 Q-Qプロットは定義とすれば、2つの確率分布 $D_1$, $D_2$ について、 $q$分位数 がそれぞれ $Q_1\left(q\right)$, $Q_2\left(q\right)$ とすると、 $q$ をパラメータとして $(Q_1(q),Q_2(q\left)\right)$ をプロットしたものが Q-Qプロットになる。 もし、 $D_1$ と $D_2$ が同じ分布のとき、 このグラフは $y=x$ のグラフになる。 $n$個のデータ $x_1,...,x_n$ , ( $x_1\le ...\le x_n$ ) の $i$番目のデータを $\frac{i}{n}$ 分位数 とみなし、 また、このデータが従う確率分布の累積分布関数が $F\left(X\right)$ のとき、 $(x_i,F^{-1}(\frac{i}{n}\left)\right)$ をプロットすると、 $y=x$ 上に並ぶ。 もし、 このデータ系列が また、このデータが従う確率分布の累積分布関数が $F(\sigma X+\mu )$ に従っているとき、 $(x_i,F^{-1}(\frac{i}{n}\left)\right)$ をプロットすると、 $y=\sigma x+\mu$ 上に点が並ぶ。 つまり、平均、分散をパラメータとして与えられる確率分布に 従うデータに関しては、 平均0、分散1の確率分布の分位数を考えることで、 Q-Qプロットで直線が得られる。

特に、 $N(0,1)$ の累積分布関数 $\Phi$ に関して、 $(x_i,{\Phi }^{-1}(\frac{i}{n}\left)\right)$ をプロットするのを 正規確率プロット と呼ぶ。

Q-Qプロットをすると、与えられたデータが仮定した確率分布とどの程度 類似しているかを可視化できる。 なお、仮定する確率分布として、正規分布の他、指数分布や対数正規分布など、 様々なものが使われる。

課題

以下のデータをダウンロードし、何らかの確率分布を仮定し、Q-Qプロット で類似性を可視化すること。 また、Q-Qプロットから確率分布を推定しなさい。

1. data21.csv
2. data22.csv