確率論

定義や短い所見を書いていきます.僕が書き留めたい程度のレベルなので,前提は工学部の学部一,二年くらいです.定義を振り返る際にどうぞ.

目次

確率,確率空間

前提条件を同じにしても,結果にランダムネスを持つ実験を試行という.その試行で起こりうる最も細かく分類されたそれぞれの結果を根元事象(標本点)といい,根元事象をすべて含むものを全事象$\Omega$(標本空間ともいう),何も含まない事象(得てして起こり得ない)を空事象$\varnothing$と呼ぶ.根元事象のうち,ある事柄$A$に都合の良いものだけを集めた集合を,その事柄の事象$A$(event)というのだった.

全事象$\Omega$の部分集合族$\mathscr{F}$の要素(事象)に確率という値を付与する.これを$P(A)$と表現しよう.
ただし$A \in \mathscr{F}$.

このとき$(\Omega ,\mathscr{F},P)$の組を確率空間(Probability space)という.

ただし,集合族$\mathscr{F}$は以下のように定義されるσ-algebraでないと確率計算に整合性が持てない.確率$P$の定義域として望ましい条件がいるということだ.

(1). $A \in \mathscr{F} \Rightarrow A^{c} \in \mathscr{F}$
(2). $A_n \in \mathscr{F}, n=1,2,… \Rightarrow \cup_{n=1}^\infty A_n \in \mathscr{F}$

確率$P$はこのσ-algebra(Borel集合族)に対して定義され,以下の性質を持つ.

(1). $P(\Omega)=1$
(2). $\forall A \in \mathscr{F} , P(A) \geq 0$
(3). $A_n (n \in \mathbb{N} )$が互いに共通部分を持たない$\Rightarrow$
f:id:ism-k:20170212030810p:plain

条件付き確率

事象$A, B$で,$A$が起きたときに$B$が生起する確率を,$A$を与えたときの$B$の条件付き確率(conditional probability)といい,$P(B|A)$と表す.また,
$$P(B|A) = \frac{P(A \cap B)}{P(A)}$$ と定義される.$P(A)=0$なら$P(B|A)=0$としておけばうまくいく.

$A$と$B$が独立であるとは,
$$P(B|A) = P(B)$$ となることと同値である.$P(A \cap B)=P(A)P(B)$と表しても本質的には同じ意味である.

ベイズの定理

以上の事実から,以下の定理が導かれる.

$P(A)>0$において, $$P(B|A) = \frac{P(A|B)P(B)}{P(A)}$$ が成り立つ.

つまり,条件付き確率の条件部と帰結部を反転して考えることができる.
$P(A|B), P(B|A)$のどちらかが計算困難であっても,もう片方の条件付き確率から計算をすることができ,非常に有用である.
この定理を基幹とした分野にベイズ統計学がある.

離散型確率分布

確率変数の一般的な定義は以下のようである.

確率空間$(\Omega ,\mathscr{F},P)$で,$X$を$\Omega$の各要素に実数値を対応させる関数$X:\Omega \rightarrow \mathbb{R}$とする.$X$の値域が有限または加算無限であるとき,$X$は離散的確率変数(discrete random variable)という.

この$X$の値域(写像の行き先)は,実数値というBorel集合族$\mathscr{F}$に属する確率事象であるので*1,そこでまた確率空間を考えることもできるだろう.
つまり確率変数は,より一般的には確率のような,集合に数値を与えるはたらき(測度と呼ぶ)を考えられる標本空間$\Omega$のようなもの(可測空間)同士の橋渡しとも捉えられる(!)のだが,現時点では深く考えなくて良いだろう.
これら確率変数の概念の拡張として,詳しくは確率要素もしくは確率過程について調べてみると良いようである.

事象${ \omega:X(\omega)=x_i }$の確率を$P(X=x_i)$と略記しよう.

ここで確率質量関数(Probability mass function)$f$は以下のように定義される.

確率変数が取る値$x$について, $$f(x)=P(X=x)$$

確率なので,値域は$[0,1]$である.つまり以下のように条件付けられる.

(1). $f(x) \geq 0, \ \ x \in \mathbb{R}$
(2). ${ x:f(x)\neq 0}$は$\mathbb{R}$の有限または加算無限の要素を持つ部分集合.この要素に関して(3)がいえる
(3). $\sum_i f(x_i) = 1$

*1:実数値空間における任意の開集合を含む最小のσ-algebraをBorel集合族というが,そういった何か都合の良い集合族があるのだなとわかれば良いとおもう.

広告を非表示にする