Real Analysis and Probabilityをやるぞ！

[karino2]

Dudleyの、Real Analysis and Probability (Cambridge Studies in Advanced Mathematics)を読んでみる。

実解析ベースの確率論の入門書らしい。 最初からこれやれば良かったんじゃね？という気はするが、果たして？

[karino2]

10章 条件付き確率とマルチンゲール

今は確率過程には興味は無いからマルチンゲールのあたりは読まなくて良いかなぁ、と思うけれど、条件付き確率の定式化は見たこと無いので見ておこう、と思った。

10章は10.2まででいいかなぁ。

とりあえず読んでみよう。

[karino2]

10.1 Conditional Expectation

条件付き確率って言われてみると実解析の上ではこれまで見た事無かったな。

確率空間の元での定義はまぁ古典的なのと同じなので良い。

[karino2]

XのConditional Expectation given sub algebra

定義が出てきたがいまいちこれの意味する所か分からないのでメモを書く。

まずExampleを見ていく。1つ目。

[karino2]

[karino2]

を、個々のAについて計算してみよう。

[karino2]

[karino2]

[karino2]

深く考えずに計算してみた。こういう感じか？

で、Yによる積分がこれに一致するようなY、というのは、それぞれ3/2と1/2という事らしい。

細かい事を考えていこう。 Pというのは、サイコロを2つ投げた時の目に対する確率測度だよな。

で、Xというのはこのサイコロの目の組み合わせから、0, 1, 2への写像だ。

HH, HTという部分集合に対して、XのPによるルベーグ積分とはどう定義されるか？

Xを区間関数の和として表すと、

[karino2]

[karino2]

という感じか？離散的なのでデルタ関数で書くべきかもしれんが。

で、花文字Aの中の要素に対してXの値の値域を考えて、その逆像を考える。

例えば2の逆像を考えるとHHとなってて、これの測度が1/4、それとこの区間でのXの値、つまりは2を掛けた物が、2のあたりの積分値となる。

次に1の逆像を考えるとHTとTHか？ でもTHはAに収まってない。 普通、範囲Aでの積分は、$$I_A$$を掛けたもの、が定義だっけ。

[karino2]

よし、積分の意味は理解出来た。 次にYだ。

花文字Aで可測かどうか、というのは、1とか2の逆像が花文字Aに入るか、という事だよなぁ。

Xが花文字Aで可測じゃないけど、Aによる積分が定義出来る、という事はあるか？例えば1の逆像はTHとHTだから、この2つの集合は花文字Aには入ってない。

そもそも花文字Aはシグマ集合体なのか？ HH, HTの補集合は？TTとTHだな。そうか。入りそうか。

シグマ集合体はユニオンだけでいいんたっけ。じゃあ成り立ちそうか。

すると先ほどのXは花文字A上で可測関数では無い？ 1の逆像が花文字Aに入ってないので。

ふむ。

[karino2]

yとはなんぞや？

ではこれが成り立つ為のYというと？

気分的に何かの逆像が、HH, HTとTH, TTになるようなランダム変数ならいいんじゃないか。

例えば最初がHなら3/2、最初がTなら1/2、というランダム変数を考えよう。

3/2の逆像はHH, HT。1/2の逆像はTH, TT。 そしてこれらの逆像の確率測度はそれぞれ2/4なので、一致しそうだな。

お、これがExample iで言ってる事か。

で、これこそが、

[karino2]

[karino2]

の定義、と言っている。「最初の結果が同じ」というシグマ部分集合族がgivenな時の条件付き期待値、という事だ。

これは花文字Aで可測関数となっている。 もっと言えばPと合成する事で花文字Aの測度になるんじゃないか？

HH, HTで3/4、TH, TTで1/4、全体で1、なら測度になりそう。

この測度は何だろうか。定義により、そのAの区間でXをルベーグ積分したものだな。つまりその区間での期待値だ。

Yはその区間が実現した時の期待値だな。 つまり花文字Aの要素となる部分集合が実現した時の期待値。

ふむ、もともと、古典的な条件付き期待値は、ある事象が実現した時の期待値だよな。で、これはその事象の集合族に拡張されたものか。 個々の花文字Aの要素のもとでの条件付き期待値を返すような可測関数。

お、分かった気がする。

[karino2]

条件付き期待値、まとめ

花文字Aがgivenの時の条件付き期待値とは、花文字Aの上で可測な関数で、その値は花文字Aの要素のXでの期待値に一致するもの。

数式を言葉にしただけになってしまった。 数学の理解とはえてしてそういうものなので仕方ない。

[karino2]

定理 10.1.1条件付き期待値の存在する十分条件

10.1.1の証明がさっぱり頭に入ってこなかったのでここにメモしながら読む。

まずは花文字L1の定義から。

これはLpスペースのL1っぽいな。 定義としてはp153の5.1のあたりにあって、

[karino2]

[karino2]

となるようなfの集合だな。

で、本題の10.1.1。Xの花文字Aの要素による積分は、花文字Aのabsolutely continuousな測度となっている。

この測度があれば、Pとの間にRadon Nikodymの定理が使えて目的の性質を持ったYが存在する、と言える。

Xに関してはAによる積分が存在すればだいたい十分だよな。これと花文字L1が同じ事かはちょっと分からないが、多分十分条件だ、という定理がどっかにあるに違いない。

[karino2]

そのあとの話は眺めておく、くらいにしておく。 使いみちが良く分からんので。

10.1 条件付き期待値、雑感

条件付き確率の話だと思ってたが、実は条件付き期待値の話だった。

条件付き確率は次の10.2だそうで。

条件付き期待値は難しい事がある訳じゃないが、使いみちが良く分からないな。 使うのかしら？

[karino2]

10.2 条件付き確率

条件付き確率は、indicator functionの条件付き期待値で定義されるらしい。

少し定義を眺めてみよう。

[karino2]

[karino2]

ここで条件付き期待値は前にやったもの。

条件付き期待値の復習

ここに定義を書いておこう。

[karino2]

[karino2]

花文字Aで可測関数、というのは、実数のボレル集合族の逆像が花文字Aの元となっている、という事。

Pは花文字Aを含んだ元の花文字Sの測度で、いわゆるもとになってる確率空間の測度だ。

なんかすっと頭に入ってこないので最初から考えていく。

Aでの積分というのは、確率測度の値域は0から1までなので、この全値域の逆像のうち、Aに入ってるものだけを残す、という事だ。

で、このAを細かく分割して、Xのそこでの値とその区間の積を足し合わせた物が右辺となる。

左辺は花文字Aで可測というので、たぶん逆像がAになるような0, 1間のボレル集合が存在するんだよなぁ。

なんか分かった気がする。

[karino2]

条件付き確率に戻る

定義でオメガが入ってるのがなんか良く分からないので、まず右辺の式を条件付き期待値の定義に戻って書いてみよう。

花文字Cは手書きでは辛いので、Cに縦棒入れた物で表す。

[karino2]

[karino2]

となるYが、条件付き確率の定義らしい。 Yは可測関数なので、オメガを実数に射影する関数で、さらにB以外だとゼロに射影しているね。

左辺は古典的な話で良く見る、

[karino2]

[karino2]

だよな。

右辺がうまいこと、

[karino2]

[karino2]

になっていると、古典的な積の法則になるのだが。

Yは花文字C上で可測なので、Cの像は0, 1上のボレル集合となってて、逆像はCに一致するのだよな。

で、この積分は花文字C上の測度になってるだろう。

逆に考えてみよう。 花文字C上の測度があります。 これを、P(C)との積に分解した時の残った方をP(B|C)と定義する、と考えるとどうだろう？

まず花文字AはもともとSの部分集合族なので、P(C)は求まる。 で、ゼロじゃなければ、Yの積分値をP(C)で割る事はいつでも出来るだろう。

なんかあと一歩だな。

[karino2]

Bという確率変数の花文字Cの条件つき確率というのは、花文字Cという部分代数の各元Cに対し、P(B|C)となるような何かだよな。

で、これは1BとCのintersectのPによる測度を、P(C)で割った物になってて欲しい。

まてよ？これ、確率測度にする為に1で規格化しようと考えればいいんじゃないか？

すると、Bを全オメガで1Bの方の積分を計算してやると、P(C)となるよな。

ということは、定義により右辺も全部積分するとP(C)になるんだ。

じゃあ右辺を全体で積分して1にするなら？と考えると、P(C)で割れば良いな。

つまり、

[karino2]

[karino2]

は、花文字A上で定義された確率測度となるな。 これはBが隠れてしまってるが、Bを決めるとYが決まるので、Bの関数と考えるべきか。

なんかもうちょっとなんだが、何かが分かってない感じだな。

とりあえず本文に戻ろう。

[karino2]

regular condtional probability

今度はregularなんて物が出てきた。 まず、restrictionというのは、部分集合の上だけに再定義した関数という事らしい。

で、regular conditional probabilityというのは、

1. conditional probabilityで
2. あるオメガと花文字Cに対して、花文字Aの確率測度となっている事

almost surelyは確率1で起こる事象の事だった。

2が何を意味しているのかは良く分からないなぁ。

[karino2]

[karino2]

これが、花文字Aの上でのメジャーだとおっしゃる。

良く分からないなぁ。 ここまでの理解をつらつら書いていこう。

まず

[karino2]

[karino2]

となるようなもの。 で、花文字（じゃないけど）Cの所はサブシグマ代数で、ここの元の期待値になってるようなもの。

Cで積分すると、CとBのintersectionの確率測度となる。 あるオメガを射影するとどういう値が得られるか？

オメガが

• Bの中 … P(BかつC) /P(C)
• Bの外 … 0

という事で、indicator functionになってそうだな。

Cが与えられたらこれでいい訳だが、単なるオメガが与えられたらどうだろう？

[karino2]

条件付き期待値を（また）考え直す

例えば10.1でやった、一回目が同じというサブシグマ代数の時は、E(X|A)は、オメガの関数で、

• オメガがHHかHT ... 3/2
• オメガがTHかTT ... 1/2

となる物だよな。 確かにオメガだけで値が決まるが、Cで積分すると一致するように決まってる。

これらの値には意味は無くて、Cで積分するとCの期待値になる、ってだけだよな。 さらに任意の開集合の逆像が花文字Cの元になってるだけで。

[karino2]

いい加減な議論をすれば、花文字Cはシグマ代数なのだから、だいたいは互いに疎な集合で覆える。

で、任意の値域の値の逆像がこの互いに疎な集合の和で表される。

この互いに疎な集合の一つをCとすると、

E(B|C)はP(BかつC)/P(C)となるユニフォームな密度のような物と出来るんじゃないか。

だから各オメガはこのCのどれかに入るかで値が決まるような、段々の関数。 値の大きさはその期待値をCの長さで割ったようなもの。

厳密にはBの期待値の逆像の値が変わるところでは分割しなきゃいけないが、気分は分かる。

お、これは分かったんじゃないか？ そうか。そういう感じのものか。

[karino2]

条件付き確率を考え直す

では条件付き確率を考え直してみよう。 なんかボレル集合族の元Bがあるとする。

この時、1Bの条件付き期待値は、まずオメガの写像である。

それはどんな写像かというと、互いに疎っぽいCに分けた時のどのCに入ってるかをまず探し、そのCとBのまじわってる範囲の長さをCの長さで割った値へと移す写像だ。

よし、分かった！

[karino2]

regular conditional probabilityを考え直す

さて、regularの定義を考え直す。

任意のオメガに対して、 オメガを固定してBの方を動かすと、元の確率空間全体のシグマ代数の確率測度となっている、が定義だな。

オメガを固定すれば、それが属している互いに疎っぽいCは見つかるので、そこの1Bとのintersectionの長さみたいなもんだ。（定数倍だけ違うが）

で、1Bをいろいろ動かした時に、花文字Aの確率測度になる為には…

感覚的にはBの関数なんだから、逆像はBにおさまりそうなもんだが、いろんな所から同じ値に行って、逆像がシグマ代数に入らないケースはあるのかもしれない。 相当病的なケースかもしれないが。

measurableでさえあれば確率測度にはなりそうな気がする。Bが全体の時はBかつCはCだろうから。

よし！何を言ってるかは分かった気がする！

[karino2]

conditional distribution

次はcondional distribution （p342）

条件付き確率は前のページに定義があった気がするので、何が違うの？というのが第一感。

良く見てみると、前のページのBはシグマ集合族の元であって、確率変数じゃないな。

では今度は確率変数か。

[karino2]

でもそうは言っても、オメガで定義出来ればランダム変数でも定義出来るんじゃないか？

XとYの合成として、結果が直積のR2に行く写像を考える。 これはたぶん可測関数だよな。

で、この直積のボレル集合族かなんか考えれば、これの逆像として前の条件付き確率に帰着されそう。 逆像は同じ一つのオメガでいいし、それは直積である必要も、直積で無い必要も無い。

よし、分かった気がするので、教科書に戻ってみよう。

[karino2]

定義のiとiiを見ると、特にiiは自分の理解と同じ事を言っている。 Xを花文字Cに拡張し、Yの条件をYの値域のボレル集合族に拡張し、定義としては個々の要素で全ページの定義に一致するもの、という事か。

うむ、分かりそうな気がする。

[karino2]

product space case

product space caseってなんかそういう用語があるのかね？それとも単にproduct spaceの場合って意味なのだろうか。まぁ呼び方なんてどうでもいい。

そのあとの話は直積スペースで同じ事を述べているだけに見えるが、 XとYの定義がprojectionになってる所が違うね。

これだとXのlawもYのlawも一緒になっちゃうのでは？と思うが、S, DとT, Bが別なので違う物になるのだった。

で、conditional distributions $$P_x$$ という物が登場している。 複数形のsがついてるのが、前のページの$$ P(Y|\mathscr{C})$$との違いか？まじかよ…

定義としては、直積の断面っぽい物になってる、という事だな。

[karino2]

三角形の具体例

具体的な話が出ているので、真面目にメモを描いてみよう。

[karino2]

[karino2]

こんな一様分布。面積は1/2だから、1に規格化する為には2倍する必要がある。

f(x, y)はその確率密度だな。 $$f_X$$ はy でマージナライズした物が定義か。

あるxの値の時、yは0からxまでの範囲をとるよな。だから高さはxか。2倍して2x。 条件つき確率密度もExample IIの式をただ入れるだけだ。

$$f_X$$は名前からするとXのlawの密度になってて欲しいが成ってるだろうか？ Radon-Nikodymの式を考えてみよう。

ラムダは範囲を食わすと面積を返す測度だろう。

Xのlawは何か？

Xが(x, y)からxを取り出すものなので、逆像は任意のyに広がる。 xの範囲から面積にするには、