多様体の基礎

[karino2]

ずっと多様体から逃げ続ける人生を送ってきたが、いい加減諦めて向き合おう、と思い、いつか読むと決めていた多様体の基礎を読み始める。

しばらくはGoodfellow本の合間に読んでく感じで、ゆるゆる読んでいきます。

[karino2]

陰関数定理

一晩おいて、もう一度気合入れて定理を読む。

前提としては、fはCr級写像で像がyと同じ次元。

さらにfを縦方向に制限した関数のヤコビアンが正則なら、

1. x方向をWの範囲で動かしても、それを埋め合わせるようなyを探す事が出来る（ようなWが存在する）
2. 埋め合わせる為のyを探す関数ファイのヤコビアンはfをx軸に制約した関数のヤコビアンとy軸に制約した関数のヤコビアンてiiのように書ける

という事か。

[karino2]

お、証明は意外と簡単だな。

F(x, y) = (x, f(x, y))

という関数を作って逆関数定理を適用するだけか。 おお、美しい。

証明よりも、定理自体の意味が分かりにくいな。 y方向に制約した時に正則という事は、感じとしては、制約した関数の逆関数が存在する、という事だよな。

一方で別段何も言ってないように見えるx側の事が分かってしまう。 x側がどこから出てくるかというと、fがCr級写像、という事だよな。

気分的には、xをちょっと動かしても、そのxを埋め合わせるyが見つけられる訳だよな。

それはfがCr級写像なので、気分的にはfがそんなに変化しないようなWの範囲を見つけられる事が出来て、y側に正則なのでその範囲くらいは埋め合わせが出来る、という事か。

なかなか難しいが、気分は理解出来た（気がする）。

[karino2]

定理10.3 微分が上への写像ならf自身は適当な座標系の射影になる

また連続でゴツい定理が。 本質的にはそんな難しく無さそうなので、重要な所だけをメモすれば分かりそう？やってみよう。

dfは上への写像なので、その次元の差のKerが存在する。 そこでこのKerとそれ以外の直和に分解して基底を取る。

するとこの座標系ではfのヤコビアンは10.44の形で表せる。

そこで新たにRmからRmへの写像ファイを作る。 このファイは、後ろnはfの座標表示になるようにし、前のm-n次元はdfのカーネルの基底とする。

このファイが局所座標になっていれば、定理は証明された事になる。というのは、多様体の点pをfで写した物は、元の座標系には依存しないでf1, f2, ..., fnになるからだ。

このファイが座標系になってる為には、適当な開集合の元でCr級微分同相写像になってれば十分かな？

それはファイのヤコビアンが正則なので逆関数定理から、そついう開集合が存在する事が言えて、このファイは座標近傍になってる。

なるほど。

[karino2]

3章読み終わり

射影の所は分量は多いが具体的なのでわかりやすい。メビウスの輪がどうこう、は結果だけ眺めておく。

これで無事3章が終わった！ 逆関数定理の所は挫折しかかったが、根性で頑張った！

あとは6章の微分形式さえ理解すれば言葉としては最低限は押さえられたかな、という気もする。

4章の埋め込みはパラパラ見た所一番大変な定理っぽいが、一方で機械学習屋的には要るか良く分からないので、無理して理解しなくてもいいかな、という気はしている。

最悪ここから曲面と曲線の微分幾何に移っても良いくらいまでは来た気がする。 意外と頑張れるじゃないか、自分。

[karino2]

4章 はめ込みと埋め込み

埋め込み定理はページ数が多く大変そうなので、結果だけを把握して先に進めないかなぁ、という気がする。

埋め込み定理の証明

気合を入れて読んでみたら、コンパクトならそんなに難しくなかった。 位相の復習が多くてページ数が多いが、

1. 開集合の真ん中あたりが1になっててまわりが0に近づくようなCr級関数が作れて、それで被覆できる
2. コンパクトならその中から有限個の開集合が選べる
3. それらの局所座標表示と1の関数の合成写像を開集合の数だけ並べた写像が埋め込みになっている

というあらすじっぽい。 ちゃんと示せるほどは理解してないが、必要になったら細部も追える程度は理解出来た気がする。

[karino2]

1の分割

コンパクトな場合の証明は理解した。 シグマコンパクトの場合は勘弁しておいてやろう（何が？）

一回くらいシグマコンパクトの上で成り立つ物の証明を理解しておかないと、いつもコンパクトの上でしか証明出来ないのだろうし、だからこそここに証明があるのだろうけれど…

[karino2]

第4章、読み終わった！

一見ゴツそうなので適当に飛ばそうと思っていたが、意外と集合論とか線形代数とか測度論とかの前提条件の話が多くて、本題は見た目ほどゴツくは無かった。

読むだけでも結構ちゃんと消化出来た気がする。

一方であんまこの辺の内容は詳しくなくても困ら無さそうな気もする。 機械学習でこの辺を使う時には軽く説明してから使うだろうし、その時に証明を頑張って読めば理解出来る気もする。

ただこの辺の話題自体が接ベクトルや多様体自体の練習にはなってるので、読んでおく事自体は意味はある気がした。

次はベクトル場でその次は微分形式。 ベクトル場は昔古典的にはそれなりにやったので、それを多様体の言葉で見直す、という感じだろう。 もう忘れているとは言え、そんな大変では無いと期待してる。

すると最後の微分形式でこの本は終わる。 微分形式は次の微分幾何の話をするために重要な所なので割とモチベーション高い。

という事で、ここまでくれば最後まで乗り切れるんじゃないかな、と心も軽くなってきた（笑）

[karino2]

第五章 ベクトル場

サクサク読んでいこう。

ベクトル場のベクトルは何故接ベクトルなのか？

しばらく読んでみたが、なかなか知ってるベクトル解析の世界と自分の中でつながらない。

各座標に対応したベクトル量がある、という事を考える時に、何故それを局所座標の微分を基底にした世界のベクトルとみなすのだろうか？

ベクトルの基底は局所座標から得られる物である必要があるのかしら？そしてその時、この意味はどういう意味なのだろう？

[karino2]

幾何学的な意味を考えると、方向微分がそのベクトルとなるような曲線が存在する、という事だよな。

それは気分的にはベクトルがなめらかで連続、という事かなぁ。 それは妥当な仮定に思う。

[karino2]

命題 16.5メモ

登場する物が多くて何が何だか良く分からなくなるので、メモを書く。

[karino2]

[karino2]

さて、下つきのアスタリスクは、M上のベクトル場をN上のベクトル場に写す。

[karino2]

[karino2]

上つきのアスタリスクは、右の関数fを左に写す。

[karino2]

[karino2]

さて、これらを元に式16.34を見ると、左辺はfを上付きで左に戻してXを作用する。

右辺は、Xを下付きで右に写してfに作用させる。それを上付きで左に戻す。

感覚f的には、左に戻した左の世界のベクトル場と、Xを右に写した右の世界でのベクトル場が同じ、と言ってるんだろう。

これを見ながらなら16.34の証明はだいたい追えるな。

[karino2]

第5章、読み終わり

結局全然知ってるベクトル解析の話に合流しなかった(^_^;)

ただ定理の主張は感覚的に納得しやすいものが多くて、証明も感覚的に追いやすいので、見た目よりも楽に読める。 その分全然記憶には留まらなかったが。

この辺を読むと、多様体を真面目に学ぶとgradを定義するのも一苦労なので、物理とかで実際の問題にするような例までたどり着くのは長い道のりだなぁ、と思った。

例えば学部で学ぶようなレベルの量子力学とかを、その数学的解釈をちゃんと理解しようとすると普通に先端の研究みたいなレベルになってしまうのを思い出した。

何をやってるかを正確に理解するにはちゃんと数学をやる方がいいが、ちゃんと数学をやってると学部レベルの事もいつまでも終わらない。（人類がまだ分かってない事もある！）

だからいつも数学を全部きっちりやるのが正しい進め方、という訳では無い。

一方である程度進むと自分が何をやってるのか分からなくなるのは良くある。 自分も今思えば学生の頃、自分が何をやってるのか理解してなくて、そのせいでいろいろ詰まってた部分がある。

そういう時にちゃんとした数学的定式化を理解しておくと、厳密にはtoy problemしか解けなくても、自分が何をやってるかを理解出来て、詰まってる部分を乗り越えられる事はある。 だから数学的定式化が完全に趣味で役に立たない、という事も無く、逆にむしろ、知らない時に思ってるよりは役に立つ事の方が多い気もする。

この辺のバランスは難しいな。 それは機械学習にも言えることだろう。 そうであれば、物理上がりの研究者の方がその辺のバランス感覚は優れているかもなぁ。 自分もバランス感覚を養っていく必要はあるのだろう。

[karino2]

6章微分形式

双対空間なんて忘れたよ…とりあえず頑張って読んで見る。

18.15あたりが良く分からない

p264 の18.15式が良く分からない。

fというのはMからRへの写像と思っていたら、f(w(X))というのが出てくる（wはオメガの事。tex めんどいのでwで）

でもw(X)は定義によりRへの写像だ。 引数の型が違くない？

と読み進めると、18.16でも同じような記述がある。

どういう事かなぁ。f(w(X))をf(p)w(X)の誤植と思えばすべて解決だし、後の意味も通るんだが、二回も誤植、というのも信じがたい。ググっても何も言ってない。

うーん。

[karino2]

あ、分かった。w(X)はpの点での値じゃなくて、pを引数とする関数か。

こういうのは、例えば18.11とかでも出ていたな。

これを踏まえると、fのあとのカッコは関数適用を表すカッコじゃなくて、単純に順番を明示するだけのカッコで、これらはMからRへの関数、つまり最後にpを引数に取るんだな。

18.17の最初の式でそれを理解した。

[karino2]

全微分の座標表示

p264の例2で、全微分の座標表示を計算したら18.18という微積の教科書の形になる、という話。これはちょっと感動的だな。 なるほど、分かったぜ！という気になる。

一方で、最初から18.18の形でもだいたい困らない、という気もする。 Rmじゃない多様体を扱わないと有り難みが無いよねぇ。

[karino2]

一次微分形式の引き戻し

定義18.8（p268）のあたりで定義がいろいろ出てきて良く分からなくなってきたので、いろいろまとめる。

まずファイとかfとかオメガを書いておく。

[karino2]

[karino2]

dファイとオメガを、接ベクトルを元に書く。

[karino2]

[karino2]

XとYはそれぞれpとqの接ベクトルとする。

オメガとdファイを合成するとXからRへの写像となってるので、Xの世界の一次形式となっている。

これが引き戻し、つまり上付きアスタリスクの定義。

[karino2]

k次微分形式の基底（定理19.1）

式だけ見てると良く分からないので、二次元で具体的に書き下してみる。

定理の基底は、以下だって言ってるのかな。

[karino2]

[karino2]

で、19.4でVの基底に対して計算してみる、と言っている。 何か具体例を試してみよう。

[karino2]

[karino2]

ふむ。試しにもうちょっと複雑なベクトルを写してみよう。

[karino2]

[karino2]

なるほど、射影みたくなるのか。

なぜこのオメガの直積が一次独立になるのか？10.4式の記述を考えてみよう。

何か添字が異なる2つのオメガについて、一次独立な事を確認してみよう。例えばw1,w1とw2, w1の2つについて考える。

[karino2]

[karino2]

ふむ、オメガの任意の基底候補について、それだけを1にしてそれ以外を0にするようなVが選べるので、全ての係数はゼロが導けそうだな。

19.5式の右辺は、オメガの各eiへの射影の大きさの積になってるな。 それらは基底候補の線形和で表せそうだ。

[karino2]

外微分の実際の計算

m=3でやってみろ、とp291に書いてあったのでやってみる。

[karino2]

[karino2]

オメガが二次形式の場合にやってみたかったが、ごつくなりすぎるので断念。 まぁなんとなく手が思い出したので、微積ではこの計算やった気がするな。

[karino2]

ストークスの定理は軽く眺める程度に

古典的な場合を若かりし頃にそれなりに使った定理なので、使う時が来たらちゃんと証明読めば良いでしょう、と思ったので、証明のあらすじだけ見て終わらす事にする。

積分まわりもそんなに真面目に読んでない。 1の分割は測度論でいう基本関数っぽいので、ちゃんとこの辺まとめて記述出来るんだろうな、と思うと、いまいちこの形式を追う気も起こらないので。

[karino2]

6章読み終わり！

最後の章なので頑張って読んだ！

昔微分形式とか外微分とかどこかでやったがいまいち良く分かってなかった。 でも微分を接ベクトルの写像と思うと何をやってるか厳密に理解出来るようになった気がする。 全微分も解析で出てきたが、いまいちなんなのか分かってなかったが、多様体の微分から考えるとわかりやすい。

という事で、6章はざっと読んだだけの割にはまぁまぁ理解出来た気がする。

次に読む予定の微分幾何の本、曲線と曲面の微分幾何を読むのに十分な程度は理解したと思う。 この微分幾何の本は多様体を前提としてないっぽいので知らなくてもたぶん読めるけど、多様体での微分幾何の基礎的な所を理解した上で読めばつながりもわかりやすいだろう、と期待して。

もともと6章はベクトル解析とか微分幾何との関連を述べる章という色合いが強いので、この程度の理解で十分だろう、と思っている。

全部ちゃんと理解してるかは怪しいが、接ベクトルの間の変換とかは慣れればそういう物だと理解出来るし、そうやって全微分などをちゃんと消化してあればまぁ合格点だろう。

[karino2]

本書を読み終わって

最後まで読み終わった。途中いろいろ挟まったので期間自体は5/28から読み始めて今日は8/3だから2ヶ月ちょっとかかってる。

ただ本格的に読み始めたのは7/22に一章が読み終わった、と言ってるので7/20前後だろう。すると二週間ちょっとくらいという所だと思う。 この本を二週間で読んだとかAmazonのレビューで見て「読めるかっ！」とか思ったが、むしろ忘れない内に一気に読む為には、「そのくらいで読みきらないと逆にきつい」という気もする。

[karino2]

学部生の頃の事をいろいろ思い出した

そもそも多様体、学部の三年頃「やんなきゃな〜」と思いながら放置してた分野だ。

で、当時そう思ったのにもそれなりに理由はあって、当時ゼミや輪講などで聞いてた話で良く分からなかった事には、結構多様体由来の事が多かった（関数解析由来の物もちょくちょくあった）。

ストークスの定理とかはいかにも電磁気だし、ベクトル解析自体は学部一年でそれなりにみんなやるもんだと思う。 そういう訳で物理科の学部一年とか二年と親和性が高い話が多い。

学部の頃同じ研究室だった人で、この辺の話を良くしてた人が居たのだが、今ならちゃんと理解出来そうなのでもう一度聞いてみたいな、という気がする。 まだ研究者続けてれば遥かに理解出来ない事やってるはずだが。

[karino2]

そんな訳で測度論よりも前から「やんなきゃなー」と思ってた歴史は長い多様体だが、幾何学はやはり機械学習では重要度は落ちる。 だからやってみた印象としても「まぁだいたい知らなくてもあんまり問題にならないだろうな」とは思った。

ただ「あんまり」というのはゼロでは無い。 ちょっとその辺の事は軽く書いてみたい。

[karino2]

多様体の基礎を学ぶ意義

幾何学を学ぶ意義というのは幾つかあるように思う。

まず機械学習の最適化の部分で幾何的な考察が役に立つケース。 これは少ないとは言えゼロでは無い。 そしてそういう事をやりたいなら、当然多様体は前提知識となる。 ただこれは幾何学ガチ勢なので学ぶ意義とか私が言うまでも無かろう。

どちらかというと、専門以外の人が他人のその辺の専門の話をなんとなく理解するのに必要、という方が現実的に思う。 おそらく多様体の基礎と微分幾何の基礎くらいまで押さえてたら、あとは専門の人はわかるように説明してくれるだろう。 分からないにしても何をやれば分かるのかの参照くらいは教えてくれる。

この、自分に分からない範囲を理解する、という目的には、多様体の基礎を押さえておくくらいはちょうど良い気がする。

[karino2]

集合論の上の数学の全体像を知る

数学の全部の分野を知るなんていうのは非現実的だが、それでも良く使う範囲では大きく大分類としては

1. 解析
2. 幾何学

に分けられると思う。 学部一年では解析入門と線形代数みたいな名前がついている物の延長。

解析に関してはDeep Learningではかなり高度な事まで求められる事があるので、入門を越えて結構専門的なところまで踏み込む事になるだろう。

この過程でいろいろな事を集合論的に扱う事になるので、解析は集合論で捉え直す十分な訓練を積む事になる。

ここにさらに幾何学の基礎を集合論で捉え直す訓練をしておくと、数学のかなり広い分野を集合論で見直した事になる。

解析と幾何の両方の基礎を集合論で捉え直しておけば、何かもっと高度や新しい事が必要になった時も、集合論の一つ上くらいまでは知ってる事が多い。 そうするとその分野がどういうことをやっててどれくらい大変で、どのくらい有用かをなんとなく知る事が出来る。

これは自分の今後の専門性とか考える時に結構重要な視点じゃないか。 だいたいこういう感じなんだろうな、と分かった上で切り捨てるのと、全然分からないけどなんか切り捨てるのでは、そこを切り捨てる被害のギャンブル度合いが大分違う気がする。

[karino2]

また、解析を集合論の1つ目の応用とすると、2つ目の応用、というメリットもある。 2つやると、類似性と違う所が分かって、3つ目以降もわかりやすくなると思うし、集合論自体もどこが重要なのかを判断出来るようになる気がする。

2つあるって大切だよね。 多様体は2つ目の具体例として手頃な気がする。 結構解析と違うし、図とのつながりで感覚的にもイメージしやすいし。

[karino2]

長い宿題を終えたような感動

初めて測度論をやった時も思ったが、長いこと「やんなきゃなー」と思ってた事を実際にやると気分が良い。 なんか晴れやかで、自信もつく。

この本をやる事自体は自分にはそう楽では無かったし、むしろかなり辛かったが、それでも気合入れれば一ヶ月も経たずに終わるのだ。 それくらいだったらやればいいじゃないか、という気になった。

多様体をやった一番の意義は、このなんだかわかんない何か、というのを、自分の中で片付けたスッキリ感な気がする。

[karino2]

この本の感想

Amazonなどに大量のレビューがついてるのでそれを踏まえて。

まず記述が冗長でかえってわかりにくい、というのは、簡単に飛ばせるのでそうでもないな、と思った。

感覚的な記述がかえって分かりにくい、という場所は何箇所かあった（座標の引き戻しとか）。 ただ、そういう人は自分で厳密に計算してみたらいいと思う。 そういう人が詰まるような場所は無かったと思う。

単射とか全射という言葉は使ってほしかったけど、それくらいかな。

線形代数などの復習的な内容の分量はかなり多いと思うが、飛ばせば良いと思った。その辺飛ばすのは比較的容易だったので、自分的にはマイナス点じゃない。

全体的に、その手の意見はただドヤりたいだけで言うほどでも無いじゃん、というのが自分の印象。

噂にたがわず非常に詳しく進めるので、ついていけない事はほとんど無かったし、行間を埋める苦労もほとんど無かった。 これは数学の教科書としては賛否両論あるだろうな、と思う。

この辺で行間を埋める訓練をする方が今後の為とは思うが、一方でこれが最終目標の人だって居るだろうし、 またこういう本を読んだ上で行間を埋める必要のある本に進む方がスムーズに進む人も居るだろう。 人によって適切な階段の1段1段の大きさは違う。

[karino2]

また、自分には皆が言う程簡単では無かった。 行間を埋める必要が無くても、定義が高階に積み重なっていけば辛い。 なんと言おうとこれは純粋な数学のちゃんとした教科書だ。

有り難みが少なすぎる、という意見も多いが、少なくとも機械学習屋が基礎的な言葉やお作法を学ぶには十分過ぎる内容だった。 この位が役に立つ人は結構居ると思う。 数学科の人が幾何学を専門にしていこうと思うなら全然足りないだろうが、そういう人も別に一冊目に読むには悪くないと思った。あまり金の無い学生がなけなしの貯金をはたいて買ったら、金額の分の価値が無い、と思う人は居るかもしれないが。 少なくとも社会人なら価格以上の価値はあるだろう。

[karino2]

こんなにゆっくり進む数学の教科書はこれまで見た事無い。そういう点で凄く特別な本だと思う。 分かりにくい所などにちゃんと注釈や解説があって、はまらないように凄く気をつけて書かれている。 数学の教科書はみんなこういう風に書いてくれたらなぁ、と思うが、これ書くのは大変そうなので難しいか。

自分のこれまでの数学の教科書の常識を覆す素晴らしい本で、感銘を受けた。 ついでにそのおかげてなんとか乗り切る事にも成功した。松本先生、ありがとう！