yonesuke / yonesuke.github.io

https://yonesuke.github.io
MIT License
1 stars 0 forks source link

posts/gram_eigen/ #2

Open utterances-bot opened 9 months ago

utterances-bot commented 9 months ago

Gram行列の固有値の数値計算 | Ryosuke Yoneda

カーネル関数$k(\cdot,\cdot)$が与えられたとき、データ点${x{i}}{i=1}^{n}$に対するGram行列(グラム行列)は $$ K=\begin{pmatrix}k(x{1},x{1}) & \cdots & k(x{1},x{n})\\vdots & \ddots & \vdots\ k(x{n},x{1}) & \c

https://yonesuke.github.io/posts/gram_eigen/

shkamiya commented 9 months ago

大変興味深い記事をありがとうございます。GPのサンプルパスの滑らかさと共分散関数の関係、また固有値減衰とサンプルパスの滑らかさの関係について、良さげな文献・論文などがあればご教示いただけませんでしょうか?

yonesuke commented 9 months ago

コメントありがとうございます。 Gaussian Processes for Machine Learningの4.3 Eigenfunction Analysis of Kernelsにカーネルの固有値の減衰とパスの滑らかさの関係に関する言及があります。ここにはRBFカーネルの固有値分解の厳密な表式も載っていて面白いです。 また、Gaussian Processes and Kernel Methods: A Review on Connections and Equivalencesの4.4 Examples of Sample Path Propertiesにはいくらかのカーネルから生成されるパスの滑らかさについて数学的に議論しています。

shkamiya commented 9 months ago

ありがとうございます、見てみようと思います。素人感想ですが、カーネルk(s,t)によって定まる作用素の固有値はカーネル関数を決めれば決まるのに、その減衰度について考えるにあたってはわざわざk(s,t)を共分散関数に持つGPのサンプルパスを持ち出して考えると繋がるというのが、面白い点だと思っています。