search

szcf-weiya / ESL-CN

The Elements of Statistical Learning (ESL)的中文翻译、代码实现及其习题解答。
https://esl.hohoweiya.xyz
GNU General Public License v3.0
2.4k stars 588 forks source link

Ex. 3.9 #179

Closed szcf-weiya closed 5 years ago

szcf-weiya commented 5 years ago

selection_060

szcf-weiya commented 5 years ago

PNG image

szcf-weiya commented 5 years ago

In geometry, we should pick the column which had the largest projection in the direction of r.

TacetTang commented 5 years ago

你好！我是您ESL译本的一名读者，想请问一下，这个原题目中的“an additional p−q predictors in the matrix X2”是什么意思呢？是原文中已有的概念还是新提出的呢？

szcf-weiya commented 5 years ago

@TacetTang 默认情况下 X 是 N * p 的，也就是 p 个 predictor，现在 X1 包含 q 个 predictor，X2 则是 p - q 个。

TacetTang commented 5 years ago

@TacetTang 默认情况下 X 是 N * p 的，也就是 p 个 predictor，现在 X1 包含 q 个 predictor，X2 则是 p - q 个。

明白啦，我以为是p和q的意思，谢谢！

GiGi-Wu commented 5 years ago

您好，我是您的读者，关于倒数第二步有些不理解，按照您的意思|| I-QQ^TX_{q+j}||和||I-QQ^T||||X_{q+j}||等价，请问是为什么？

GiGi-Wu commented 5 years ago

还有，您用蓝色字体写的等式理论上应该等于0向量啊，那等式左右两边就不等价，或许是我有些地方理解不透彻，期待您的解答！

szcf-weiya commented 5 years ago

您好，我是您的读者，关于倒数第二步有些不理解，按照您的意思|| I-QQ^TX{q+j}||和||I-QQ^T||||X{q+j}||等价，请问是为什么？

谢谢！这个应该是有问题的，本想直接得到更简洁的形式，所以有点想当然。看样子只能到此为止，或者分母写成 x{q+j}'(I-QQ')x{q+j}

还有，您用蓝色字体写的等式理论上应该等于0向量啊，那等式左右两边就不等价，或许是我有些地方理解不透彻，期待您的解答！

为什么是 0 向量呢？此处 Q'Q = I, 但不意味着 QQ' = I.

bxdd commented 3 years ago

您好，想问一下这一步在怎么来的 image 是不是应该这样 image

szcf-weiya commented 3 years ago

@bxdd 谢谢！是我疏忽了！已更新！不过根据 image 依然是对中间项进行最优化。另外发现原解答中残差 r 的符号弄反了，前面是 yhat - y, 上面截图是 y - yhat，现在都统一成 y - yhat。