Ex. 3.21 - Githubissues

szcf-weiya / ESL-CN

The Elements of Statistical Learning (ESL)的中文翻译、代码实现及其习题解答。

https://esl.hohoweiya.xyz

GNU General Public License v3.0

2.4k stars 588 forks source link

Closed szcf-weiya closed 5 years ago

szcf-weiya commented 5 years ago

szcf-weiya commented 5 years ago

Remark: For the reduced rank regression discussed in Izenman (1975), we have similar result:

YuKrai commented 5 years ago

Emmm好像顺序和方向有点小问题

20190705_162001 20190705_161952

szcf-weiya commented 5 years ago

Emmm好像顺序和方向有点小问题

有点疑问：

YuKrai commented 5 years ago

Emmm好像顺序和方向有点小问题

有点疑问：

Emmmm符号是有点混乱，第二行应该是求min||D-M||^2，这里rank M=k 后面的U都替换成M... 原因是||A-B||^2=||UDV'-B||^2=||D-U^(-1)BV||^2 然后令U^(-1)BV=M

bxdd commented 3 years ago

请问一下这个3.7.18 公式的含义是什么？\mu_j这个地方没看懂

szcf-weiya commented 3 years ago

请问一下这个3.7.18 公式的含义是什么？\mu_j这个地方没看懂

注意其带上了括号，\mu_j()，它是一个函数，表示第 j 个 latent value，参考文献中举了个 Toeplitz matrix 的例子

bxdd commented 3 years ago

十分感谢您的多次解答，但是我仍然不能将这个定理与该题进行联系（可能是因为我的知识存在断层）。我自己证明了一种更显然的引理，希望对大家有帮助（如果有谬误还请指出~

szcf-weiya commented 3 years ago

@bxdd 因为矩阵的 trace 刚好等于特征值之和，亦即奇异值平方之和，也因此如果单个特征值达到最小则trace也会最小化。你写的刚好是该定理的直接推论，参考书中的 Corollary 3.7.4.

bxdd commented 3 years ago

但是，这里只是前L大的特征值达到了最小吧？前L大特征值最小，不一定trace最小？

szcf-weiya commented 3 years ago

但是，这里只是前L大的特征值达到了最小吧？前L大特征值最小，不一定trace最小？

3.7.18 式中 mu_j 并没有限制 j 小于等于 L 呀