20171016-20171027:Lec9

[stuian]

此issue为本周提交作业以及提问讨论的区域。

提交作业的形式为：

• 姓名：xxx
• 作业：链接
• 感想：可以对本周学习内容进行小总结，或者学习过程中的感受，也可以是学习过程中的问题等等。

Tips

• 关于git的使用（我自己早期学习时候总结的包括我遇到的一些问题，入门用的），更详细的教程参考廖雪峰的git教程
• 关于python学习：廖雪峰教程，例外推荐一本书：《笨方法学python》
• 关注本库（点击右上角watch），你的邮箱会接收到本库里code，issue，comment等的更新消息
• github里记录笔记的格式一般是Markdown格式，可以在电脑上下载一个markdownpod或者其他类似软件，记录自己每次的学习笔记，上传到github上，类似于：这样

[guangyaooo]

• 姓名：丁光耀
• 作业：https://github.com/Dgy2017/tf/tree/master/learn_tf_2
• 感想：tensorflow用的很不熟，在做一些练手的小实验时依然有会出现很多bug

[stuian]

• 姓名：蒋文君
• 作业：https://github.com/stuian/NLP/blob/master/lec1/code/word_vector.py
• 感想：继续学习了tensorflow，用tensorflow练习了word-vetor（因为之前没明白），lec还没来得及看完，主要是看了一下ppt和中文博客

[WALLE499]

姓名：赵松 作业：https://github.com/WALLE499/lec9-20171025.git 感想：lec9的PPT和视频上周看完了，里面讲到的都不太懂，所以看完之后在看lec9 推荐的前两篇论文，Parsing with Compositional Vector Grammars 和 Subgradient Methods for Structured Prediction，还没看懂。tensorflow没有练习。

[gitabtion]

• 姓名: 蔡珩
• 作业: 在补理论基础，没有进行实践相关的尝试。
• 感想: 本周加强了对神经网络基础的学习，并复习了一下线性代数相关知识，下周开始跟进度看论文。

[Hotown]

• 姓名：罗宏涛
• 作业：第一次提交学习报告，没有事先了解到有这个部分，下一次开始补上。
• 感想：lec9的PPT和中文博客参照着看了大部分，对于Recursive Neural Network有初步的概念，但是不太明白max-margin parsing。复习完了线性代数的知识，学习了基础神经网络，准备动手用python实现一个最简单的神经网络。

[zjp96machineL]

姓名：张金鹏 内容：对lec9的学习 感想：lec9比较系统的介绍了tree-Rnn,由simple-RNN到su-RNN再到mv-RNN。本节课首先由单词与短语的基本关系引出，说明了短语同单词一样，可以表示语义，进而引出利用树去实现这一目的。本节课最重要的部分在于如何去对树的结构以及向量表示去学习，这包括前向传播与反向传播两大部分。之后又再simple-RNN的基础上进行拓展，包括放弃单一矩阵结构的SU-RNN，以及将单词分为两部分表示的MV-RNN。 问题：1.在每次计算并搜索最高的score时，是两两都计算还是仅计算相邻部分。 2.对su-RNN存在的问题（solution部分）没太看懂，以及后面的加速措施pcfg不太了解。

[wtybill1]

姓名：陈梓涵 作业：https://github.com/wtybill1/tensorflow.rnn.git 感想： 1.想试着用tf写一下简单的RNN，发现tensorflow1.2和1.3版本差距有点大，不知道feed_dict代入得真实数据数组形状与占位符该怎么匹配（或者说怎么样算匹配，可能是熬夜降智商），代码里老报错。。我试着调了几个参数，然后好像越改越错。 2.LEC9只看了视频、PPT和第一篇论文，第二篇才开始看，现在才看到MAX-margin公式那里。LEC9主要讲了将sentence投影到semantic vector spaces中，然后进行parsing；objection的构建没太看清楚；后面又讲了BPTS，说的是求w的时候要加所有节点，split derivatives at each node不清楚（这是要干嘛，对向量进行更新吗），还要加上一个error messag；SU-RNN弱化了限制，不必让w处处相同，这样可以优化模型，但是网络深度要增加，PCFG不懂。 3.github里还有挺多东西没弄清楚。 4.收到通知，周五晚上有考试，得请假。

[Lucas-Fan]

姓名：樊志英 作业：https://github.com/Lucas-Fan/lec9 感想：视频看了一半，论文看了两个，就去看SVM，又学了一遍。。 问题：1.SVG没明白原理，论文没看完，谁能分享一下对论文的理解就好了。

[millllk]

姓名：吕思奇 作业：https://github.com/millllk/CS224d/blob/master/simple%20RNN 感想：主要看了lec9的PPT和notes，在尝试用tf写简单的rnn

[Sicanno]

• 姓名：刘云珂
• 作业：https://github.com/Sicanno/cs224d/blob/lec9-RecursiveNN/tips.md
• 感想：
  1 simpleRNN的目标函数对于s的求和表示的是什么。前面定义了(x,y)表示的是所有节点score之和。 2.BTS的参数优化部分还未实践。

[Lonny97]

姓名：王历宁 内容：用tensorflow练习了CNN，RNN进行手写数字识别，学习了下sklearn中SVC的用法，lect9主要看了一篇博客http://www.hankcs.com/nlp/cs224n-tree-recursive-neural-networks-and-constituency-parsing.html 感想：这周尝试使用了tensorflow和keras写CNN和RNN，巩固了对两种算法的理解，这几周课程有点忙没有看视频，只看了上述博客和几个框架的部分中文文档

[ylwxy2015]

姓名：王鑫禹 作业：https://github.com/ylwxy2015/cs224d/blob/master/lecture9.md 感想： 网上关于Recursive NN的资料太少，模型的目标函数这块不是很懂，parsing tree的得分算法视频里没有详讲。