cliuxinxin
commented
4 years ago 辛顿因为经常去银行搞业务，去久了就发现，好像每次去银行办事，接待他的人都不一样。他就问，为啥我每次来办业务，你们接待的人都不一样呢。接待的人就给他说，如果一个人在接待的位置弄久了，就会搞些小动作。这样经常换换，那些小动作就避免掉。当时辛顿正在为模型过拟合的事情伤脑经，这件事情启发了他。数据就像客人，神经元就像接待员。如果一个神经元看数据看久了，不就过拟合了。我要是dropout一下，不就能够避免了过拟合现象。如今看来，dropout真是把网络搞大的神器
说起dropout想起一件有趣的事情。dropout是辛顿老爷子想出来的。他又是怎么想起来搞这个事情的呢。