search

nndl / solutions

《神经网络与深度学习》课后习题答案-分享讨论
690 stars 80 forks source link

习题10-3 #72

Open simo-an opened 2 years ago

simo-an commented 2 years ago

习题10-3 分析自训练和EM算法之间的联系

解答

  1. 什么是自训练 首先使用标注数据训练一个模型 => 使用该模型来预测无标签样本的标签 => 将置信度较高的样本连同预测的标签加入到训练集 => 重新训练模型 => ...

不断循环上面的过程。

  1. EM算法简介 EM算法分为两步，即 E步和M步：
    • E 步：当参数 𝜃 已知 => 根据训练数据推断出最优隐变量的值
    • M步：当隐变量已知 => 对参数 𝜃 做极大似然估计

这两步不断重复， 直到收敛到某个局部最优解．

  1. 自训练和EM算法之间的联系 自训练和密度估计中 EM 算法都是通过不断地迭代来提高模型能力