Open CaesarZZP opened 6 years ago
BDT（bootsing decision tree 提升树） 1、算切分点，计算切分(切分点是指x)后左右集合均值c1、c2 [note：这里的切分点可以是特征决策点] 2、计算ci与其对应集合的yi的平方差，选两者的最小二乘和。记录对应的ci和产生这个最小值的切分点。 3、Ti(x) = { c1 x<=切分点；c2 x>切分点} 4、fi(x)=f_i-1(x)+Ti(x) 5、计算loss yi - fi(x) (达到阈值是退出程序) 6、拟合出一份残差表ri = yi-fi(x) 继续1（第一次迭代后都是拟合残差表）
为何有效->选了不同的特征分类之后，合并可达到最终的损失最小化
BDT（bootsing decision tree 提升树） 1、算切分点，计算切分(切分点是指x)后左右集合均值c1、c2 [note：这里的切分点可以是特征决策点] 2、计算ci与其对应集合的yi的平方差，选两者的最小二乘和。记录对应的ci和产生这个最小值的切分点。 3、Ti(x) = { c1 x<=切分点；c2 x>切分点} 4、fi(x)=f_i-1(x)+Ti(x) 5、计算loss yi - fi(x) (达到阈值是退出程序) 6、拟合出一份残差表ri = yi-fi(x) 继续1（第一次迭代后都是拟合残差表）
为何有效->选了不同的特征分类之后，合并可达到最终的损失最小化