catboostの特徴量取り込む？

stgkrt / kaggle-hms

1 stars 0 forks source link

catboostの特徴量取り込む？ #16

Open tttza opened 3 months ago

tttza commented 3 months ago

一時はCatBoostが頑張ってた模様

特徴量をNNに連れてけないですかね。

https://www.kaggle.com/code/cdeotte/catboost-starter-lb-0-60

stgkrt commented 3 months ago

NNからCatBoostはやりやすい(NNで作った特徴量をGBDT入力する)ですが、逆はあまり見たことないですね。今回のタスクは時系列なので余程うまくやらないとGBDTでは性能出ないような気がします (睡眠コンペでうまくやって適当なNNよりもいいスコア出してた人がいたような(penguinさんとかだったかな？)気がするので、見てみてもいいかもです)

stgkrt commented 3 months ago

patient_idとかがカテゴリ情報として使えそうな感じからすると、各モデルの予測値とかを入力して最終段はgbdtの方がスコア高くなりそう