search

huangjunheng / recommendation_model

练习下用pytorch来复现下经典的推荐系统模型, 如MF, FM, DeepConn, MMOE, PLE, DeepFM, NFM, DCN, AFM, AutoInt, ONN, FiBiNET, DCN-v2, AFN, DCAP等
500 stars 112 forks source link

请教用MMOE解决回归和分类任务 #1

Open zoe218 opened 3 years ago

zoe218 commented 3 years ago

Hello～ 最近遇到多目标学习的问题，用一个模型学习回归和分类任务，但是用MMOE结果很异常。 要是想适应回归和分类任务，你对如何修改MMOE有什么建议么？

huangjunheng commented 3 years ago

我的理解 多任务学习需要确保2个任务最起码是有一定相关性的 完全无关的任务 不适合用多任务学习

lixingyuan1998 commented 2 years ago

您好请问数据是有的train_data, train_label, validation_data, validation_label, test_data, test_label直接跑会报错 raise ValueError("{0} format is not supported".format(y_type)) ValueError: unknown format is not supported

lixingyuan1998 commented 2 years ago

解决了 roc_auc_score 不支持tensor需要转化一下 还是谢谢啦~

IrvingZJU commented 2 years ago

Hello～ 最近遇到多目标学习的问题，用一个模型学习回归和分类任务，但是用MMOE结果很异常。 要是想适应回归和分类任务，你对如何修改MMOE有什么建议么？

首先任务要有一定的相关性，回归和分类是可以多任务的，就是一个Tower多一个sigmoid或softmax，然后损失函数不同罢了，需要注意两个loss的量级要尽量接近。

Wsy002 commented 2 years ago

解决了 roc_auc_score 不支持tensor需要转化一下 还是谢谢啦~

你好想请问下要怎么更改呢 一样遇到这个问题