情感分析问题 - Githubissues

920232796 / bert_seq2seq

pytorch实现 Bert 做seq2seq任务，使用unilm方案,现在也可以做自动摘要，文本分类，情感分析，NER，词性标注等任务,支持t5模型，支持GPT2进行文章续写。

Apache License 2.0

1.29k stars 209 forks source link

Open zhangaixue-github opened 4 years ago

zhangaixue-github commented 4 years ago

大佬我想用您的bert+crf做个情感分析的模型比如分析一个评论是好评还是差评该怎么做呢

920232796 commented 4 years ago

情感分析很简单呀，应该不需要crf吧～直接提取cls向量做分类就行。不过注意可能不需要用到所有层，用前四层就差不多了，因为参数过多可能会过拟合。

zhangaixue-github commented 4 years ago

想用CRF来做这个分类可行吗

920232796 commented 4 years ago

感觉不太可行，crf 是做序列标注的，是输出一个序列结果，分类只是一个结果。为啥要有crf？就是因为要对序列下一个输出造成影响，而不是只靠softmax自己的得分。情感分析只是一个输出，不需要crf吧？我再查一下。

zhangaixue-github commented 4 years ago

之前有看到过用CRF做情感分析的分类器的论文，导师觉得这个还不错，就让我搞这个太难了 @-@

920232796 commented 4 years ago

哈哈，我也不清楚那个论文具体咋做的，刚才大体查了下，感觉真没必要呀。加油！先学学，慢慢会有明确的方向的！

tcxia commented 4 years ago

使用分类模型训练自己情感数据，修改标签，一直报错：RuntimeError: CUDA error: device-side assert triggered

920232796 commented 4 years ago

使用分类模型训练自己情感数据，修改标签，一直报错：RuntimeError: CUDA error: device-side assert triggered

来群里把代码发给我看看？有一种办法就是你切换cpu，因为cuda的话报错不明显，切换cpu可能就知道错误是什么了～