search

zyang1580 / CoLLM

The implementation for the work "CoLLM: Integrating Collaborative Embeddings into Large Language Models for Recommendation".
BSD 3-Clause "New" or "Revised" License
47 stars 6 forks source link

关于Lora微调中参数设置的问题。 #10

Closed swordqiqi closed 1 week ago

swordqiqi commented 2 months ago

您好！ 请问，在Lora微调时参数pretrained_path时是如何设置的呢，设置为None还是0925-OODv2_lgcn_book_best_model_d256lr-0.0001wd1e-07.pth这样的文件路径呢。我的理解是应该设置为None，因为第一次微调不加入embedding，但是这样不能运行。

zyang1580 commented 2 months ago

是指rec model的pretrained_path么？是的话，加与不加应该是没有影响的。不能运行报什么错呢？

swordqiqi commented 2 months ago

已经解决了，谢谢！！

Jrui66 commented 2 months ago

已经解决了，谢谢！！ 我也遇到了这个问题，请问您是怎么解决的呢

swordqiqi commented 2 months ago

已经解决了，谢谢！！ 我也遇到了这个问题，请问您是怎么解决的呢 lora微调时将checkpoint_path那行注释掉，pretrained_path填什么内容都可以。就行了