search

NLPJCL / RAG-Retrieval

Unify Efficient Fine-tuning of RAG Retrieval, including Embedding, ColBERT,Cross Encoder
MIT License
441 stars 38 forks source link

多机多卡微调m3e #35

Open Gavince opened 2 weeks ago

Gavince commented 2 weeks ago

会支持多机多卡微调m3e,想要通过扩大batch 负采样数量来提高效果

NLPJCL commented 2 weeks ago

优先级不大，目前在忙着做llm-reranker的实验。 欢迎有兴趣的人给提供一个pr，我可以给出一些指导，就是需要做些实验来验证下。