LLM-based reranker是否要加入prompt

FlagOpen / FlagEmbedding

Retrieval and Retrieval-augmented LLMs

MIT License

7.71k stars 561 forks source link

Open newfyu opened 3 months ago

newfyu commented 3 months ago

比如bge-reranker-v2-minicpm-layerwise, bge-reranker-v2.5-gemma2-lightweight等模型示例中使用hunggingface的库加载，加入了prompt 使用FlagEmbedding的库加载，没有使用prompt，应该是自动加入了

但bge-reranker-v2.5-gemma2-lightweight，好像提出了4种不同的prompt，在使用FlagEmbedding库的时候又怎么区分和指定prompt呢？

545999961 commented 3 months ago

使用FlagEmbedding的时候可以在compute_score的时候指定使用哪一个prompt，不指定的话就会加载默认的prompt