要如何在推理代码中加入prompt，来让模型规避一些回答

FreedomIntelligence / HuatuoGPT-II

HuatuoGPT2, One-stage Training for Medical Adaption of LLMs. (An Open Medical GPT)

371 stars 60 forks source link

Open hihaluemen opened 10 months ago

hihaluemen commented 10 months ago

要如何在推理代码cli_demo.py的generate_prompt函数中加入描述，来让模型规避一些问题的回答；如何加会更有效

jymChen commented 10 months ago

@hihaluemen 您好，建议prompt可以加到问题里，因为HuatuoGPT-II没有专门设计system prompt的模版，所以如果有特殊的prompt需求，可以放到问题输入里说明清楚就可以了。

hihaluemen commented 10 months ago

@jymChen 好的，我尝试一下。谢谢！